Audrey Azoulay, Directrice
générale de l’UNESCO, a présenté le jeudi 25 novembre 2021, la toute première
norme mondiale sur l’éthique et l'intelligence artificielle qui a été adoptée
par les États membres de l’UNESCO lors de la Conférence générale.
Audrey Azouley, Directrice Générale de l'UNESCO, Intelligence artificielle et l'éthique
Ce texte historique énonce des valeurs et principes communs qui guideront
la mise en place de l’infrastructure juridique nécessaire pour assurer un
développement sain de l’intelligence artificielle.
L’intelligence artificielle est omniprésente, elle intervient dans un grand
nombre de nos habitudes quotidiennes, qu’il s'agisse de réserver un vol, de
diriger des voitures sans conducteur ou de personnaliser notre fil d'actualité
du matin. L’intelligence artificielle participe également à la prise de
décision des gouvernements et du secteur privé.
Les technologies de l’intelligence artificielle donnent des résultats
remarquables dans des domaines très spécialisés comme le dépistage du cancer et
la création d'environnements inclusifs pour les personnes handicapées. Elle
peut également contribuer à lutter contre des problèmes mondiaux tels que le
changement climatique ou la faim dans le monde et aider à réduire la pauvreté
en optimisant l’aide économique.
Mais cette technologie apporte également de nouveaux défis. On assiste à
une augmentation des préjugés sexistes et ethniques, des menaces qui pèsent sur
la vie privée, la dignité et la capacité d’agir, des dangers de la surveillance
de masse et de l'utilisation accrue de technologies de l’intelligence artificielle peu fiables dans
l'application de la loi, pour ne citer que quelques exemples. Depuis, il n’existait aucune norme universelle permettant d'apporter une réponse à ces
problèmes.
En 2018, Audrey Azoulay, Directrice
générale de l’UNESCO, a lancé un projet ambitieux : donner au monde un cadre
éthique pour l'utilisation de l'intelligence artificielle. Trois ans plus tard,
grâce à la mobilisation de centaines d'experts du monde entier et d'intenses
négociations internationales, les 193 États membres de l’UNESCO viennent
d’adopter officiellement ce cadre éthique.
Le monde a besoin de règles pour que l'intelligence artificielle
profite à l’humanité. La Recommandation sur l'éthique de l’IA est une réponse
forte. Elle fixe le premier cadre normatif mondial tout en donnant aux États la
responsabilité de l’appliquer à leur niveau. L’UNESCO soutiendra ses 193 États
membres dans sa mise en œuvre et leur demandera de rendre compte régulièrement
de leurs progrès et de leurs pratiques.
Audrey Azoulay, Directrice générale de l'UNESCO
La Recommandation
La recommandation vise à concrétiser les avantages que l’IA (Intelligence
artificielle) apporte à la société et à réduire les risques qu’elle comporte.
Elle veille à ce que les transformations numériques favorisent les droits de
l’homme et contribuent à la réalisation des Objectifs de développement durable,
en abordant les problématiques liées à la transparence, la responsabilité et la
vie privée. Elle comprend des chapitres politiques orientés vers l’action sur
la gouvernance des données, l’éducation, la culture, le travail, les soins de
santé et l’économie.
1. Protection des données
La Recommandation appelle à aller au-delà de ce que les entreprises
technologiques et les gouvernements font pour garantir aux individus une plus
grande protection en assurant la transparence, la capacité d’agir et le
contrôle de leurs données personnelles. Elle affirme que tous les individus
devraient pouvoir accéder aux enregistrements de leurs données personnelles, et
même les effacer. Elle prévoit également des actions visant à améliorer la
protection des données et la connaissance qu’ont les individus de leurs propres
données, ainsi que leur droit de les contrôler. Elle renforce également la
capacité des organismes de réglementation du monde entier à faire respecter ces
dispositions.
2. Interdiction de la notation sociale et de la surveillance
de masse
La Recommandation interdit explicitement l’utilisation de systèmes d’IA
pour la notation sociale et la surveillance de masse. Ces technologies sont
très invasives, elles portent atteinte aux droits de l’homme et aux libertés
fondamentales, et elles sont utilisées de manière généralisée. La
Recommandation souligne que, lors de l’élaboration de cadres réglementaires,
les États membres devraient tenir compte du fait que la responsabilité et
l’obligation de rendre des comptes incombent toujours aux êtres humains en
dernier ressort et que les technologies de l’IA ne devraient pas être dotées
elles-mêmes d’une personnalité juridique.
3. Aide au suivi et à l’évaluation
La Recommandation jette également les bases des outils qui contribueront à
sa mise en œuvre. L’évaluation de l’impact éthique vise à aider les pays et les
entreprises qui développent et déploient des systèmes d’IA à évaluer l’impact
de ces systèmes sur les individus, la société et l’environnement. La méthode
d’évaluation de l’état de préparation aide les États Membres à évaluer dans
quelle mesure ils sont prêts en termes d’infrastructure juridique et technique.
Cet outil contribuera à renforcer la capacité institutionnelle des pays et
recommandera les mesures appropriées à prendre afin de garantir la mise en
œuvre pratique de l’éthique. En outre, la Recommandation encourage les États
Membres à envisager d’ajouter la fonction d’un responsable de l’éthique de l’IA
indépendant ou un autre mécanisme pour superviser des audits et une
surveillance continue.
4. Protection de l’environnement
La Recommandation souligne que les
acteurs de l’IA devraient privilégier les méthodes d’IA économes en données, en
énergie et en ressources qui contribueront à faire de l’IA un outil majeur dans
la lutte contre le changement climatique et la résolution de problèmes
environnementaux. La Recommandation demande aux gouvernements d’évaluer
l’impact environnemental direct et indirect tout au long du cycle de vie du
système d’IA. Cela comprend son empreinte carbone, sa consommation d’énergie et
l’impact environnemental de l’extraction des matières premières pour soutenir
la fabrication des technologies d’IA. Elle vise également à réduire l’impact
environnemental des systèmes d’IA et des infrastructures de données. Elle
incite les gouvernements à investir dans les technologies vertes, et si les
systèmes d’IA ont un impact négatif disproportionné sur l’environnement, la
Recommandation préconise de ne pas les utiliser.
Les décisions qui ont un impact sur des millions de
personnes devraient être équitables, transparentes et contestables. Ces
nouvelles technologies doivent nous aider à relever les grands défis de notre
monde actuel, tels que l’accroissement des inégalités et la crise
environnementale, et non les aggraver.
Gabriela Ramos, Sous-directrice générale de l’UNESCO pour les sciences
sociales et humaines
Les technologies émergentes telles que l’Intelligence artificielle ont
prouvé leur immense capacité à faire le bien. Cependant, ses effets négatifs,
qui exacerbent les divisions et inégalités existantes au niveau mondial,
doivent être contrôlés. Les avancées en matière d’Intelligence artificielle
doivent respecter l’état de droit, en évitant de faire du tort et en veillant à
ce que, des mécanismes de responsabilité et de
réparation soient à la disposition des victimes en cas de préjudice moral causé par un tiers.
Thérèse Diatta Ngoboh
Aucun commentaire:
Enregistrer un commentaire