vendredi 26 novembre 2021

Audrey Azouley, Directrice Générale de l'UNESCO présente un texte sur l'intelligence artificielle et l'éthique

 

Audrey Azoulay, Directrice générale de l’UNESCO, a présenté le jeudi 25 novembre 2021, la toute première norme mondiale sur l’éthique et l'intelligence artificielle qui a été adoptée par les États membres de l’UNESCO lors de la Conférence générale.



Audrey Azouley, Directrice 
Générale de l'UNESCO, Intelligence artificielle et l'éthique 

Ce texte historique énonce des valeurs et principes communs qui guideront la mise en place de l’infrastructure juridique nécessaire pour assurer un développement sain de l’intelligence artificielle.

L’intelligence artificielle est omniprésente, elle intervient dans un grand nombre de nos habitudes quotidiennes, qu’il s'agisse de réserver un vol, de diriger des voitures sans conducteur ou de personnaliser notre fil d'actualité du matin. L’intelligence artificielle participe également à la prise de décision des gouvernements et du secteur privé. 

Les technologies de l’intelligence artificielle donnent des résultats remarquables dans des domaines très spécialisés comme le dépistage du cancer et la création d'environnements inclusifs pour les personnes handicapées. Elle peut également contribuer à lutter contre des problèmes mondiaux tels que le changement climatique ou la faim dans le monde et aider à réduire la pauvreté en optimisant l’aide économique.

Mais cette technologie apporte également de nouveaux défis. On assiste à une augmentation des préjugés sexistes et ethniques, des menaces qui pèsent sur la vie privée, la dignité et la capacité d’agir, des dangers de la surveillance de masse et de l'utilisation accrue de technologies de l’intelligence artificielle peu fiables dans l'application de la loi, pour ne citer que quelques exemples. Depuis, il n’existait aucune norme universelle permettant d'apporter une réponse à ces problèmes.

En 2018, Audrey Azoulay, Directrice générale de l’UNESCO, a lancé un projet ambitieux : donner au monde un cadre éthique pour l'utilisation de l'intelligence artificielle. Trois ans plus tard, grâce à la mobilisation de centaines d'experts du monde entier et d'intenses négociations internationales, les 193 États membres de l’UNESCO viennent d’adopter officiellement ce cadre éthique.

Le monde a besoin de règles pour que l'intelligence artificielle profite à l’humanité. La Recommandation sur l'éthique de l’IA est une réponse forte. Elle fixe le premier cadre normatif mondial tout en donnant aux États la responsabilité de l’appliquer à leur niveau. L’UNESCO soutiendra ses 193 États membres dans sa mise en œuvre et leur demandera de rendre compte régulièrement

de leurs progrès et de leurs pratiques. 

Audrey Azoulay, Directrice générale de l'UNESCO

La Recommandation

La recommandation vise à concrétiser les avantages que l’IA (Intelligence artificielle) apporte à la société et à réduire les risques qu’elle comporte. Elle veille à ce que les transformations numériques favorisent les droits de l’homme et contribuent à la réalisation des Objectifs de développement durable, en abordant les problématiques liées à la transparence, la responsabilité et la vie privée. Elle comprend des chapitres politiques orientés vers l’action sur la gouvernance des données, l’éducation, la culture, le travail, les soins de santé et l’économie.

1.     Protection des données

La Recommandation appelle à aller au-delà de ce que les entreprises technologiques et les gouvernements font pour garantir aux individus une plus grande protection en assurant la transparence, la capacité d’agir et le contrôle de leurs données personnelles. Elle affirme que tous les individus devraient pouvoir accéder aux enregistrements de leurs données personnelles, et même les effacer. Elle prévoit également des actions visant à améliorer la protection des données et la connaissance qu’ont les individus de leurs propres données, ainsi que leur droit de les contrôler. Elle renforce également la capacité des organismes de réglementation du monde entier à faire respecter ces dispositions.

2.     Interdiction de la notation sociale et de la surveillance de masse

La Recommandation interdit explicitement l’utilisation de systèmes d’IA pour la notation sociale et la surveillance de masse. Ces technologies sont très invasives, elles portent atteinte aux droits de l’homme et aux libertés fondamentales, et elles sont utilisées de manière généralisée. La Recommandation souligne que, lors de l’élaboration de cadres réglementaires, les États membres devraient tenir compte du fait que la responsabilité et l’obligation de rendre des comptes incombent toujours aux êtres humains en dernier ressort et que les technologies de l’IA ne devraient pas être dotées elles-mêmes d’une personnalité juridique.

3.     Aide au suivi et à l’évaluation

La Recommandation jette également les bases des outils qui contribueront à sa mise en œuvre. L’évaluation de l’impact éthique vise à aider les pays et les entreprises qui développent et déploient des systèmes d’IA à évaluer l’impact de ces systèmes sur les individus, la société et l’environnement. La méthode d’évaluation de l’état de préparation aide les États Membres à évaluer dans quelle mesure ils sont prêts en termes d’infrastructure juridique et technique. Cet outil contribuera à renforcer la capacité institutionnelle des pays et recommandera les mesures appropriées à prendre afin de garantir la mise en œuvre pratique de l’éthique. En outre, la Recommandation encourage les États Membres à envisager d’ajouter la fonction d’un responsable de l’éthique de l’IA indépendant ou un autre mécanisme pour superviser des audits et une surveillance continue.

4.     Protection de l’environnement

La Recommandation souligne que les acteurs de l’IA devraient privilégier les méthodes d’IA économes en données, en énergie et en ressources qui contribueront à faire de l’IA un outil majeur dans la lutte contre le changement climatique et la résolution de problèmes environnementaux. La Recommandation demande aux gouvernements d’évaluer l’impact environnemental direct et indirect tout au long du cycle de vie du système d’IA. Cela comprend son empreinte carbone, sa consommation d’énergie et l’impact environnemental de l’extraction des matières premières pour soutenir la fabrication des technologies d’IA. Elle vise également à réduire l’impact environnemental des systèmes d’IA et des infrastructures de données. Elle incite les gouvernements à investir dans les technologies vertes, et si les systèmes d’IA ont un impact négatif disproportionné sur l’environnement, la Recommandation préconise de ne pas les utiliser.

Les décisions qui ont un impact sur des millions de personnes devraient être équitables, transparentes et contestables. Ces nouvelles technologies doivent nous aider à relever les grands défis de notre monde actuel, tels que l’accroissement des inégalités et la crise environnementale, et non les aggraver.

Gabriela Ramos, Sous-directrice générale de l’UNESCO pour les sciences sociales et humaines

Les technologies émergentes telles que l’Intelligence artificielle ont prouvé leur immense capacité à faire le bien. Cependant, ses effets négatifs, qui exacerbent les divisions et inégalités existantes au niveau mondial, doivent être contrôlés. Les avancées en matière d’Intelligence artificielle doivent respecter l’état de droit, en évitant de faire du tort et en veillant à ce que, des mécanismes de responsabilité et de réparation soient à la disposition des victimes en cas de préjudice moral causé par un tiers.

 

 

Thérèse Diatta Ngoboh

Aucun commentaire:

Enregistrer un commentaire