Intitulé « L’IA en tant que bien public : Assurer le contrôle démocratique de l’IA dans l’espace d’information« Le cadre politique publié le 28 février 2024 contient plus de 200 recommandations adressées aux États et aux entreprises d’IA. Il adopte une approche globale appelant à des systèmes d’IA sûrs et inclusifs, mettant en place des mécanismes de responsabilité et des incitations à l’IA éthique ainsi que des mécanismes de gouvernance.
Les recommandations politiques ont été élaborées par un groupe de travail international composé de 14 membres issus de diverses disciplines et de 13 pays de tous les continents. Le groupe était coprésidé par Laura Schertel Mendes, professeur de droit, et Jonathan Stray, scientifique principal, et composé de Rachel Adams, Linda Bonyo, Marta Cantero Gamito, Alistair Knott, Syed Nazakat, Alice Oh, Alejandro Pisanty, Gabriela Ramos, Achim Rettinger, Edward Santow, Suzanne Vergnolle et Claes de Vreese. Pendant six mois, ils ont travaillé dans le cadre d’un processus inclusif et consultatif, recevant les contributions de plus de 150 experts du monde entier.
Le rapport présente des recommandations clés à l’intention des gouvernements, de l’industrie et des parties prenantes concernées, notamment :
- Favoriser la création d’un système de certification sur mesure pour les entreprises d’IA, inspiré du succès du système de certification du commerce équitable.
- Établir des normes régissant l’authenticité et la provenance du contenu, y compris pour l’authentification de l’auteur.
- Mettre en œuvre un cadre juridique complet qui définisse clairement les droits des individus, y compris le droit d’être informé, de recevoir une explication, de contester un résultat généré par une machine et de ne pas subir de discrimination.
- Offrir aux utilisateurs la possibilité de choisir facilement et de manière conviviale d’autres systèmes de recommandation qui n’optimisent pas l’engagement, mais qui s’appuient sur le classement pour favoriser des résultats individuels et sociétaux positifs, tels que des informations fiables, des contenus de transition ou la diversité des informations.
- Mettre en place un processus participatif pour déterminer les règles et les critères régissant la provenance et la conservation des données, l’étiquetage humain pour la formation à l’IA, l’alignement et le red-teaming afin de construire des systèmes d’IA inclusifs, non-discriminatoires et transparents.
« Les démocraties doivent cesser de permettre aux entreprises technologiques de dicter la trajectoire de la technologie, de s’approprier le discours politique et de fixer les agendas. Des solutions existent pour construire un espace mondial d’information et de communication propice à la démocratie, qui crée de la valeur pour les gens, non seulement en tant que consommateurs, mais avant tout en tant que citoyens. Nous vous présentons ces solutions aujourd’hui. Elles appellent à la mise en place d’un cadre global encourageant les entreprises qui développent et déploient l’IA à mettre en œuvre des procédures démocratiques, suggérant des mesures pour inciter au développement et à l’utilisation éthiques de l’IA et établissant un cadre pour la responsabilité, la gouvernance et la surveillance, « souligne Michael Bąk, directeur exécutif du Forum sur l’information et la démocratie. « C’est ce que nous appelons l’IA équitable.
Des événements récents ont montré le pouvoir destructeur que l’IA peut avoir sur les processus politiques. Fausses découvertes Les chatbots des acteurs politiques peuvent influencer le comportement des électeurs, et les systèmes d’IA peuvent amplifier les contenus qui aggravent les conflits et les crises. Des chatbots ont déjà fourni des informations erronées sur des élections. Les systèmes d’IA peuvent reproduire les inégalités existantes et les hégémonies culturelles et conduire à la discrimination et aux préjugés. Pourtant, l’IA offre également des possibilités inexploitées pour renforcer la production de nouvelles, l’analyse des données et l’accès à l’information.
« Si le développement et l’utilisation de l’IA se poursuivent comme ils le font actuellement, ils posent des défis majeurs à l’environnement d’information qui alimente les processus démocratiques. Nous sommes à l’aube d’un changement majeur dans le paysage de la gouvernance de l’IA, qui passera des idées à la réglementation. Il est temps que les États agissent, et notre feuille de route vise à guider les décideurs politiques dans la défense de la démocratie. « explique Laura Schertel Mendes et Jonathan Stray, coprésidents du groupe de travail.
Le rapport a été lancé à l’occasion d’un événement mondial dans cinq villes de quatre continents. Cet événement comprend un lancement en ligne et des débats d’experts locaux, organisés en collaboration avec plusieurs partenaires : Centre pour l’intelligence artificielle compatible avec l’homme (UC Berkeley, États-Unis), École de gouvernance transnationale de Florence (Institut universitaire européen, Italie), Institut de l’éducation, du développement et de la recherche (Brésil), Research ICT Africa (Afrique du Sud), et École des affaires internationales de ParisLe Centre d’innovation de SciencesPo, Tech et Global Affairs (SciencesPo, France).
Christophe Deloire, président du Forum sur l’information et la démocratie, a présenté les principales conclusions du rapport depuis Paris, avant que les coprésidents Jonathan Stray et Laura Schertel Mendes ne s’expriment respectivement à Berkeley et à Brasilia. Scott Timcke nous rejoindra du Cap et Marta Cantero Gamito de Florence, avant de donner la parole à Gabriela Ramos, membre du groupe de travail qui a dirigé l’élaboration des recommandations sur l’éthique de l’IA à l’UNESCO.
