Groupe de Travail sur l'Intelligence Artificielle et ses Implications pour l'Espace de l'Information et de la Communication
Le développement et les rapides progrès de l’intelligence artificielle (IA), de l’intelligence artificielle générative et même de l’intelligence artificielle générale (IAG) transforment l’espace mondial de l’information et de la communication à un rythme presque sans équivalent parmi les innovations technologiques récentes.
Les outils d’IA générative permettent à n’importe qui de devenir facilement créateur de contenu. Cependant, l’IA peut inventer des sources, créer de la désinformation et des deepfakes, ce qui amplifie les dangers de la désinformation et du chaos informationnel, lesquels mettent de plus en plus sous tension nos institutions démocratiques.
Les applications de l’IA prennent aujourd’hui des décisions déterminantes dans l’espace de l’information, étant donné que la quantité d’informations disponibles et de contenus créés dépasse les capacités humaines de consommation, de tri, de modération et de vérification. Actuellement, ce sont principalement des entreprises privées qui décident des règles du jeu, notamment des garde-fous sécuritaires et éthiques qu’elles choisissent de mettre en place.
Nos institutions démocratiques doivent prendre les devants dans l’élaboration et la mise en œuvre de principes et règles démocratiques pour gouverner le développement, le déploiement et l’utilisation de tous les aspects de l’IA dans l’espace de l’information. En l’absence de lignes directrices – y compris d’incitations réglementaires – provenant de nos institutions démocratiques, les développeurs et les déployeurs de modèles et d’outils d’IA risquent de saper les fondements mêmes de nos démocraties, reposant sur un écosystème informationnel crédible et légitime.
L’IA est un bien public et nous devons assurer le contrôle démocratique de l’IA dans l’espace d’information et de communication.
Périmètre
Le groupe de travail entame un programme de recherche qui comprend la collecte de contributions d’experts du monde entier dans les quatre domaines suivants, identifiés comme prioritaires :
Développement et déploiement des systèmes d’IA
Recommandations pour la mise en place de garde-fous en ce qui concerne la conception, le développement et le déploiement des systèmes d’IA afin de réduire les risques qu’ils représentent pour l’espace informationnel, de respecter la confidentialité des données et la propriété intellectuelle, et de promouvoir la transparence, la diversité et la représentativité des systèmes d’IA.
Régimes de responsabilité
Recommandations pour la mise en place de régimes de responsabilité pour les développeurs, les déployeurs, les utilisateurs et les personnes impactés par les systèmes d’IA en ce qui concerne les résultats générés et les décisions prises par l’IA ainsi que la mise en place des mécanismes de recours.
Incitation pour un développement et usage éthique de l’IA
Recommandations sur des mesures à mettre en place pour inciter un développement, déploiement et usage éthique de l’IA. Cela inclut également l’éducation à l’IA.
Gouvernance de l’IA
Recommandations sur les options de gouvernance et le contrôle démocratique des systèmes d’IA à l’échelle nationale et internationale. Cela inclut des recommendations pour renforcer le rôle de la société civile, des chercheurs et d’autres parties prenantes dans ce contrôle.
GROUPE DE TRAVAIL
Co-présidents
Laura Schertel Mendes
BRESIL
Professeur de droit à l’Institut brésilien pour le développement, l’éducation et la recherche
Jonathan Stray
ETATS-UNIS
Scientifique senior, Berkeley Center for Human-Compatible AI
Membres du Groupe de Travail
Rachel Adams
afrique du sud
Directrice, l’Observatoire africain sur l’IA responsable, Research ICT Africa
Linda Bonyo
KENYA
Directrice Fondateur Africa Law Tech et Fondatrice du Lawyers Hub
Marta Cantero Gamito
italie
Professeur de droit des technologies de l’information, Université de Tartu ; chercheuse, Florence School of Transnational Governance (Chair on AI & Democracy, EUI)
Alistair Knott
NOUVELLE ZÉLANDE
School of Engineering and Computer Science, Université Victoria de Wellington
Syed Nazakat
inde
Entrepreneur en médias, fondateur et PDG de DataLEADS
Alice Oh
CORÉE
Professeur d’informatique, Korean Advanced Institute of Science and Technology
Alejandro Pisanty
MEXIque
Professeur, Facultad de Quimica, Université nationale du Mexique
Gabriela Ramos
Sous-Directrice générale pour les Sciences sociales et humaines, UNESCO
Achim Rettinger
ALLEMAGNE
Professeur, Apprentissage de la représentation des connaissances, Université de Trier
Edward Santow
AUSTRALIE
Professeur et Directeur, Policy and Governance Human Technology Institute, Université de technologie Sydney
Suzanne Vergnolle
FRANCE
Maître de conférences en droit du numérique au Cnam
Claes de Vreese
PAYS-BAS
Professor de l’intelligence artificielle et de la société, Université d’Amsterdam