Projet de convention-cadre sur l'intelligence artificielle, les droits de l'homme, la démocratie et l'État de droit
- Auteur(s) :
- Assemblée parlementaire
- Origine
- Discussion par l’Assemblée le 18
avril 2024 (13e séance) (voir Doc. 15951 et Doc. 15971, rapport de la commission des questions juridiques et
des droits de l'homme, rapporteure: Mme Thórhildur Sunna Ævarsdóttir). Texte adopté par l’Assemblée le
18 avril 2024 (13e séance).
1. L’Assemblée
parlementaire considère que l’intelligence artificielle (IA) est
porteuse à la fois d’opportunités et de défis. La position de l’Assemblée
dans ce domaine a toujours été de souligner l’importance de trouver
un juste équilibre entre l’atténuation des risques et la pleine
utilisation des avantages que l’IA peut offrir pour promouvoir une
vie meilleure pour tous.
2. L’Assemblée rappelle ses travaux antérieurs sur l’IA. En 2020,
elle a adopté une série de résolutions et de recommandations examinant
les opportunités et les risques de l’IA pour la démocratie, les
droits de l’homme et l’État de droit. Il s’agit notamment des
Résolutions 2341 (2020) «La nécessité d’une gouvernance démocratique de l’intelligence
artificielle»,
2342 (2020) «Justice par algorithme – Le rôle de l’intelligence artificielle
dans les systèmes de police et de justice pénale»,
2343 (2020) «Prévenir les discriminations résultant de l’utilisation
de l’intelligence artificielle»,
2344 (2020) «Les interfaces cerveau-machine: nouveaux droits ou
nouveaux dangers pour les libertés fondamentales?»,
2345 (2020) «Intelligence artificielle et marchés du travail: amis
ou ennemis?»,
2346 (2020) «Aspects juridiques concernant les "véhicules autonomes"»,
ses recommandations connexes ainsi que la Recommandation
2185 (2020) «Intelligence artificielle et santé: défis médicaux,
juridiques et éthiques à venir». L’Assemblée a approuvé un ensemble
de principes éthiques clés qui devraient être respectés lors du
développement et de la mise en œuvre d’applications d’IA. Ces principes,
qui ont été précisés dans une annexe commune à tous les rapports,
sont les suivants:
2.1 la transparence,
y compris l’accessibilité et l’explicabilité;
2.2 la justice et l’équité, y compris la non-discrimination;
2.3 la responsabilité humaine des décisions, y compris la
responsabilité juridique et l’existence de voies de recours;
2.4 la sûreté et la sécurité;
2.5 le respect de la vie privée et la protection des données.
3. L’Assemblée est fermement convaincue qu’une réglementation
juridique est nécessaire pour éviter ou atténuer les risques potentiels
pour la démocratie, les droits de l’homme et l’État de droit découlant
de l’utilisation de l’IA. Dans ce contexte, le Conseil de l’Europe,
en tant qu’organisation normative internationale de premier plan
dans le domaine de la démocratie, des droits de l’homme et de l’État
de droit, devrait jouer un rôle pionnier. Tout en soutenant les
travaux du Comité ad hoc du Conseil de l’Europe sur l’intelligence artificielle
(CAHAI) à l’époque, l’Assemblée a appelé le Comité des Ministres
à décider de l’élaboration d’un instrument juridiquement contraignant
régissant l’intelligence artificielle, éventuellement sous la forme
d’une convention ouverte également aux États non membres, qui devrait
être fondée sur une approche globale, traiter de l’ensemble des
cycles de vie des systèmes fondés sur l’IA, s’adresser à toutes
les parties prenantes et inclure des mécanismes pour assurer sa
mise en œuvre. L’Assemblée se félicite donc vivement de la finalisation
du projet de convention-cadre sur l’intelligence artificielle, les
droits de l’homme, la démocratie et l’État de droit par le Comité
sur l’intelligence artificielle du Conseil de l’Europe (CAI).
4. L’Assemblée a toujours considéré que les acteurs privés devraient
relever du champ d’application d’un tel instrument juridiquement
contraignant. Dans sa
Résolution 2341
(2020), elle a estimé que cet instrument devrait contenir des
dispositions visant à limiter les risques d’utilisation des technologies
fondées sur l’IA par les États et les acteurs privés pour exercer
un contrôle sur les personnes, et que l’activité des acteurs privés devrait
faire l’objet d’un contrôle démocratique.
5. La convention-cadre, une fois adoptée, deviendra le tout premier
traité international sur l’IA. Elle se fonde sur les normes du Conseil
de l’Europe en matière de droits humains, de démocratie et d’État
de droit, qui sont également partagées par les États non membres
ayant participé aux négociations. Il s’agit d’un exemple du leadership
du Conseil de l’Europe dans l’élaboration de normes dans des domaines
émergents, y compris la sphère numérique, conformément à la Déclaration
de Reykjavík adoptée par les chefs d’État et de gouvernement en
mai 2023. La valeur ajoutée de la convention-cadre résidera en partie
dans sa portée mondiale puisqu’elle réunira des États du monde entier
désireux de relever les défis globaux posés par l’IA en adoptant
une approche fondée sur les droits humains. L’Assemblée comprend
donc que le processus de rédaction a dû tenir compte de la diversité
des traditions et des systèmes juridiques et politiques, de sorte
que le projet de texte contient souvent des dispositions très générales
et abstraites, ce qui permet une certaine souplesse dans sa mise
en œuvre. Son caractère de «cadre» signifie également qu’elle devra
être complétée par d’autres instruments contraignants ou non contraignants
concernant l’utilisation de l’IA dans des secteurs spécifiques ou
développant davantage certaines dispositions de la convention. L’Assemblée
est prête à contribuer à l’élaboration de tels instruments.
6. L’Assemblée est satisfaite du fait que la plupart des principes
éthiques clés approuvés dans ses rapports de 2020 soient reflétés
dans différentes dispositions du projet de convention-cadre, même
si certains de ces principes auraient pu être formulés comme des
droits individuels positifs plutôt que comme des principes généraux
(par exemple la protection de la vie privée, l’égalité et la non-discrimination).
En outre, il aurait été encore plus clair d’indiquer que chaque
gouvernement devrait être tenu d’informer ses citoyens de l’utilisation des
systèmes d’IA dans les procédures administratives menant à des décisions
juridiques contraignantes. Une autre valeur ajoutée importante de
ce projet de convention-cadre est qu’il vise à protéger non seulement
les droits de l’homme, mais aussi les processus démocratiques et
l’État de droit dans le contexte de l’IA. Les technologies de l’IA
sont susceptibles de perturber le fonctionnement des institutions
et des processus démocratiques, par exemple en interférant dans
les processus électoraux, en désinformant et en manipulant l’opinion
publique. Elles peuvent également avoir un impact sur le fonctionnement
de l’État de droit, notamment sur l’indépendance et l’impartialité
du pouvoir judiciaire et sur l’accès à la justice. À cet égard,
l’Assemblée considère que l’interprétation des «institutions et
processus démocratiques» et de l’«État du droit» au sens du projet
de convention-cadre devrait être guidée par les normes pertinentes
élaborées au fil des ans par des organes du Conseil de l’Europe
tels que la Cour européenne des droits de l’homme et la Commission européenne
pour la démocratie par le droit (Commission de Venise), ainsi que
par les Principes de Reykjavík pour la démocratie. Les rédacteurs
ont toutefois manqué l’occasion de couvrir plus spécifiquement les utilisations
positives de l’IA pour les processus démocratiques, par exemple
en améliorant la responsabilité des gouvernements et en facilitant
l’action et la participation démocratiques.
7. L’Assemblée regrette que le projet de convention-cadre ne
couvre pas de manière égale les acteurs publics et privés. Il introduit
plutôt un système où chaque Partie pourra déterminer dans une déclaration comment
elle entend traiter les risques et les impacts découlant de l’utilisation
de l’IA par les acteurs privés. Ce système est loin d’être idéal
pour la sécurité juridique et la prévisibilité des obligations imposées
par la convention-cadre, et n’est pas conforme aux positions précédemment
exprimées par l’Assemblée, la Commissaire aux droits de l’homme
du Conseil de l’Europe et le CAHAI. Cela va également à l’encontre
du principe selon lequel les États ont des obligations positives
de protéger les individus contre les violations des droits humains
commises par des acteurs privés, conformément à la jurisprudence
de la Cour européenne des droits de l’homme, aux Principes directeurs
des Nations Unies relatifs aux entreprises et aux droits de l’homme, et
aux recommandations pertinentes du Comité des Ministres du Conseil
de l’Europe. De nombreux systèmes d’IA sont développés et déployés
par des entités privées, et l’introduction d’une approche différenciée
pour le secteur privé crée une lacune importante.
8. L’Assemblée appelle donc fermement tous les États membres
du Conseil de l’Europe, lorsqu’ils ratifieront la convention-cadre
et soumettront leurs déclarations au titre de l’article 3.1.b, à reconnaître la pleine applicabilité
des principes et obligations qui y sont énoncés (chapitres II à VI)
aux activités des acteurs privés, et à faire rapport en conséquence
à la future Conférence des Parties au titre de l’article 24. Elle
invite en outre la Conférence des Parties à faire pleinement usage
de ses pouvoirs et à procéder à un examen approprié de la manière
dont toutes les Parties se conforment à l’article 3.1.b. L’Assemblée estime qu’une interprétation dynamique
de cette disposition par le mécanisme de suivi mis en place par
la convention-cadre favorisera les progrès au fil du temps, par
le biais des exigences en matière de rapports et de la pression
exercée par les pairs, y compris en ce qui concerne les États non
membres qui peuvent choisir de ne pas appliquer les obligations
de la convention-cadre aux acteurs privés.
9. Après avoir examiné certaines des propositions des différentes
parties prenantes, et en tenant dûment compte de la structure globale
et du caractère transversal du texte approuvé, l’Assemblée propose
les amendements suivants au projet de convention-cadre:
9.1 remplacer l’article 3.2 par
le texte suivant: «Chaque Partie peut restreindre l’application
des dispositions de la présente Convention si les activités menées
dans le cadre du cycle de vie des systèmes d’intelligence artificielle
sont nécessaires à la protection de ses intérêts en matière de sécurité nationale
ou de défense nationale et si ces activités sont menées de manière
compatible avec le droit international applicable, y compris les
obligations nées du droit international des droits de l’homme, et dans
le respect de ses institutions et processus démocratiques.»;
9.2 supprimer l’article 3.4;
9.3 à l’article 5.1, après «l’efficacité des institutions
et processus démocratiques, y compris» ajouter les mots suivants:
«aux élections libres et équitables,»;
9.4 au chapitre III, ajouter l’article suivant: «Chaque Partie
adopte ou maintient des mesures pour préserver la santé et l’environnement
dans le cadre des activités menées au cours du cycle de vie des systèmes
d’intelligence artificielle, conformément au droit international
et interne applicable.»;
9.5 à l’article 14.2.c ou
dans le rapport explicatif, ajouter une référence aux «autorités
judiciaires» ou au «contrôle juridictionnel»;
9.6 à l’article 15.1, ajouter une référence au «contrôle humain»;
9.7 aux articles 16.1, 16.2.a et e, et 16.3, après: «l’État de droit»
ajouter les mots suivants : «et la préservation de l’environnement»;
9.8 remplacer l’article 16.4 par le texte suivant: «Chaque
Partie prend les mesures législatives ou autres qui se révèlent
nécessaires pour mettre en place des mécanismes de moratoire ou
d’interdiction ou des restrictions concernant certaines utilisations
des systèmes d’intelligence artificielle lorsque ces utilisations
sont considérées comme incompatibles avec le respect des droits
de l’homme, le fonctionnement de la démocratie ou l’État de droit.»;
9.9 au chapitre VI, ajouter l’article suivant: «Chaque Partie
prend les mesures appropriées pour assurer la protection des lanceurs
d’alerte pour les activités menées dans le cadre du cycle de vie
des systèmes d’intelligence artificielle qui pourraient avoir un
effet préjudiciable sur les droits de l’homme, la démocratie et
l’État de droit.»;
9.10 à la fin de l’article 26.2, ajouter la phrase suivante:
«Les fonctions et les pouvoirs de ces mécanismes devraient comprendre
des pouvoirs d’enquête, le pouvoir de donner suite aux plaintes, l’établissement
de rapports périodiques, la promotion, la sensibilisation du public
et la consultation sur la mise en œuvre effective de la présente
Convention.»;
9.11 au chapitre VII, après l’article 26, ajouter l’article
suivant: «Participation parlementaire»: «1. Les parlements nationaux
sont invités à participer au suivi et à l’examen des mesures prises
pour la mise en œuvre de la présente Convention. 2. L’Assemblée
parlementaire du Conseil de l’Europe est invitée à faire le bilan,
de manière régulière, de la mise en œuvre de la présente Convention.»
10. L’Assemblée souhaite participer à la future Conférence des
Parties instituée par la convention-cadre et s’engager dans la coopération
et l’échange d’informations prévus à l’article 25.
11. L’Assemblée invite sa sous-commission sur l’intelligence artificielle
et les droits de l’homme à mieux faire connaître la convention-cadre
une fois qu’elle aura été adoptée, notamment en encourageant sa
ratification ou son adhésion par les États membres, les États observateurs
et les États dont les parlements bénéficient du statut d’observateur
ou de partenaire pour la démocratie auprès de l’Assemblée.
12. Enfin, l’Assemblée poursuivra ses travaux sur les questions
liées à l’IA, en publiant de nouveaux rapports sur des sujets émergents,
en suivant de près les activités normatives du CAI et d’autres organes intergouvernementaux
pertinents du Conseil de l’Europe, et en y contribuant, le cas échéant.
