La nécessité d’une gouvernance démocratique de l’intelligence artificielle
- Auteur(s) :
- Assemblée parlementaire
- Origine
- Texte
adopté par la Commission permanente, agissant au nom
de l’Assemblée, le 22 octobre 2020 (voir Doc. 15150, rapport de la commission des questions politiques et
de la démocratie, rapporteure: Mme Deborah
Bergamini).Voir également la Recommandation 2181 (2020).
1. La technologie a toujours eu une
grande incidence sur le cours de l’histoire humaine. Cependant,
les progrès technologiques n’ont jamais été aussi rapides, et leurs
effets sur les êtres humains aussi directs, palpables et étendus
qu’aujourd’hui, à l’aube de la quatrième révolution industrielle.
L’intelligence artificielle (IA), qui en est le moteur, est vue
au sens large comme un facteur déterminant pour l’avenir de l’humanité,
qui transformera en profondeur la vie des individus et retentira
fortement sur les communautés humaines.
2. Les appareils dotés de l’IA sont déjà largement présents dans
notre quotidien et exécutent de multiples tâches qui étaient autrefois
accomplies par des êtres humains, dans la vie privée comme dans
le milieu professionnel. Les algorithmes de prédiction, inhérents
à l’IA, sont fréquemment employés dans d’importantes décisions comme
les admissions à l’université, l’octroi de prêts et la gestion des
ressources humaines, mais aussi en ce qui concerne les contrôles
aux frontières (y compris dans les aéroports) et la prévention des
crimes (par le biais de pratiques policières prédictives et l’utilisation,
dans le cadre du système judiciaire pénal, d’instruments d’évaluation
des risques quant aux récidives). Alors que toutes nos sociétés
s’efforcent de lutter contre la pandémie actuelle de covid-19, l’IA
est aussi utilisée pour améliorer la recherche pharmaceutique et aider
à analyser les données médicales.
3. Cela étant, les effets à long terme de l’IA sur les êtres
humains et sur la société sont encore loin d’être clairs. L’IA pourrait
certes permettre de grandes avancées économiques et sociales, mais
elle pose aussi toute une série de problèmes complexes. D’un côté,
on espère qu’elle apportera des gains importants de productivité
et de la croissance économique, des avancées scientifiques, des
soins médicaux de meilleure qualité, une augmentation de l’espérance
de vie, une sécurité et un confort toujours plus grand. D’un autre côté,
certains craignent que l’IA déstabilise gravement les marchés du
travail partout dans le monde, conduise à une augmentation des inégalités
de revenus, de richesse et des inégalités sociales, et mette en
danger la stabilité sociale et politique, ainsi que la sécurité
internationale.
4. Les technologies fondées sur l’IA ont une incidence sur le
fonctionnement des institutions et des processus démocratiques,
ainsi que sur le comportement social et politique des citoyens.
Son utilisation peut avoir des effets bénéfiques aussi bien que
préjudiciables sur la démocratie. De fait, l’intégration rapide
des technologies d’IA dans les outils de communication modernes
et les plates-formes des réseaux sociaux crée d’incomparables possibilités
d’influencer des individus ou des groupes sociaux de manière ciblée, personnalisée
et souvent inaperçue; différents acteurs politiques peuvent être
tentés d’exploiter ces possibilités à leur avantage.
5. L’aspect positif est que l’IA permet d’améliorer la mise en
œuvre de la responsabilité et de la transparence des gouvernements,
et de contribuer à la lutte contre la corruption, et qu’elle présente
de nombreux avantages pour l’action, la participation et le pluralisme
démocratiques, rendant ainsi la démocratie plus directe, plus efficace
et plus attentive aux besoins des citoyens. Les technologies fondées
sur l’IA peuvent aussi permettre d’élargir la représentation démocratique
en décentralisant les systèmes d’information et les plates-formes
de communication. L’IA peut renforcer l’autonomie informationnelle
des citoyens, améliorer la manière dont ils s’informent sur les
processus politiques et les aider à y participer à distance, en
facilitant l’expression politique et en fournissant des canaux de
communication avec les acteurs politiques. Elle peut aussi contribuer
à l’instauration d’une plus grande confiance entre l’État et la
société, et entre les citoyens eux-mêmes.
6. Cela étant, l’IA peut être utilisée, et – selon certaines
sources – est déjà utilisée, pour perturber la démocratie par l’ingérence
dans les processus électoraux, pour le ciblage politique personnalisé,
le conditionnement du comportement des électeurs et la manipulation
de l’opinion publique. De plus, elle a apparemment été employée
pour amplifier la diffusion de fausses informations, de «chambres
d’écho», de propagande, et de discours de haine, altérant ainsi
la pensée critique et contribuant à la montée du populisme et à
la polarisation des sociétés démocratiques.
7. De surcroît, certains États et acteurs privés recourent dans
une large mesure à des technologies fondées sur l’IA pour contrôler
les personnes, par un filtrage automatisé d’informations s’apparentant
à de la censure, par exemple, ou encore par une surveillance de
masse au moyen de smartphones, le recueil de données à caractère
personnel et le suivi de l’activité en ligne et hors ligne; ces
pratiques risquant de conduire à une érosion de l’intégrité psychologique
des citoyens, des droits civils et des libertés politiques, et à l’émergence
d’un autoritarisme numérique – en d’autres termes, à un nouvel ordre
social qui entrerait en concurrence avec la démocratie.
8. La concentration de données, d’informations, du pouvoir et
des capacités d’influence dans les mains de quelques grands acteurs
privés impliqués dans le développement et la fourniture de technologies
et de services fondés sur l’IA, et la dépendance croissante des
personnes, des institutions et de la société dans son ensemble vis-à-vis
de ces services sont aussi des sources de préoccupation. Ces grandes
sociétés ne fonctionnent plus comme de simples canaux de communication
entre les individus et les institutions, mais elles jouent pour
leur propre compte un rôle de plus en plus important, en contrôlant
et en filtrant les flux d’informations, en censurant automatiquement
les contenus publiés sur les médias sociaux, en définissant l’ordre
du jour, en façonnant et transformant les modèles sociaux et politiques.
Ces acteurs, dont les modèles d’activité privilégient les profits
des actionnaires aux dépens du bien commun, pourraient constituer
une menace pour l’ordre démocratique et ne devraient pas échapper
au contrôle démocratique.
9. L’Assemblée note que, ces dernières années, des gouvernements,
la société civile, des institutions internationales et des entreprises
ont eu des échanges de vues approfondis dans le but de définir d’un commun
accord un ensemble de principes pour répondre aux inquiétudes que
suscite l’utilisation de l’IA. Elle se félicite de ce que le Conseil
de l’Europe, en tant qu’organisation de premier plan en matière
de droits humains, ait activement participé à ces discussions sur
l’avenir de l’IA et sa gouvernance, et se réjouit en particulier
du fait que le Comité des Ministres, la Commissaire aux droits de
l’homme et les organes de coopération intergouvernementale aient
contribué à ce processus.
10. L’Assemblée considère que les principes éthiques d’autoréglementation
et les politiques mises en place volontairement par des acteurs
privés ne sont pas des outils adaptés ni suffisants pour réglementer
l’IA, car ils n’entraînent pas nécessairement de contrôle démocratique
ni d’obligation de rendre des comptes. L’Europe doit s’assurer que
la puissance de l’IA est soumise à des règles et qu’elle est employée
pour le bien commun.
11. Par conséquent, l’Assemblée est fermement convaincue qu’il
est nécessaire d’instaurer un cadre réglementaire transversal pour
l’IA, définissant des principes spécifiques fondés sur la protection
des droits humains, de la démocratie et de l’État de droit. Toute
réflexion dans ce domaine doit associer l’ensemble des parties prenantes,
en particulier les citoyens et les grandes entreprises privées qui
prennent part à l’élaboration et à la fourniture de technologies
et de services fondés sur l’IA.
12. Le Conseil de l’Europe, en tant qu’organisation internationale
de normalisation de premier plan dans le domaine de la démocratie,
doit faire œuvre de pionnier en concevant des solutions et des formats
permettant de s’assurer que les technologies fondées sur l’IA sont
employées non pas pour fragiliser la démocratie, mais pour la renforcer.
13. Dans ce contexte, elle se félicite de la création, par le
Comité des Ministres, d’un Comité ad hoc sur l’intelligence artificielle
(CAHAI), chargé d’examiner la faisabilité et les éléments potentiels,
sur la base de vastes consultations multipartites, d’un cadre juridique
pour la conception, le développement et l’application de l’IA. Elle
invite les États membres du Conseil de l’Europe et les autres États
observateurs participant au CAHAI à travailler ensemble à l’élaboration
d’un instrument juridiquement contraignant et destiné à garantir
la gouvernance démocratique de l’IA, et, le cas échéant, de le compléter
par des instruments juridiques sectoriels.
14. L’Assemblée estime qu’un tel instrument devrait:
14.1 garantir que les technologies
fondées sur l’IA sont conçues, développées et exploitées dans le strict
respect et en soutien des normes du Conseil de l’Europe en matière
de droits humains, de démocratie et d’État de droit;
14.2 promouvoir une compréhension commune et prévoir le respect
de principes et concepts éthiques fondamentaux, et la mise en œuvre
des normes susmentionnées dont:
14.2.1 la transparence,
y compris l’accessibilité et l’explicabilité;
14.2.2 la justice et l’équité, y compris la non-discrimination;
14.2.3 la prise de décision par une personne, qui en est responsable,
et la mise à disposition de voies de recours;
14.2.4 la sûreté et la sécurité;
14.2.5 le respect de la vie privée et la protection des données.
14.3 s’attacher à ce que l’IA ait le plus d’effets positifs
possible sur le fonctionnement des institutions et processus démocratiques,
notamment à ce qu’elle permette:
14.3.1 de renforcer l’obligation
des gouvernements à rendre des comptes;
14.3.2 de lutter contre la corruption et le crime économique;
14.3.3 de faciliter l’action démocratique, la participation et
le pluralisme;
14.3.4 de rendre la démocratie plus directe, plus efficace et
plus attentive aux besoins des citoyens;
14.3.5 d’élargir la représentation démocratique, en décentralisant
les systèmes d’information et les plates-formes de communication;
14.3.6 de renforcer l’autonomie informationnelle des citoyens,
d’améliorer la manière dont ils s’informent sur les processus politiques
et de les aider à y participer à distance, en facilitant l’expression
politique et en fournissant des canaux de communication avec les
acteurs politiques;
14.3.7 d’améliorer la transparence dans la vie publique et de
contribuer à l’instauration d’une plus grande confiance entre l’État
et la société, et entre les citoyens eux-mêmes;
14.4 comporter des dispositions visant à prévenir et/ou à limiter
les risques que l’IA soit utilisée pour fragiliser et perturber
la démocratie, notamment
14.4.1 par l’ingérence dans les
processus électoraux, le ciblage politique personnalisé, le conditionnement
du comportement politique des électeurs et la manipulation de l’opinion publique;
14.4.2 par l’amplification de la diffusion de fausses informations,
de «chambres d’écho» et de propagande;
14.4.3 par l’altération de la pensée critique des individus et
de la société;
14.4.4 par la contribution à la montée du populisme et à la polarisation
des sociétés démocratiques;
14.5 comporter des dispositions visant à limiter les risques
d’utilisation des technologies fondées sur l’IA par des États et
des acteurs privés pour contrôler les personnes, ce qui pourrait
conduire à une érosion de l’intégrité psychologique des citoyens,
des droits civils et des libertés politiques;
14.6 comporter des garde-fous pour prévenir les menaces à l’ordre
démocratique résultant de la concentration de données, d’informations,
du pouvoir et des capacités d’influence dans les mains de quelques
grands acteurs privés du développement et de la fourniture de technologies
et de services fondés sur l’IA, et de la dépendance croissante des
personnes, des institutions et de la société dans son ensemble vis-à-vis
de ces services, et comporter également des dispositions visant
à garantir que les activités de ces acteurs sont soumises à un contrôle
démocratique.
15. En outre, l’Assemblée estime que, pour garantir le respect
de l’obligation de rendre des comptes, le cadre juridique à mettre
en place devrait prévoir un mécanisme de contrôle indépendant et
proactif impliquant toutes les parties prenantes, qui garantirait
le respect effectif de ses dispositions. Ce mécanisme exigerait
la présence d’un organe extrêmement compétent (notamment sur les
plans technique, juridique et éthique), capable de suivre les nouvelles
évolutions de la technologie numérique et d'évaluer avec précision
et autorité ses risques et conséquences.
16. En ce qui concerne les algorithmes et les plates-formes de
réseaux sociaux, l’Assemblée estime nécessaire:
16.1 de rendre plus transparents
les facteurs de décision qui sous-tendent les contenus générés par des
algorithmes;
16.2 de donner aux utilisateurs plus de souplesse pour décider
de la manière dont les algorithmes façonnent leur expérience en
ligne;
16.3 de demander instamment aux plates-formes de faire preuve
de diligence plus systématique en matière de droits humains pour
comprendre l’impact social de leurs algorithmes;
16.4 d’envisager de créer un organe d’expertise indépendant
pour surveiller les plates-formes technologiques et le fonctionnement
de leurs algorithmes;
16.5 de renforcer les contrôles de confidentialité des données
d’utilisateur pour que, dès leur conception, les algorithmes soient
moins en mesure d’exploiter les données.
