Logo Assembly Logo Hemicycle

La nécessité d’une gouvernance démocratique de l’intelligence artificielle

Résolution 2341 (2020)

Auteur(s) :
Assemblée parlementaire
Origine
Texte adopté par la Commission permanente, agissant au nom de l’Assemblée, le 22 octobre 2020 (voir Doc. 15150, rapport de la commission des questions politiques et de la démocratie, rapporteure: Mme Deborah Bergamini).Voir également la Recommandation 2181 (2020).
1. La technologie a toujours eu une grande incidence sur le cours de l’histoire humaine. Cependant, les progrès technologiques n’ont jamais été aussi rapides, et leurs effets sur les êtres humains aussi directs, palpables et étendus qu’aujourd’hui, à l’aube de la quatrième révolution industrielle. L’intelligence artificielle (IA), qui en est le moteur, est vue au sens large comme un facteur déterminant pour l’avenir de l’humanité, qui transformera en profondeur la vie des individus et retentira fortement sur les communautés humaines.
2. Les appareils dotés de l’IA sont déjà largement présents dans notre quotidien et exécutent de multiples tâches qui étaient autrefois accomplies par des êtres humains, dans la vie privée comme dans le milieu professionnel. Les algorithmes de prédiction, inhérents à l’IA, sont fréquemment employés dans d’importantes décisions comme les admissions à l’université, l’octroi de prêts et la gestion des ressources humaines, mais aussi en ce qui concerne les contrôles aux frontières (y compris dans les aéroports) et la prévention des crimes (par le biais de pratiques policières prédictives et l’utilisation, dans le cadre du système judiciaire pénal, d’instruments d’évaluation des risques quant aux récidives). Alors que toutes nos sociétés s’efforcent de lutter contre la pandémie actuelle de covid-19, l’IA est aussi utilisée pour améliorer la recherche pharmaceutique et aider à analyser les données médicales.
3. Cela étant, les effets à long terme de l’IA sur les êtres humains et sur la société sont encore loin d’être clairs. L’IA pourrait certes permettre de grandes avancées économiques et sociales, mais elle pose aussi toute une série de problèmes complexes. D’un côté, on espère qu’elle apportera des gains importants de productivité et de la croissance économique, des avancées scientifiques, des soins médicaux de meilleure qualité, une augmentation de l’espérance de vie, une sécurité et un confort toujours plus grand. D’un autre côté, certains craignent que l’IA déstabilise gravement les marchés du travail partout dans le monde, conduise à une augmentation des inégalités de revenus, de richesse et des inégalités sociales, et mette en danger la stabilité sociale et politique, ainsi que la sécurité internationale.
4. Les technologies fondées sur l’IA ont une incidence sur le fonctionnement des institutions et des processus démocratiques, ainsi que sur le comportement social et politique des citoyens. Son utilisation peut avoir des effets bénéfiques aussi bien que préjudiciables sur la démocratie. De fait, l’intégration rapide des technologies d’IA dans les outils de communication modernes et les plates-formes des réseaux sociaux crée d’incomparables possibilités d’influencer des individus ou des groupes sociaux de manière ciblée, personnalisée et souvent inaperçue; différents acteurs politiques peuvent être tentés d’exploiter ces possibilités à leur avantage.
5. L’aspect positif est que l’IA permet d’améliorer la mise en œuvre de la responsabilité et de la transparence des gouvernements, et de contribuer à la lutte contre la corruption, et qu’elle présente de nombreux avantages pour l’action, la participation et le pluralisme démocratiques, rendant ainsi la démocratie plus directe, plus efficace et plus attentive aux besoins des citoyens. Les technologies fondées sur l’IA peuvent aussi permettre d’élargir la représentation démocratique en décentralisant les systèmes d’information et les plates-formes de communication. L’IA peut renforcer l’autonomie informationnelle des citoyens, améliorer la manière dont ils s’informent sur les processus politiques et les aider à y participer à distance, en facilitant l’expression politique et en fournissant des canaux de communication avec les acteurs politiques. Elle peut aussi contribuer à l’instauration d’une plus grande confiance entre l’État et la société, et entre les citoyens eux-mêmes.
6. Cela étant, l’IA peut être utilisée, et – selon certaines sources – est déjà utilisée, pour perturber la démocratie par l’ingérence dans les processus électoraux, pour le ciblage politique personnalisé, le conditionnement du comportement des électeurs et la manipulation de l’opinion publique. De plus, elle a apparemment été employée pour amplifier la diffusion de fausses informations, de «chambres d’écho», de propagande, et de discours de haine, altérant ainsi la pensée critique et contribuant à la montée du populisme et à la polarisation des sociétés démocratiques.
7. De surcroît, certains États et acteurs privés recourent dans une large mesure à des technologies fondées sur l’IA pour contrôler les personnes, par un filtrage automatisé d’informations s’apparentant à de la censure, par exemple, ou encore par une surveillance de masse au moyen de smartphones, le recueil de données à caractère personnel et le suivi de l’activité en ligne et hors ligne; ces pratiques risquant de conduire à une érosion de l’intégrité psychologique des citoyens, des droits civils et des libertés politiques, et à l’émergence d’un autoritarisme numérique – en d’autres termes, à un nouvel ordre social qui entrerait en concurrence avec la démocratie.
8. La concentration de données, d’informations, du pouvoir et des capacités d’influence dans les mains de quelques grands acteurs privés impliqués dans le développement et la fourniture de technologies et de services fondés sur l’IA, et la dépendance croissante des personnes, des institutions et de la société dans son ensemble vis-à-vis de ces services sont aussi des sources de préoccupation. Ces grandes sociétés ne fonctionnent plus comme de simples canaux de communication entre les individus et les institutions, mais elles jouent pour leur propre compte un rôle de plus en plus important, en contrôlant et en filtrant les flux d’informations, en censurant automatiquement les contenus publiés sur les médias sociaux, en définissant l’ordre du jour, en façonnant et transformant les modèles sociaux et politiques. Ces acteurs, dont les modèles d’activité privilégient les profits des actionnaires aux dépens du bien commun, pourraient constituer une menace pour l’ordre démocratique et ne devraient pas échapper au contrôle démocratique.
9. L’Assemblée note que, ces dernières années, des gouvernements, la société civile, des institutions internationales et des entreprises ont eu des échanges de vues approfondis dans le but de définir d’un commun accord un ensemble de principes pour répondre aux inquiétudes que suscite l’utilisation de l’IA. Elle se félicite de ce que le Conseil de l’Europe, en tant qu’organisation de premier plan en matière de droits humains, ait activement participé à ces discussions sur l’avenir de l’IA et sa gouvernance, et se réjouit en particulier du fait que le Comité des Ministres, la Commissaire aux droits de l’homme et les organes de coopération intergouvernementale aient contribué à ce processus.
10. L’Assemblée considère que les principes éthiques d’autoréglementation et les politiques mises en place volontairement par des acteurs privés ne sont pas des outils adaptés ni suffisants pour réglementer l’IA, car ils n’entraînent pas nécessairement de contrôle démocratique ni d’obligation de rendre des comptes. L’Europe doit s’assurer que la puissance de l’IA est soumise à des règles et qu’elle est employée pour le bien commun.
11. Par conséquent, l’Assemblée est fermement convaincue qu’il est nécessaire d’instaurer un cadre réglementaire transversal pour l’IA, définissant des principes spécifiques fondés sur la protection des droits humains, de la démocratie et de l’État de droit. Toute réflexion dans ce domaine doit associer l’ensemble des parties prenantes, en particulier les citoyens et les grandes entreprises privées qui prennent part à l’élaboration et à la fourniture de technologies et de services fondés sur l’IA.
12. Le Conseil de l’Europe, en tant qu’organisation internationale de normalisation de premier plan dans le domaine de la démocratie, doit faire œuvre de pionnier en concevant des solutions et des formats permettant de s’assurer que les technologies fondées sur l’IA sont employées non pas pour fragiliser la démocratie, mais pour la renforcer.
13. Dans ce contexte, elle se félicite de la création, par le Comité des Ministres, d’un Comité ad hoc sur l’intelligence artificielle (CAHAI), chargé d’examiner la faisabilité et les éléments potentiels, sur la base de vastes consultations multipartites, d’un cadre juridique pour la conception, le développement et l’application de l’IA. Elle invite les États membres du Conseil de l’Europe et les autres États observateurs participant au CAHAI à travailler ensemble à l’élaboration d’un instrument juridiquement contraignant et destiné à garantir la gouvernance démocratique de l’IA, et, le cas échéant, de le compléter par des instruments juridiques sectoriels.
14. L’Assemblée estime qu’un tel instrument devrait:
14.1 garantir que les technologies fondées sur l’IA sont conçues, développées et exploitées dans le strict respect et en soutien des normes du Conseil de l’Europe en matière de droits humains, de démocratie et d’État de droit;
14.2 promouvoir une compréhension commune et prévoir le respect de principes et concepts éthiques fondamentaux, et la mise en œuvre des normes susmentionnées dont:
14.2.1 la transparence, y compris l’accessibilité et l’explicabilité;
14.2.2 la justice et l’équité, y compris la non-discrimination;
14.2.3 la prise de décision par une personne, qui en est responsable, et la mise à disposition de voies de recours;
14.2.4 la sûreté et la sécurité;
14.2.5 le respect de la vie privée et la protection des données.
14.3 s’attacher à ce que l’IA ait le plus d’effets positifs possible sur le fonctionnement des institutions et processus démocratiques, notamment à ce qu’elle permette:
14.3.1 de renforcer l’obligation des gouvernements à rendre des comptes;
14.3.2 de lutter contre la corruption et le crime économique;
14.3.3 de faciliter l’action démocratique, la participation et le pluralisme;
14.3.4 de rendre la démocratie plus directe, plus efficace et plus attentive aux besoins des citoyens;
14.3.5 d’élargir la représentation démocratique, en décentralisant les systèmes d’information et les plates-formes de communication;
14.3.6 de renforcer l’autonomie informationnelle des citoyens, d’améliorer la manière dont ils s’informent sur les processus politiques et de les aider à y participer à distance, en facilitant l’expression politique et en fournissant des canaux de communication avec les acteurs politiques;
14.3.7 d’améliorer la transparence dans la vie publique et de contribuer à l’instauration d’une plus grande confiance entre l’État et la société, et entre les citoyens eux-mêmes;
14.4 comporter des dispositions visant à prévenir et/ou à limiter les risques que l’IA soit utilisée pour fragiliser et perturber la démocratie, notamment
14.4.1 par l’ingérence dans les processus électoraux, le ciblage politique personnalisé, le conditionnement du comportement politique des électeurs et la manipulation de l’opinion publique;
14.4.2 par l’amplification de la diffusion de fausses informations, de «chambres d’écho» et de propagande;
14.4.3 par l’altération de la pensée critique des individus et de la société;
14.4.4 par la contribution à la montée du populisme et à la polarisation des sociétés démocratiques;
14.5 comporter des dispositions visant à limiter les risques d’utilisation des technologies fondées sur l’IA par des États et des acteurs privés pour contrôler les personnes, ce qui pourrait conduire à une érosion de l’intégrité psychologique des citoyens, des droits civils et des libertés politiques;
14.6 comporter des garde-fous pour prévenir les menaces à l’ordre démocratique résultant de la concentration de données, d’informations, du pouvoir et des capacités d’influence dans les mains de quelques grands acteurs privés du développement et de la fourniture de technologies et de services fondés sur l’IA, et de la dépendance croissante des personnes, des institutions et de la société dans son ensemble vis-à-vis de ces services, et comporter également des dispositions visant à garantir que les activités de ces acteurs sont soumises à un contrôle démocratique.
15. En outre, l’Assemblée estime que, pour garantir le respect de l’obligation de rendre des comptes, le cadre juridique à mettre en place devrait prévoir un mécanisme de contrôle indépendant et proactif impliquant toutes les parties prenantes, qui garantirait le respect effectif de ses dispositions. Ce mécanisme exigerait la présence d’un organe extrêmement compétent (notamment sur les plans technique, juridique et éthique), capable de suivre les nouvelles évolutions de la technologie numérique et d'évaluer avec précision et autorité ses risques et conséquences.
16. En ce qui concerne les algorithmes et les plates-formes de réseaux sociaux, l’Assemblée estime nécessaire:
16.1 de rendre plus transparents les facteurs de décision qui sous-tendent les contenus générés par des algorithmes;
16.2 de donner aux utilisateurs plus de souplesse pour décider de la manière dont les algorithmes façonnent leur expérience en ligne;
16.3 de demander instamment aux plates-formes de faire preuve de diligence plus systématique en matière de droits humains pour comprendre l’impact social de leurs algorithmes;
16.4 d’envisager de créer un organe d’expertise indépendant pour surveiller les plates-formes technologiques et le fonctionnement de leurs algorithmes;
16.5 de renforcer les contrôles de confidentialité des données d’utilisateur pour que, dès leur conception, les algorithmes soient moins en mesure d’exploiter les données.
;