B Exposé des motifs
par Mme Deborah Bergamini, rapporteureNote
1 Introduction
1. Les technologies numériques
se sont développées plus rapidement que toute autre innovation dans l'histoire
de l'humanité
Note. Le rythme des progrès est devenu
si rapide que les tentatives nationales et internationales visant
à réglementer leur utilisation, à exploiter leurs avantages et à
atténuer les menaces qu'elles font peser sur la société risquent
en permanence de devenir prématurément obsolètes.
2. Cela est particulièrement vrai dans le cas de l'intelligence
artificielle (IA). L'utilisation de systèmes d'IA suscite des inquiétudes,
notamment en raison de leur impact potentiellement négatif sur les
libertés fondamentales et les processus et institutions démocratiques.
3. Les conséquences sont, entre autres, la violation de la vie
privée des citoyens, l'utilisation de leurs données personnelles
pour contrôler, contraindre, censurer ou punir leurs décisions et
leur comportement, la diffusion de fausses informations et de désinformations
pour influencer leurs opinions et leurs choix, et le risque de cyber-attaques
sur des sites web et des bases de données publics sensibles.
4. Les implications sont également importantes pour la sécurité
démocratique et la souveraineté des pays, car les outils d'IA peuvent
devenir des armes efficaces entre les mains d’acteurs étrangers
malveillants qui cherchent à déstabiliser les démocraties.
5. Toutefois, comme l'indique le rapport scientifique international
sur la sécurité de l'IA avancée, «l'IA ne nous est pas imposée:
ce sont les choix des individus qui déterminent son avenir. L'avenir
de la technologie de l'IA à usage général est incertain, avec un
large éventail de trajectoires qui semblent possibles même dans un
avenir proche, comprenant à la fois des résultats très positifs
et très négatifs. Cette incertitude peut évoquer le fatalisme et
faire apparaître l'IA comme quelque chose qui nous arrive. Mais
ce sont les décisions des sociétés et des gouvernements sur la manière
de gérer cette incertitude qui détermineront la voie que nous emprunterons»
Note.
6. L'Assemblée parlementaire doit évaluer ces préoccupations
en analysant les abus potentiels des systèmes d'IA, leur impact
sur la démocratie, les droits humains et l'État de droit, et la
manière dont ils peuvent être atténués ou neutralisés.
7. En préparant ce rapport, la commission des questions politiques
et de la démocratie a tenu plusieurs auditions au cours de l’année
2025:
- le 5 mars, avec la participation
en ligne de M. Daniel Innerarity, titulaire de la chaire IA et démocratie
à l'École de gouvernance transnationale, Institut universitaire
européen (qui a également fait part de quelques réflexions supplémentaires
sur les implications géopolitiques de l'IA, rédigées par lui-même
et d'autres collègues de l'Institut universitaire européen);
- le 24 juin, avec la participation de M. Courtney Bowman,
directeur de l'ingénierie en matière de confidentialité et de libertés
civiles, Palantir, Mme Audrey Herblin-Stoop,
vice-présidente et directrice des affaires publiques globales, Mistral
AI (en ligne), Mme Julie Lavet, responsable
des politiques et des partenariats pour l'Europe, OpenAI, et M. Ben
Nimmo, enquêteur principal sur les menaces, OpenAI (en ligne);
- le 10 décembre, avec la participation de Mme Francesca
Fanucci, conseillère juridique principale, Centre européen pour
le droit des organisations à but non lucratif (ECNL), et représentante
de la Conférence des ONG internationales du Conseil de l'Europe
au Comité sur l'intelligence artificielle du Conseil de l'Europe.
8. La rapporteure tient à remercier tous les participants susmentionnés
pour leurs contributions, ainsi que les membres de la commission
pour leurs commentaires et leur soutien dans la préparation du présent
rapport.
2 Travaux
antérieurs de l'Assemblée parlementaire
9. Le Conseil de l'Europe aborde
l'impact des technologies de l'IA sur la vie humaine de manière
globale et comme une priorité transversale. L'Assemblée contribue
de manière importante à ces travaux. Elle dispose notamment d'une
sous-commission sur l'intelligence artificielle et les droits de
l'homme, et a adopté en octobre 2020 une série de résolutions et
de recommandations sur le sujet
Note; parmi celles-ci, j'ai été rapporteure
du rapport intitulé «Nécessité d'une gouvernance démocratique de
l'intelligence artificielle»
Note.
10. Dans une annexe commune à ces rapports, l'Assemblée a énoncé
les principes éthiques qu'elle estime devoir être appliqués aux
systèmes d'IA: transparence, justice et équité, responsabilité,
sûreté et sécurité, respect de la vie privée.
11. Dans l'
Avis 303
(2024), l'Assemblée se félicite également de la finalisation
de la Convention-cadre sur l'intelligence artificielle et les droits
de l’homme, la démocratie et l'État de droit, et déclare qu'elle
continuera à travailler sur les questions liées à l'IA.
13. En outre, l'Assemblée a coorganisé une conférence parlementaire
sur l'intelligence artificielle avec le Parlement du Royaume-Uni,
à Londres, les 15 et 16 décembre 2025. Cette conférence a été l'occasion d'échanger
les meilleures pratiques et de définir le rôle des parlements dans
la gouvernance de l'IA, et elle a permis de dégager plusieurs éléments
pertinents pour le présent rapport
Note.
14. Enfin, il convient également de mentionner que l'Assemblée
parlementaire travaille actuellement sur plusieurs autres rapports
pertinents concernant:
- «La
transformation numérique: le rôle de l'OCDE dans l'évaluation de
l'impact de l'intelligence artificielle sur l'avenir du travail»;
- «La nécessité de moderniser le droit international humanitaire»
(qui prend également en compte l'utilisation de l'IA dans les conflits
armés);
- «Utilisation de l'intelligence artificielle par les parlements:
risques et opportunités»;
- «Sauvegarder les droits humains dans le cadre de l’utilisation
de l’intelligence artificielle dans le secteur public»;
- «Préserver la créativité et l'éducation à l'ère de l'intelligence
artificielle générative»;
- «Intelligence artificielle et égalité de genre: risques
et défis».
15. Les travaux en cours de l’Assemblée soulignent l’importance
qu’elle accorde à l’analyse de l’impact de l’IA à plusieurs niveaux
dans les pays européens, dans le but d’identifier les domaines critiques
et de définir des solutions à ce défi majeur. L’Assemblée continuera
à accorder la priorité à cette question et à soutenir les efforts
visant à faire face aux implications en constante évolution de l’IA.
3 Les
menaces que l'intelligence artificielle fait peser sur la démocratie
16. La Convention-cadre du Conseil
de l’Europe sur l’intelligence artificielle et les droits de l’homme,
la démocratie et l’État de droit (STCE n° 225) définit un «système
d'IA» comme «un système automatisé qui, pour des objectifs explicites
ou implicites, déduit, à partir d’entrées reçues, comment générer
des résultats en sortie tels que des prévisions, des contenus, des
recommandations ou des décisions qui peuvent influer sur des environnements
physiques ou virtuels»
Note. En d'autres termes, les systèmes
d'IA simulent des capacités cognitives et effectuent des tâches
qui sont normalement associées aux humains: celles-ci comprennent l'analyse
et le traitement de données, la résolution de problèmes, la prise
de décision et, surtout, l'apprentissage.
17. Les technologies d'IA actuelles sont définies comme des IA
«étroites» ou «faibles»: elles peuvent effectuer des tâches spécifiques
et limitées, selon certaines instructions, et le font souvent plus
rapidement et plus efficacement que les humains. Il est possible
que les développements futurs conduisent à une IA «générale» ou
«forte», qui serait capable d'appliquer ce qu'elle a appris à différents
contextes et d'égaler les capacités humaines. Il existe même la
possibilité d'une «super IA», qui serait capable de surpasser les capacités
humaines et pourrait potentiellement avoir sa propre «conscience».
18. L'idée d'un avenir dystopique dans lequel la démocratie pourrait
être remplacée par l'«algocratie», ou le gouvernement par des algorithmes,
par le biais d'une super IA consciente plutôt que par des représentants élus,
n'est actuellement qu'une hypothèse. Cependant, compte tenu du rythme
des progrès technologiques et de leurs multiples implications pour
la géopolitique, les droits humains, la démocratie, l'économie et l'environnement,
il est essentiel de surveiller les menaces et les perturbations
très réelles que l'IA étroite fait déjà peser sur les pays démocratiques.
19. ChatGPT, un système d'IA «génératif», et l’un des chatbots
d'IA le plus populaires
Note disponible au public aujourd'hui,
partage le même point de vue. À la question «Pensez-vous que vous
êtes une menace pour la démocratie?», le chatbot a donné la réponse
suivante:
«En
tant qu'IA, ma fonction première est d'aider et de fournir des informations,
et non d'influencer la prise de décision ou d'entreprendre des actions
qui pourraient menacer la démocratie. Cependant, la manière dont
les systèmes d'IA sont utilisés peut certainement avoir des conséquences
sur les processus démocratiques. L'IA peut être utilisée à mauvais
escient par des individus ou des organisations pour manipuler l'opinion
publique, diffuser des informations erronées ou porter atteinte
à la vie privée. J'ai été conçu avec des lignes directrices éthiques
pour promouvoir des interactions positives, la transparence et le
respect de la vie privée. Mais les systèmes d'IA comme le mien ne
sont éthiques et responsables que dans la mesure où les politiques,
les cadres et les personnes qui les gouvernent le sont. La véritable menace
pour la démocratie surviendrait si les systèmes d'IA étaient exploités
de manière à miner la confiance, l'équité et la justice. C'est pourquoi
il est important que la société établisse des réglementations et
des garanties claires autour de l'IA afin de prévenir de tels risques.»
20. Il est évidemment important de se demander comment cette réponse
a été générée: Les chatbots IA sont des logiciels capables d'«interagir»
avec le langage humain, utilisant des algorithmes sophistiqués pour traiter
la demande qui leur est faite et produire des résultats basés sur
leur accès à de très grandes bases de données. En d'autres termes,
la réponse donnée par ChatGPT est basée sur des rapports, des articles,
des déclarations et des publications de toutes sortes disponibles
dans ses bases de données et sur Internet.
21. Cependant, la manière dont les algorithmes sont conçus peut
grandement influencer la manière dont les résultats sont produits.
Par exemple, dans la réponse fournie ci-dessus, ChatGPT déclare
qu'il est «conçu avec des lignes directrices éthiques» – mais qui
définit ces lignes directrices comme étant éthiques? Et qui veille
à ce qu'elles soient respectées? Par conséquent, le manque de transparence
de certains algorithmes, ainsi que le fait que l'autorégulation
par les entreprises développant des systèmes d'IA ne semble pas suffisante,
sont des questions supplémentaires qui doivent être évaluées.
22. Cela se reflète également dans l'opinion publique à l'égard
de l'IA et de sa gouvernance: selon les données du Pew Research
Centre, 34 % des adultes interrogés dans 25 pays se disent plus
inquiets qu'enthousiastes face à l'utilisation croissante de l'IA
Note; selon l'enquête
de l'Organisation de coopération et de développement économiques
(OCDE) sur les déterminants de la confiance dans les institutions publiques, seuls
41 % des personnes interrogées dans 30 pays pensaient que leur gouvernement
national était susceptible de réglementer de manière adéquate les
nouvelles technologies, telles que l'IA et les applications numériques,
et d'aider les entreprises et les citoyens à les utiliser de manière
responsable
Note;
et selon une étude de l'Institut Ada Lovelace, une très grande majorité
des personnes interrogées au Royaume-Uni estime que la sécurité
doit primer sur la rapidité et que la possibilité d'interdire l'IA
pour des raisons éthiques est plus importante que les avantages
concurrentiels
Note.
23. Selon l'université de Stanford, les capacités de l'IA dépassent
désormais les critères de référence conçus pour les mesurer, surpassant
les performances humaines établies. De plus, bien que les critères
de référence pour une IA responsable (c'est-à-dire l'ensemble des
pratiques et des mécanismes de gouvernance conçus pour garantir
que les systèmes d'IA sont sûrs, équitables et bénéfiques, et qu'ils
fonctionnent comme prévu) se multiplient, ils ne suivent pas le
rythme des avancées et des déploiements de l'IA. L'université de Stanford
a également signalé que les entreprises spécialisées dans l'IA sont
devenues moins transparentes en 2025, ce qui renforce les inquiétudes
quant aux méthodes de développement, d'entraînement, de test et
de surveillance des systèmes
Note.
3.1 Tout
commence par les données
24. Les systèmes et outils d'IA
reposent largement sur la capacité à collecter, stocker et analyser
de grands ensembles de données, qui peuvent inclure des données
à caractère personnel. Ces grands ensembles de données sont ensuite
utilisés pour «entraîner» de nombreux types d'outils d'IA. Les grands
modèles de langage, par exemple, sont des réseaux neuronaux fonctionnant
de manière probabiliste, générant ainsi leurs résultats sur la base
des modèles qu'ils identifient dans les ensembles de données.
25. L'utilisation abusive des systèmes d'IA par les gouvernements,
les entreprises privées et d'autres entités pour accéder à des données
à caractère personnel sans consentement est l'une des menaces les
plus importantes, en raison de ses implications potentielles.
26. Les données à caractère personnel peuvent être utilisées à
des fins de surveillance de masse par le biais de caméras vidéo
publiques, de la localisation GPS des téléphones portables des citoyens
ou de l'utilisation de leurs cartes de crédit
Note. Cette pratique est déjà largement
répandue en Chine, à des fins d'évaluation des risques et de police
prédictive, c'est-à-dire pour prévoir d'éventuels crimes et troubles
futurs, sur la base de rapports de police antérieurs, de données
de surveillance et d'activité sur les réseaux sociaux, ce qui a
un effet dissuasif sur l'activisme de la société civile
Note.
27. De plus, des acteurs malveillants peuvent utiliser des données
personnelles pour créer de fausses identités à des fins frauduleuses
et pour commettre des escroqueries. La technologie IA peut également
être utilisée pour créer des deepfakes en clonant l'image ou la
voix d'une personne afin de créer de fausses images, des fichiers
audios ou des vidéos (également appelés «médias synthétiques»).
Ceux-ci peuvent ensuite être utilisés pour faire chanter ou harceler
des victimes, ou être diffusés à grande échelle et distribués par
des robots sur les grandes plateformes de réseaux sociaux afin de
propager de fausses informations. Parmi les exemples récents préoccupants,
on peut citer les centaines de deepfakes sexuellement explicites
ciblant les femmes générées par Grok, l'outil d'IA intégré à la
plateforme de réseau social X
Note.
28. Les ensembles de données peuvent être déséquilibrés et contenir
des biais qui sont ensuite reproduits dans les résultats produits
par les systèmes d'IA. Cela peut conduire à ou renforcer la discrimination,
en particulier à l'égard des femmes et des minorités, lorsque les
systèmes sont adoptés à des fins d'élaboration de politiques publiques
Note. Les algorithmes utilisés pour analyser
les données et produire des résultats peuvent également être biaisés
et conduire à des discriminations. En ce sens, les systèmes et outils
d'IA sont rarement neutres; ils héritent souvent des biais des sociétés
dans lesquelles ils sont construits et déployés.
29. En outre, les individus peuvent être affectés par des décisions
algorithmiques potentiellement biaisées basées sur l'IA à leur insu.
Cela porte atteinte à leur droit à un recours effectif, d'autant
plus que ces systèmes fonctionnent souvent comme des «boîtes noires»
et qu'il est alors presque impossible d'en attribuer la responsabilité.
30. Il est important de noter que, selon certaines estimations,
le stock disponible de données de haute qualité pour l'entraînement
des modèles d'IA pourrait être entièrement utilisé entre 2026 et
2032, ce qui soulève également des inquiétudes quant à la possibilité
de faire évoluer les modèles et d'étendre leurs capacités.
Note
3.2 La
désinformation et les médias
31. Le Rapport sur les risques
mondiaux 2026 du Forum économique mondial classe la «désinformation
et la mésinformation» comme le deuxième risque le plus grave à court
terme, juste après la «confrontation géoéconomique»
Note.
32. Si la désinformation et la mésinformation ne sont pas des
phénomènes nouveaux, le développement et le déploiement accélérés
des systèmes et outils d'IA contribuent certainement de manière
importante à ce risque. L'IA peut être utilisée pour fabriquer de
fausses informations et les diffuser à grande échelle avec des ressources
et des compétences limitées, et ce très rapidement. Comme les fausses
informations se propagent plus rapidement en ligne que la vérité
Note et
compte tenu des coûts, des ressources et du temps nécessaires pour
les démentir (souvent sans parvenir à les contrer efficacement),
cela représente une autre menace majeure pour les démocraties.
33. Des acteurs étrangers malveillants mènent des campagnes de
désinformation à grande échelle, comme le réseau russe «Portal Kombat»
identifié par les autorités françaises en février 2024
Note. En inondant l'écosystème
de l'information de milliers de fausses informations, de déclarations
mensongères et de deepfakes, ces réseaux empoisonnent les ensembles
de données sur lesquels sont entraînés les grands modèles de langage,
influençant ainsi les résultats produits par ces modèles.
34. De même, les «fermes à bots» les «fermes de trolls» sont de
plus en plus utilisées pour diffuser de fausses informations sur
les réseaux sociaux, en créant des profils fictifs programmés pour
diffuser automatiquement de la désinformation, des discours haineux
et des contenus perturbateurs. Les plateformes, quant à elles, ne
sont pas toujours efficaces pour modérer et supprimer les contenus
mensongers – et dans certains cas, elles n'ont d'ailleurs pas intérêt
à le faire: leurs algorithmes sont structurés de manière à donner la
priorité aux contenus les plus engageants, ce qui leur permet de
les monétiser. La plupart du temps, il s'agit précisément des contenus
mensongers perturbateurs et clivants qui devraient être supprimés.
Les plateformes peuvent donc exercer un pouvoir de contrôle très
fort sur le discours politique, grâce à leurs capacités de modération
des contenus.
35. D'autre part, la manipulation de l'information est également
utilisée pour détourner l'attention des individus et susciter la
méfiance envers les institutions, attisant ainsi des sentiments
et des comportements antidémocratiques. Les technologies numériques
et l'IA générative favorisent la prolifération et la fragmentation
des réalités perçues, ce qui constitue une menace vitale: la démocratie
ne peut survivre sans un certain degré de réalité partagée
Note.
36. En outre, l'essor des plateformes de réseaux sociaux et le
déploiement plus récent d'outils d'IA affectent également le modèle
économique des médias traditionnels. Ces plateformes se nourrissent
souvent de contenus sans aucune protection de la propriété intellectuelle,
ce qui a de graves implications pour la diversité et la qualité
de l'information
Note.
Une estimation inquiétante suggère qu'en novembre 2024, le nombre
d'articles générés par l'IA sur Internet était supérieur au nombre
d'articles produits par des humains
Note.
3.3 Persuasion
politique et microciblage
37. La technologie de l'IA semble
avoir dépassé la capacité des êtres humains à persuader les gens
Note. Les technologies numériques et
les systèmes d'IA peuvent donc être utilisés pour influencer le
comportement des citoyens, en particulier en ce qui concerne leurs
attitudes politiques, avec des menaces croissantes apparaissant
pendant les élections. Les informations, manipulations et ingérences
étrangères (FIMI) constituent une menace importante pour les démocraties
européennes.
38. Parmi les exemples récents, on peut citer le premier tour
des élections présidentielles organisées en Roumanie le 24 novembre
2024, qui ont été annulées par la Cour constitutionnelle en raison
des techniques de manipulation numérique sophistiquées qui auraient
été déployées sur les grandes plateformes de médias sociaux (en
particulier Tik-Tok), très probablement par une puissance étrangère
Note; et les élections
législatives moldaves qui se sont tenues le 28 septembre 2025, au
cours desquelles la Russie a mené une campagne de désinformation
massive, dépensant pour cela l'équivalent de plus de 1 % du PIB
de la République de Moldova
Note.
39. Les systèmes et outils d'IA peuvent être utilisés pour micro-cibler
précisément certains groupes de citoyens à des fins marketing, mais
aussi pour influencer leurs opinions et leurs choix politiques.
Cela peut passer par une restriction de leur accès à certaines sources
d'information tout en amplifiant leur exposition à d'autres, grâce
à un profilage psychologique des utilisateurs, qui reçoivent alors
des messages et des contenus hautement personnalisés. Une influence
rémunérée peut également être intégrée dans les résultats générés
par l'IA, d'une manière qui ne permet pas de la distinguer d'un
contenu neutre.
40. Le microciblage contribue à la création de chambres d'écho,
dans lesquelles les citoyens ne sont pas exposés à une diversité
d'opinions et sont incapables d'engager un dialogue politique avec
ceux qui pensent différemment. Au contraire, ils sont des récepteurs
passifs d'informations et d'idées qui renforcent leurs propres convictions.
41. Les chatbots, en particulier, peuvent être très efficaces
dans la persuasion politique. Une étude récente menée au Canada
et aux États-Unis a montré comment ils pouvaient être utilisés pour
persuader les gens de changer leur orientation de vote
Note. De même, avant les élections législatives
du 29 octobre 2025, l'autorité néerlandaise chargée de la protection
des données a averti que les chatbots basés sur l'IA n'étaient pas
fiables et manifestement biaisés lorsqu'ils donnaient des conseils
de vote
Note.
42. Dans un nombre croissant de pays, on utilise également des
«softfakes», des images synthétiques créées pour rendre les candidats
politiques plus attrayants. Bien qu'elles soient souvent créées
par les candidats eux-mêmes (ou leurs équipes), leur utilisation
dans les campagnes électorales soulève néanmoins des questions éthiques
Note.
43. Enfin, l’IA peut également être utilisée pour censurer certains
contenus spécifiques. Le chatbot chinois DeepSeek (dont les performances
globales sont comparables à celles de ChatGPT et d'autres chatbots fabriqués
aux États-Unis, mais qui coûte nettement moins cher)
Note, censure ou biaise les réponses
aux questions liées au gouvernement chinois, démontrant ainsi clairement
comment ces outils peuvent être utilisés pour influencer les utilisateurs
Note.
3.4 Autres
menaces
44. Les menaces décrites ci-dessus
peuvent avoir un effet néfaste supplémentaire sur la démocratie,
en raison du déploiement accru des systèmes et outils d'IA, car
elles renforcent la méfiance des citoyens à l'égard des médias,
des institutions publiques et de l'intégrité des processus démocratiques.
Non seulement les citoyens risquent d'être trompés par des contenus
mensongers, mais ils peuvent également devenir plus cyniques. Une
lassitude vis-à-vis de l'actualité peut apparaître, et les gens
peuvent être amenés à se fier davantage aux réseaux sociaux qu'aux
médias traditionnels (ce qui est déjà le cas pour la plupart des
jeunes Européens)
Note, voire à ne plus croire aucune source
d'information. Cela alimente encore davantage la polarisation et
les troubles sociaux, contribuant ainsi au recul de la démocratie.
45. Les «hallucinations» de l'IA constituent une menace supplémentaire,
car elles génèrent des résultats contenant des informations fausses
ou trompeuses. Celles-ci peuvent renforcer la discrimination et
propager la désinformation, polluant davantage les ensembles de
données et l'écosystème informationnel. Elles peuvent également
avoir des conséquences diffamatoires pour les individus: dans un
cas récent, en Norvège, un homme a demandé à ChatGPT des informations
le concernant et a reçu en réponse une fausse affirmation selon
laquelle il aurait assassiné ses deux fils
Note.
46. En outre, il existe un risque que l’utilisation excessive
des outils d'IA puisse réduire la capacité des individus à penser
de manière critique et à innover, en fixant des normes moins élevées
et en limitant la diversité des points de vue. Les citoyens pourraient
utiliser l'IA pour poser des questions à leurs représentants élus,
qui pourraient également utiliser l'IA pour fournir leurs réponses.
De même, les étudiants pourraient utiliser l'IA pour produire leurs
travaux, et les enseignants pourraient ensuite utiliser l'IA pour
les corriger.
47. Si une IA incompétente se voit confier des responsabilités
décisionnelles, sur la base d'un optimisme technologique injustifié
ou d'une mauvaise appréciation des capacités réelles de l'IA, il
existe un risque supplémentaire d'«élévation de l'incompétence»,
qui pourrait avoir des conséquences catastrophiques.
48. L'utilisation d'outils d'IA peut également conduire à la solitude
et à l'érosion des compétences sociales, en particulier lorsque
les utilisateurs anthropomorphisent l'outil et l'utilisent comme
un substitut synthétique aux relations réelles, y compris les relations
amoureuses
Note.
49. La propriété des ensembles de données, associée au contrôle
des systèmes d'IA et des technologies informatiques les plus puissants,
peut conduire à une concentration dangereuse du pouvoir entre les
mains des entreprises technologiques privées, en particulier en
l'absence d'une surveillance adéquate
Note.
50. En outre, les différents niveaux d'accès à la technologie
et aux compétences nécessaires pour l'utiliser pleinement peuvent
conduire à des inégalités accrues entre les citoyens. Les femmes,
les personnes âgées et les groupes marginalisés ayant un accès limité
à l'éducation peuvent être les plus vulnérables. S'il est trop tôt
pour prévoir les effets nets de l'IA sur le marché du travail, il
est possible que certains groupes soient laissés pour compte dans
la transition numérique: ceux qui perdront leur emploi en raison
de l'automatisation croissante des tâches pourraient se sentir davantage
marginalisés et enclins à l'extrémisme politique.
51. Enfin, la demande croissante en services d'IA et les besoins
connexes en capacités de stockage de données et de calcul toujours
plus importantes peuvent avoir un impact considérable sur la production d'énergie
et l'environnement, notamment en ce qui concerne les émissions de
CO2 et la consommation d'eau.
4 Comment
l'intelligence artificielle peut-elle renforcer la démocratie?
52. L'IA ne doit cependant pas
être diabolisée, car elle peut également renforcer les processus démocratiques,
à condition d'être correctement développée, déployée, et contrôlée.
Bien qu'il existe des risques, l'IA offre également des opportunités.
Avec une gouvernance, des normes et des règles appropriées, ces
opportunités pourraient compenser les menaces, transformant l'IA
en un formidable outil pour renforcer les institutions et les processus
démocratiques, les rendant plus résilients et prêts à relever les
défis de l'avenir. Il est encore temps de faire en sorte que ce
changement se produise.
53. L'utilisation la plus évidente des systèmes d'IA en politique
est le renforcement de la participation publique. L'IA pourrait
notamment permettre aux citoyens d'accéder à des informations spécifiques,
analyser et expliquer des politiques par ailleurs techniquement
compliquées, servir de médiateur et résumer des discussions, identifier
des modèles et des positions communes au sein de grands groupes
de personnes participant à des consultations et à des processus
délibératifs, et faciliter leur interaction avec leurs représentants
élus ou les autorités publiques
Note. En ce sens, l'IA pourrait, dans
un avenir proche, être utilisée pour faciliter les consultations
internationales et identifier des solutions communes aux problèmes
mondiaux
Note.
54. De même, l'IA pourrait également être utilisée par les représentants
élus et les autorités publiques pour recueillir des commentaires,
des propositions et des informations sur les besoins et les souhaits
des citoyens de leur communauté. Ceci soutiendrait les processus
d'élaboration des politiques et de prise de décision en les rendant
plus ciblés et plus efficaces.
55. De plus, les outils d'IA peuvent avoir un impact positif sur
l'inclusion, car ils pourraient offrir à des personnes de tous horizons,
et en particulier aux groupes défavorisés, un meilleur accès aux
services publics, à l'éducation et aux opportunités d'emploi, ce
qui permettrait d'uniformiser les règles du jeu et d'éliminer les obstacles.
56. L'IA pourrait donc encourager les citoyens à participer davantage
à la sphère publique, les rapprochant ainsi des responsables politiques
qui prennent les décisions affectant leur vie. Cela pourrait, à
son tour, inverser la tendance à l'abstention, car les citoyens
retrouveraient confiance dans les institutions en sentant que leur
voix est entendue et prise en compte.
57. L'IA peut également être utilisée pour renforcer la protection
des droits humains (par exemple en luttant contre la traite des
êtres humains)
Note ou pour automatiser et accélérer
certaines procédures administratives publiques, augmentant ainsi
la productivité, la réactivité, la responsabilité
Note et,
par conséquent, améliorant la satisfaction des citoyens à l'égard
du travail et des performances de leurs gouvernements locaux et
nationaux.
58. Plusieurs parlements européens, dont l'Assemblée, testent
déjà des outils d'IA pour améliorer leur fonctionnement interne.
En septembre 2025, l'Albanie a lancé Diella, une «ministre IA» chargée
des marchés publics, dans le but de rendre le processus transparent
et incorruptible
Note.
59. Enfin, la technologie de l'IA pourrait être utilisée pour
surveiller et identifier les tentatives d'influence des citoyens
au moyen de l'IA elle-même, par exemple en identifiant le contenu
généré par l'IA, et en général pour assurer un contrôle démocratique
plus fort sur le développement, l'essai et l'application des systèmes
et des outils d'IA.
5 Implications
géopolitiques
60. La course au développement
et au contrôle de la technologie de l'IA, de son infrastructure
et des ressources associées déterminera l'évolution des relations
géopolitiques à l'échelle mondiale dans les années à venir.
61. La première implication concerne la «souveraineté numérique»
des pays. La propriété et le contrôle des ensembles de données et
des centres de données, des capacités de cloud computing (y compris
l'informatique quantique), des compétences humaines, des pôles de
recherche et de développement en IA et des réseaux énergétiques
suffisants deviendront des atouts de plus en plus précieux pour
la sécurité nationale et les relations entre États: les pays qui
exerceront ce contrôle pourront manipuler et «fermer» de manière
sélective les services d'IA utilisés par les pays qui en sont dépourvus,
comme un instrument de politique étrangère.
62. La deuxième implication concerne le conflit entre des visions
concurrentes de la société et des régimes politiques, qui influencent
également différents «modèles» de développement de l'IA. Les États-Unis
restent à la pointe de la recherche et du développement en matière
d'IA, grâce à leur modèle caractérisé par un écosystème d'innovation
fondé sur le libre marché et la concurrence, dans lequel opèrent
leurs géants technologiques. La Chine, quant à elle, rattrape son
retard grâce à son système de planification centralisée par un parti
unique, et elle est en train de façonner un modèle dans lequel la
forte présence du gouvernement central dans la vie des citoyens
se reflète dans le développement et le déploiement de systèmes et
d'outils d'IA.
63. À son tour, l'UE est critiquée d'être à la traîne en raison
de l'importance qu'elle accorde à la réglementation, sur la base
de l'argument fallacieux selon lequel la réglementation est un obstacle
à l'innovation. Il est important de noter qu'il s'agit là d'une
fausse dichotomie: une réglementation appropriée peut faciliter
le développement technologique en offrant aux innovateurs un environnement
sûr et prévisible. Les véritables défis de l'Europe résident peut-être
dans la fragmentation de ses marchés financiers, l'absence d'un marché
numérique unique, des lois punitives en matière de faillite et une
aversion accrue pour le risque, qui contribuent tous à réduire les
incitations à la création d'un écosystème d’innovation, en particulier
pour les start-ups
Note.
64. Le «modèle de l’UE» met toutefois particulièrement l'accent
sur les droits numériques et s'efforce de projeter un leadership
normatif à l'échelle mondiale, afin de façonner les normes réglementaires internationales
(ce que l'on appelle «l'effet Bruxelles»).
65. La pertinence de l'IA en tant qu'atout géopolitique réside
donc dans sa capacité à remodeler les relations de pouvoir, les
normes internationales et l'existence même de la démocratie. Elle
représente également un domaine de concurrence idéologique, les
régimes autoritaires et les pays démocratiques se disputant la prévalence
de leurs systèmes d'IA, qui intégreront à leur tour différents ensembles
de valeurs.
66. De plus, la concentration du contrôle des technologies d'IA
entre les mains d'un petit nombre de géants technologiques, qui
disposent de ressources financières supérieures à celles de nombreux
États, est préoccupante pour deux raisons. Premièrement, le déséquilibre
des pouvoirs entre les entreprises privées et les pays disposant
de moins de ressources est important et a des implications géopolitiques.
Deuxièmement, la nature transnationale de ces entreprises rend plus
difficile la garantie de leur responsabilité.
67. Un exemple récent est le cas du modèle de cybersécurité Mythos
d’Anthropic, dont la diffusion a été limitée à un certain nombre
d’entreprises et d’organisations technologiques: alors que ce modèle
semble surpasser les humains dans l’identification des vulnérabilités
cybernétiques, les entreprises et même les organismes gouvernementaux
qui n’y ont pas accès se retrouvent désavantagés. Une préoccupation supplémentaire
est soulevée par le fait qu’une telle technologie, entre les mains
d’un acteur malveillant, peut également devenir une menace.
68. En outre, certains observateurs indiquent que la commercialisation
rapide des produits afin d'assurer un retour rapide sur les investissements
actuels représente un risque majeur pour 2026. Cela pourrait conduire certaines
entreprises à déployer des outils d'IA qui n'ont pas encore été
correctement testés
Note.
69. Enfin, il convient de noter qu'un pays capable de mettre au
point une IA générale ou une super-IA représenterait une menace
sans précédent pour ses rivaux. Cela pourrait finalement conduire
à la mise en place de cadres de dissuasion de type «Mutual Assured
AI Malfunction» (similaires au cadre de dissuasion «Mutual Assured
Destruction» qui a assuré la stabilité pendant l'ère nucléaire)
Note. Pire encore, une super-IA pourrait
être impossible à contrôler, avec des conséquences difficiles à
imaginer à ce stade. Une solution possible pourrait être de suivre
le modèle des traités nucléaires
Note.
70. En septembre 2025, l’initiative «AI Red Lines» a été lancée,
mettant en garde contre le fait qu’il pourrait devenir de plus en
plus difficile d’exercer un contrôle humain significatif sur des
systèmes d’IA non réglementés dans les années à venir, et exhortant
les gouvernements à «parvenir à un accord politique international
sur des lignes rouges pour l’IA – en veillant à ce qu’elles soient
opérationnelles, avec des mécanismes d’application robustes – d’ici
la fin de l’année 2026»
Note.
71. De même, une déclaration sur la superintelligence a été publiée
en octobre 2025, recueillant les signatures de centaines de personnalités
publiques, appelant «à l'interdiction du développement de la superintelligence,
qui ne sera levée qu'après un large consensus scientifique sur sa
mise en œuvre sûre et contrôlée, et une forte adhésion du public»
Note.
6 Efforts
internationaux actuels
72. Bien que les progrès technologiques
aient un impact mondial, les réglementations qui les régissent dépassent
rarement les frontières nationales. Cela souligne la nécessité de
renforcer la coopération internationale entre les différentes parties
prenantes.
6.1 Conseil
de l'Europe
73. Le Conseil de l'Europe contribue
à cet effort international de différentes manières. Sa Convention-cadre sur
l'intelligence artificielle et les droits de l'homme, la démocratie
et l'État de droit a été ouverte à la signature à Vilnius le 5 septembre
2024 et représente le tout premier traité international juridiquement
contraignant dans le domaine de l'IA
Note.
74. L'article 4 de la Convention-cadre stipule que les parties
signataires adoptent ou maintiennent «des mesures pour veiller à
ce que les activités menées dans le cadre du cycle de vie des systèmes
d'intelligence artificielle soient cohérentes avec les obligations
de protection des droits de l'homme». L'article 5 prévoit que «chaque
Partie adopte ou maintient des mesures visant à garantir que les
systèmes d'intelligence artificielle ne sont pas utilisés pour porter
atteinte à l'intégrité, à l'indépendance et à l'efficacité des institutions
et processus démocratiques» et «qui visent à protéger ses processus
démocratiques au cours des activités menées dans le cadre du cycle
de vie des systèmes d'intelligence artificielle, y compris l'accès
équitable et la participation des personnes au débat public, ainsi
que leur capacité à se forger librement une opinion».
75. En outre, en novembre 2024, le Comité sur l'intelligence artificielle
(CAI) créé par le Comité des ministres du Conseil de l'Europe a
adopté la Méthodologie pour l'évaluation des risques et des impacts
des systèmes d'intelligence artificielle du point de vue des droits
humains, de la démocratie et de l'État de droit (méthodologie HUDERIA)
Note, un document d'orientation non contraignant
juridiquement destiné à être utilisé par les acteurs publics et
privés. Depuis le 1er janvier 2026, les
travaux du CAI sont poursuivis par le Comité directeur pour les
technologies numériques nouvelles et émergentes (CDNET), nouvellement
créé, qui succède au CAI.
76. En novembre 2025, le Comité directeur pour les droits humains
a adopté le Manuel sur les droits humains et l’intelligence artificielle,
conçu pour aider les responsables gouvernementaux et les responsables politiques
des États membres du Conseil de l’Europe à appliquer la Convention
européenne des droits de l’homme (STE n° 5), la Charte sociale européenne
(révisée) (STE n° 163) et d’autres normes en matière de droits de
l’homme à l’utilisation de l’IA
Note.
77. En avril 2026, le Comité des ministres du Conseil de l’Europe
a adopté la Recommandation CM/Rec(2026)4 sur la sécurité et l’autonomisation
en ligne des utilisateurs et des créateurs de contenu, appelant à
davantage de transparence, de responsabilité et de contrôle concernant
la manière dont les plateformes hébergeant du contenu généré par
les utilisateurs conçoivent leurs interfaces et leurs algorithmes,
et évaluent et gèrent les risques qu’elles font peser sur les droits
humains des utilisateurs et les processus démocratiques
Note.
78. Dans l'ensemble, l'IA est considérée comme une question prioritaire
transversale par l'Organisation; parmi les autres travaux pertinents,
on peut citer la note d'orientation sur les implications de l'intelligence artificielle
générative sur la liberté d'expression, adoptée en décembre 2025
par le Comité directeur du Conseil de l'Europe sur les médias et
la société de l'information
Note.
79. Le Comité d'experts sur la manipulation de l’information et
l'ingérence menées depuis l’étranger (PC-FIMI) créé en tant que
sous-comité du Comité européen pour les problèmes criminels, a préparé
une étude de faisabilité sur l’élaboration éventuelle d’un instrument
juridique relatif à la manipulation de l’information et l'ingérence
menées depuis l’étranger, y compris la désinformation, présentée
lors de la session ministérielle du Comité des ministres à Chişinău
(République de Moldova) les 14-15 mai 2026
Note.
80. Par ailleurs, le Comité directeur sur la démocratie finalise
actuellement un projet d'étude sur les avantages et les risques
de l'utilisation de l'intelligence artificielle générative dans
le débat public relatif au processus démocratique et sur la maîtrise
de l'IA pour la vie démocratique.
81. Le Conseil de l’Europe accorde une attention particulière
à la participation des jeunes et de leurs organisations à la gouvernance
de l’IA. En avril 2025, il a organisé une réunion consultative qui
a abouti à une feuille de route sur l’intelligence artificielle,
la politique de la jeunesse et le travail avec les jeunes
Note.
82. Le Conseil de l'Europe a également lancé en 2025 le Nouveau
pacte démocratique pour l'Europe, afin de promouvoir les solutions
efficaces et de trouver de nouvelles réponses au recul de la démocratie
sur le continent
Note. L'IA sera au cœur de cet effort,
en particulier en ce qui concerne son pilier 3 «Innover pour la démocratie»,
qui vise à mettre les technologies numériques – y compris l’IA –
au service du bien commun, tout en combattant leurs usages abusifs
et leurs effets néfastes. Le présent rapport et les autres rapports
pertinents actuellement en cours d'élaboration par l'Assemblée apporteront
une contribution essentielle.
6.2 Nations
Unies
83. Les Nations Unies ont intégré
un pacte numérique mondial dans le Pacte pour l'avenir adopté en septembre
2024
Note, dans lequel les États membres
se sont fixé pour objectif de réduire toutes les fractures numériques
et de renforcer la gouvernance internationale de l'IA pour le bien
de l'humanité.
84. Dans le cadre du Pacte, les États membres ont également décidé
de créer un groupe scientifique international indépendant et multidisciplinaire
sur l'intelligence artificielle
Note et de lancer un dialogue mondial
sur la gouvernance de l'intelligence artificielle. La première session
du dialogue mondial des Nations unies se tiendra en juillet 2026
Note.
85. En outre, le Secrétaire Général des Nations Unies a mis en
garde, dans un message public, contre les dangers d'une IA non contrôlée
pour la démocratie, et a appelé à ce que l'IA serve l'humanité de
manière équitable et sûre
Note.
86. Différentes agences et entités des Nations Unies travaillent
sur l'IA sous différents angles. L'UNESCO
Note s'attaque aux questions liées à
l'éthique de l'IA, à l'IA dans l'éducation, à l'égalité des genres
et au renforcement des capacités des gouvernements et du pouvoir
judiciaire. Elle a également publié un rapport consacré à «l'intelligence
artificielle et la démocratie»
Note. L'ONU Femmes accorde également
une attention particulière à la dimension de genre dans le domaine
de l'IA et a lancé l'année dernière une école dédiée à l'IA qui
permet aux participants d'apprendre, de construire et de régir une
IA sûre et inclusive sur le plan du genre
Note.
6.3 Le
G7 et l'Organisation de coopération et de développement économiques
(OCDE)
87. Le G7 suit de près les développements
en matière d'IA; en particulier, dans le cadre du processus du G7
sur l'IA à Hiroshima, il a élaboré en 2023 des principes directeurs
et un code de conduite à l'intention des acteurs de l'IA
Note.
88. L'OCDE travaille également de manière intensive sur les questions
liées à l'IA; la portée de ses travaux, en particulier en ce qui
concerne l'impact de l'IA sur le marché du travail, sera révisée
en profondeur dans un rapport spécifique actuellement en cours d'élaboration
par l’Assemblée. Il convient toutefois de mentionner que le Conseil
de l'OCDE a adopté en 2019 (et modifié en 2024) une recommandation
sur l'intelligence artificielle
Note. En outre, l'OCDE coopère avec le
Partenariat mondial sur l'IA
Note.
6.4 Union
européenne (UE)
89. L'UE a pris plusieurs initiatives
pertinentes. En 2025, elle a adopté un plan d'action pour le continent
de l’IA, visant à développer des technologies d'IA fiables afin
de renforcer la compétitivité de l'Europe tout en préservant et
en faisant progresser les valeurs démocratiques
Note.
90. En 2024, elle a adopté le règlement (UE) 2024/1689 établissant
des règles harmonisées en matière d'intelligence artificielle (législation
sur l’IA)
Note, qui définit une approche fondée
sur les risques pour les développeurs et les déployeurs d'IA concernant
des utilisations spécifiques de l'IA, en définissant quatre niveaux
de risques pour les systèmes d'IA: inacceptable, élevé, limité et
minimal. En particulier, la législation sur l'IA interdit les systèmes
d'IA visant à établir des notations sociales, à profiler des individus
afin de prédire leur risque de commettre un crime, ou à exploiter
les vulnérabilités des personnes pour fausser leur comportement.
91. En outre, l'UE a adopté en 2022 le règlement (UE) 2022/2065
relatif à un marché unique des services numériques (législation
sur les services numériques), qui introduit des règles pour les
services en ligne utilisés par les citoyens européens dans leur
vie quotidienne, notamment les places de marché, les réseaux sociaux, les
boutiques d'applications et les plateformes de voyage et d'hébergement
en ligne
Note.
92. Enfin, l'UE a également lancé en novembre 2025 l'initiative
«Bouclier européen de la démocratie», qui comprend une série de
mesures concrètes visant à renforcer, protéger et promouvoir des
démocraties solides et résilientes dans toute l'UE
Note.
6.5 Autres
initiatives
93. Parmi les autres initiatives
pertinentes, citons le Sommet sur la sécurité de l'IA, qui s'est
tenu à Bletchley (Royaume-Uni) en novembre 2023
Note, le Sommet d'action sur l'IA de
Paris, qui s'est tenu en février 2025
Note, et le Sommet sur l'impact de l'IA,
qui s'est tenu à New Delhi en février 2026
Note.
94. En novembre 2024, les instituts de sécurité de l’IA et les
organismes mandatés par les gouvernements chargés de faciliter la
sécurité et l’évaluation de l’IA de la Commission européenne, de
la France, du Royaume-Uni ainsi que du Canada, du Japon et des États-Unis,
entre autres pays, ont lancé le Réseau international des instituts
de sécurité de l’IA. L’objectif est de faciliter une compréhension
technique commune des risques liés à la sécurité de l’IA et des
mesures d’atténuation, et d’encourager une compréhension générale
et une approche de la sécurité de l’IA à l’échelle mondiale
Note.
95. En outre, l’Organisation internationale de normalisation (ISO)
a créé en 2017 le sous-comité de normalisation «ISO/IEC JTC1/SC
42 Intelligence artificielle», axé sur l’ensemble de l’écosystème
de l’IA, afin de permettre le déploiement et l’adoption à grande
échelle de l’IA dans un grand nombre de domaines
Note.
96. Enfin, il convient également de mentionner la cartographie
des initiatives d'intérêt public utilisant l'IA pour soutenir la
gouvernance démocratique en ligne, préparée par l'organisation civique
de technologie Make.org
Note.
7 Conclusions
97. En 1955, Isaac Asimov a publié
la nouvelle «Franchise», qui imaginait un avenir dans lequel les
États-Unis étaient devenus une «démocratie électronique». Dans cet
avenir, un superordinateur sélectionnait une seule personne pour
représenter l'ensemble de l'électorat et répondre à une série de
questions. La machine utilisait ensuite ces réponses pour déterminer
les résultats des élections. «Les ordinateurs sont devenus de plus
en plus grands, de sorte qu’ils ont réussi à estimer, d’après un
nombre de votes de plus en plus restreint, quel serait le résultat
de l’élection. Et puis, en fin de compte, on a fabriqué Multivac,
qui est capable de le déterminer d'après un seul votant». Bien que
ce scénario inquiétant semble actuellement relever du domaine de
la science-fiction, il convient de noter qu'en septembre 2025, un
nouveau parti politique japonais a désigné l'IA comme son leader
Note.
98. Parallèlement, les dernières avancées en matière de technologie
numérique et d'IA constituent une menace très réelle pour les institutions
et les processus démocratiques, et exigent une action immédiate
de la part des États membres et observateurs du Conseil de l'Europe.
99. Bien que la transition numérique puisse apporter de nombreux
avantages à l’humanité, les risques pour la démocratie ne peuvent
être sous-estimés. Le Conseil de l’Europe fait figure de pionnier:
sa Convention-cadre sur l’intelligence artificielle et les droits
de l’homme, la démocratie et l’État de droit est le tout premier traité
juridiquement contraignant dans ce domaine.
100. Cela n’est toutefois pas suffisant. Les États membres et observateurs
doivent adopter des mesures visant à garantir le maintien d’un contrôle
démocratique tout au long du cycle de vie de tous les systèmes d’IA, du
développement au déploiement, afin de préserver la dignité humaine,
la transparence et la responsabilité. Cela doit se faire en collaboration
avec toutes les parties prenantes concernées, à commencer par les
acteurs privés opérant dans le domaine de l’IA, afin de garantir
que les systèmes d’IA soient véritablement centrés sur l’humain
et qu’ils autonomisent les humains sans les remplacer.
101. Les initiatives visant à lutter contre l’ingérence étrangère
et à renforcer la résilience face à la désinformation devraient
être prioritaires.
102. Les développeurs et les fournisseurs d’IA, ainsi que les plateformes
de réseaux sociaux, devraient être tenus responsables de tout préjudice
causé par leurs services, et les victimes devraient avoir accès
à des voies de recours.
103. Il est tout aussi important de consacrer des ressources suffisantes
à l’éducation aux médias et à l’IA, et d’associer toutes les parties
prenantes concernées à l’élaboration de nouvelles normes et réglementations.
104. Les États membres devraient s’efforcer de définir des cadres
clairs pour leurs relations avec les grandes entreprises technologiques,
tout en prenant des mesures pour renforcer la souveraineté numérique européenne.
105. Un organisme multilatéral dédié exclusivement à la supervision
des technologies d'IA pourrait être créé, afin de définir un langage
commun, des normes et un cadre réglementaire, en associant toutes
les parties prenantes concernées.
106. En fin de compte, il est important de reconnaître que les
technologies d’IA peuvent également constituer un outil puissant
pour renforcer la sécurité démocratique en Europe. Les États membres
doivent être prêts à saisir cette opportunité et à profiter des
avantages qui en découlent, tout en veillant à ce que des cadres
de gouvernance appropriés soient en place.
