Logo Assembly Logo Hemicycle

Une commission met en garde contre les risques, mais souligne le potentiel démocratique de l’IA

Deborah / Bergamini / Italy

La Commission des questions politiques et de la démocratie de l’APCE a adopté un projet de rapport soulignant que l’intelligence artificielle (IA) offrait à la fois des opportunités majeures et des risques sérieux pour les systèmes démocratiques, tout en avertissant que « les efforts déployés pour faire en sorte que les systèmes d'IA soient sûrs et régulés par des cadres de gouvernance démocratique étaient loin de suivre le rythme de l'innovation ».

Le projet de rapport, préparé par Deborah Bergamini (Italie, PPE/DC), souligne que « l'IA pourrait bien constituer la révolution la plus transformatrice de l'histoire de l'humanité », tout en exprimant « une profonde préoccupation face à l'impact potentiellement perturbateur de l'IA sur la démocratie en Europe et au-delà ».

Dans le même temps, la commission souligne que « l'IA ne devait pas être diabolisée », notant qu’avec des cadres de gouvernance appropriés, « elle pouvait contribuer à faire évoluer les systèmes démocratiques » et à « renforcer les processus et les institutions démocratiques », notamment en facilitant la participation publique, l’accès à l’information et la démocratie délibérative.

Le projet de rapport met en évidence à la fois les effets positifs et négatifs. D'une part, l'IA peut « promouvoir l'inclusion en éliminant les barrières socio-économiques » et améliorer l'accès « aux services publics, à l'éducation et aux opportunités d'emploi ». D'autre part, il met en garde contre le fait que cette technologie « repose sur de grands ensembles de données pour entraîner ses systèmes et produire des résultats », ce qui « peut être exploité par des individus malveillants, des entreprises ou des gouvernements à des fins telles que la surveillance de masse, la police prédictive, la notation des risques ou la notation sociale, ou encore la censure des opinions politiques ».

La commission met également en garde contre le fait que « les ensembles de données utilisés pour entraîner les systèmes d'IA peuvent être pollués par des contenus de désinformation à caractère politique », ou contenir des biais susceptibles de « conduire les responsables à prendre des décisions sans être bien informés ou donner lieu à des discriminations à l'égard de certains groupes, comme les femmes ou les minorités », tandis que « les systèmes d'IA peuvent parfois 'halluciner' et générer des informations incomplètes ou trompeuses ».

La commission exhorte les États membres et observateurs à ratifier la Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit, et appelle à la mise en place de garanties plus solides contre l’utilisation abusive de l’IA, y compris la désinformation et l’ingérence étrangère.