Suite à l'adoption de la Convention-cadre du Conseil de l'Europe sur l'intelligence artificielle et les droits de l'homme, la démocratie et l'État de droit (STCE n° 225) par le Comité des Ministres, l'Assemblée parlementaire doit rester vigilante dans le suivi de l'impact de l'intelligence artificielle (IA) sur les droits humains et l'État de droit.
Dans son Avis 303 (2024), l'Assemblée a estimé que la Convention-cadre aurait dû établir une obligation explicite pour les Parties d'informer leurs citoyens chaque fois que l'IA est utilisée dans des procédures administratives aboutissant à l'émission de décisions juridiques contraignantes. Bien que l'article 15 de la Convention-cadre introduise un devoir de transparence dans le cadre d’interactions directes avec l'IA – comme lors de l'utilisation de chatbots sur des sites web gouvernementaux – cette garantie ne s'étend pas aux systèmes alimentés par l'IA utilisés au sein des institutions publiques et qui peuvent avoir un impact sur les droits humains. Par exemple, des outils alimentés par l'IA sont utilisés pour évaluer l'éligibilité aux prestations sociales, détecter d'éventuelles fraudes ou incohérences dans les déclarations fiscales, faciliter la biométrie (y compris la reconnaissance faciale) et identifier d'éventuels schémas criminels.
Considérant que la Convention-cadre n'empêche pas les Parties d'accorder une protection plus large que celle qu'elle prévoit, l'Assemblée devrait continuer à élaborer de nouvelles normes dans ce domaine, en particulier lorsque l’usage de l’IA par les États membres a des répercussions sur les droits et les intérêts des citoyens. Par conséquent, l'Assemblée devrait examiner l'utilisation de l'IA par le secteur public dans les États membres, en identifiant les risques éventuels et les mesures visant à garantir le respect des obligations en matière de droits humains. Cet exercice devrait permettre de déterminer les meilleures pratiques pour garantir que cette utilisation de l'IA respecte les normes et les principes des droits humains en matière de légalité, d'équité, de transparence, de limitation des finalités, de minimisation des données, d'exactitude, de limitation du stockage, d'intégrité, de confidentialité et de responsabilité.