L'émergence de l'utilisation des technologies d'intelligence artificielle (IA) dans la guerre a de profondes implications pour le respect des droits humains et du droit international humanitaire (DIH). Si l'IA peut offrir des avantages substantiels en termes de rapidité, d'efficacité et de capacités de prise de décision sur le champ de bataille, elle soulève simultanément d'importantes préoccupations éthiques et juridiques. Les outils et les armes basés sur l'IA sont déjà déployés à une échelle toujours croissante dans les conflits armés, tels que ceux à Gaza et en Ukraine.
Ces systèmes pourraient ne pas être en mesure de faire la distinction entre un soldat armé et un civil muni d'un objet inoffensif, conduisant à des utilisations potentiellement illégales de la force.
En outre, l'utilisation d'outils de surveillance basés sur l'IA et de systèmes d'armes létales autonomes (SALA) peut exacerber l'opacité et l'imprévisibilité des opérations militaires. Les préoccupations éthiques et juridiques sont encore plus importantes lorsque ces systèmes ne sont pas suffisamment supervisés par des humains, ce qui peut entraîner des lacunes en matière de responsabilité. Cela souligne la nécessité de cadres réglementaires stricts pour régir leur utilisation, comme l'a noté l'Assemblée parlementaire dans la Résolution 2485 (2023). Bien que la nouvelle Convention-cadre du Conseil de l'Europe sur l'intelligence artificielle et les droits humains, la démocratie et l’État de droit (STCE n° 225) exclue les questions de défense de son champ d'application, les États continuent d'être liés par les règles du DIH et les instruments des droits humains lorsqu'ils utilisent l'IA à des fins militaires. Il s'agit notamment des principes de distinction, de proportionnalité, de nécessité et de précaution.
Compte tenu de ces préoccupations, l'Assemblée devrait analyser la conformité de l'utilisation des systèmes militaires basés sur l'IA avec les droits humains et le DIH, en se concentrant sur leur capacité à distinguer les combattants des non-combattants et sur le risque d'erreurs critiques pouvant entraîner des pertes civiles. Elle devrait également examiner l'étendue de la surveillance humaine nécessaire pour garantir la responsabilité. L'Assemblée pourrait faire des propositions aux États et aux acteurs internationaux concernés en vue d'adapter le cadre réglementaire international existant aux défis en constante évolution posés par l'IA dans ce domaine.