Émergence des systèmes d’armes létales autonomes (SALA) et leur nécessaire appréhension par le droit européen des droits humains

1L’Assemblée parlementaire note que les progrès technologiques rapides en matière d’intelligence artificielle permettent l’émergence, dans un avenir proche, de systèmes d’armes létales autonomes (SALA).

2Selon la définition du Comité International de la Croix Rouge (CICR), le terme SALA inclut tout système d’armes autonome dans ses fonctions critiques. Il s’agit d’un système d’armes capable de sélectionner (c’est-à-dire de rechercher ou détecter, identifier, traquer, sélectionner) et d’attaquer (c’est-à-dire utiliser la force contre, neutraliser, endommager ou détruire) des cibles sans intervention humaine. Il ne s'agit donc ni de systèmes télécommandés dans lesquels l'être humain garde entièrement le contrôle, ni de systèmes automatiques dans lesquels un certain processus a été programmé à l'avance de sorte que leur action est totalement prévisible.

3L’émergence des SALA suscite l’inquiétude de nombreux États ainsi que de la société civile. 54 organisations non gouvernementales ont lancé une campagne pour obtenir l’interdiction préventive de la recherche et du développement de ces technologies émergentes et donc, a fortiori de leur utilisation, qu’ils nomment «les robots tueurs». Cette position de principe a été adoptée par le Parlement européen dans une résolution du 12 septembre 2018.

4La logique de la “course aux armements” dans ce domaine amène certains à considérer que les SALA représentent la troisième révolution militaire dans l’histoire des relations internationales, après l’invention de la poudre à canon et celle de l’arme atomique. Les puissances militaires qui n’investiraient pas dans le développement de cette technologie risqueraient alors d’être distancées.

5Les SALA risquent d’abaisser le seuil de déclenchement d’une guerre, en réduisant le risque pour un pays de pertes de ses propres troupes. Les SALA soulèvent aussi un problème fondamental de dignité humaine – le fait de permettre à des machines de «décider» de tuer un humain.

6La conformité des SALA avec le droit international humanitaire dépend surtout de la possibilité, ou non, de respecter les principes de la distinction, de la proportionnalité et des précautions à prendre en cas d’attaque.

6.1Le principe de distinction entre objectifs militaires et civils pourrait être respecté par des SALA bien conçus et programmés pour exécuter des frappes précises visant uniquement des objectifs militaires.

6.2La question de savoir si une attaque est conforme au principe de proportionnalité se fonde sur des valeurs et des interprétations de la situation plutôt que sur des chiffres et des indicateurs techniques. Ces jugements, qui reflètent des considérations éthiques, requièrent le jugement humain qui est unique. C’est à ce titre qu’un minimum de contrôle humain est indispensable.

6.3Pour être conforme au principe de précaution, l’action des SALA doit être prévisible. Les utilisatrices et les utilisateurs doivent pouvoir ajuster ou annuler les effets des systèmes d'armes si nécessaire, ce qui n'est possible que s'ils peuvent raisonnablement prévoir la réaction d'un système d'armes.

6.4La conformité des SALA avec le droit international des droits humains, et notamment avec la Convention européenne des droits de l’homme (STE no 5) dépend d’une réglementation claire de leur usage. L’article 2 de la Convention exige la protection du droit à la vie par la loi. Cela signifie que l'État doit mettre en place un cadre juridique qui définit les circonstances limitées dans lesquelles l'usage de ces armes est autorisé. La jurisprudence de la Cour européenne des droits de l’homme concerne d'autres types d'armes. Mais l’utilisation des SALA ne devrait pas être soumise à des normes moins strictes.

7Dans la perspective du droit international humanitaire et des droits humains, une réglementation du développement et surtout de l’usage des SALA est donc indispensable. Le point crucial est celui du contrôle humain. Le respect des règles du droit international humanitaire et des droits humains ne peut être garanti qu’en maintenant un contrôle humain dont l’intensité varie selon les positions adoptées par les États et autres acteurs de la communauté internationale. Plusieurs niveaux de contrôle humain peuvent être envisagés: le contrôle significatif, le contrôle effectif ou encore un jugement humain approprié. Un tel contrôle humain doit être maintenu sur les systèmes d'armes létales à tous les stades de leur cycle de vie.

7.1Le contrôle humain peut être exercé au stade du développement, notamment par la conception technique et la programmation du système d'armes (ethics by design): les décisions prises au cours de la phase de développement doivent garantir que le système d'armes peut être utilisé dans les circonstances d'utilisation prévues ou attendues, conformément au droit international humanitaire et aux autres normes internationales applicables, notamment la Convention européenne des droits de l’homme.

7.2Le contrôle humain peut également être exercé au point d'activation, ce qui implique la décision de la personne en charge du commandement et de celle en charge des opérations d'utiliser un système d'arme particulier dans un but particulier, décision qui doit être fondée sur une connaissance et une compréhension suffisante du fonctionnement de l'arme dans les circonstances données pour garantir qu'elle fonctionnera comme prévu et conformément au droit international humanitaire et aux normes internationales applicables. Cette connaissance doit comprendre une connaissance adéquate de la situation de l’environnement opérationnel, notamment en ce qui concerne les risques potentiels pour les civils et les biens civils.

7.3Afin de garantir le respect du droit international humanitaire et des normes internationales applicables, il peut être considéré nécessaire de pouvoir exercer un contrôle humain supplémentaire pendant la phase d'opération, lorsque l'arme sélectionne et attaque des cibles de manière autonome. Une intervention humaine peut être nécessaire pour assurer le respect du droit, pour combler des lacunes éventuelles au stade du développement et au point d’activation.

8Contrairement aux humains, les machines n'ont pas de sentiments et ne sont pas des agents moraux. Si une personne commet un crime de guerre avec une arme autonome, c’est l'humain qui commet le crime, en utilisant l'arme autonome comme outil. Les humains doivent non seulement être juridiquement responsables, mais aussi moralement responsables des actions des SALA. Certaines décisions relatives à l'utilisation d'armes nécessitent des jugements juridiques et moraux, comme par exemple la mise en balance des pertes civiles probables et des avantages militaires liés à la conduite d'attaques. Ces jugements doivent être endossés par des humains puisqu'il s'agit également de jugements moraux et qu’ils ont une portée juridique.

9Les dispositions pertinentes du droit international humanitaire impliquent que de tels systèmes d’armes ne doivent pas être utilisés s’ils sont de nature à causer des blessures superflues ou des souffrances inutiles, ou s'ils sont intrinsèquement aveugles, ou s'ils sont incapables d'être utilisés conformément au droit.

10À supposer que les futurs SALA soient conformes au droit de la guerre dans leur fonctionnement normal, un dysfonctionnement de la machine pourrait provoquer une attaque erronée et donc soulever des difficultés d’imputabilité de la responsabilité. La responsabilité juridique en cas de défaillance du système d’armes létales autonome doit pouvoir être établie en analysant le respect de la condition d’un contrôle humain suffisant. Les actions illicites commises par un système d’armes létales autonome dont résulteraient des violations du droit international humanitaire et d’autres normes internationales doivent pouvoir être rattachées alternativement à l’individu ou aux groupes d’individus à l’origine de sa conception, fabrication ou programmation ou encore de son déploiement et in fine à l’État utilisateur. A cet égard l’État utilisateur a une responsabilité particulière de tester et vérifier au préalable les armes qu’il entend utiliser afin de s’assurer de leur prévisibilité et de leur fiabilité et du fait qu’elles ne risquent pas de commettre des violations du droit international humanitaire par erreur, dysfonctionnement ou mauvaise conception et de vérifier les contextes dans lesquels leur utilisation est possible conformément au droit.

11L’Assemblée note que les questions de compatibilité des SALA avec le droit international humanitaire et les droits humains sont en discussion parmi les États parties à la Convention sur certaines armes classiques (CCAC), qui ont établi un Groupe d’experts gouvernementaux (GEG). Celui-ci, sur la base des «11 principes directeurs sur les SALA» adoptés en 2019 et de la Déclaration Finale de la 6ème Conférence des États parties à la CCAC en décembre 2021 continue à rechercher un consensus sur la réglementation future de cette technologie émergente.

12Lors de sa session de juillet 2022, le GEG a adopté une déclaration convenant que le droit des parties d’un conflit armé de choisir les méthodes et les moyens de faire la guerre n’est pas sans limite et que le droit international humanitaire s’applique aussi aux SALA. Toute violation du droit international, y compris une violation impliquant un système d’armes létales autonome, engage la responsabilité internationale de l’État concerné. Le Groupe a par ailleurs proposé la prolongation de ses travaux en 2023.

13L’Assemblée note qu’un groupe d’États européens a proposé au GEG une approche en deux volets:

13.1Premièrement, les États parties à la CCAC devraient reconnaître que les SALA qui ne peuvent être utilisés conformément au droit international, y compris le droit international humanitaire, sont de facto interdits; et que par conséquent les SALA fonctionnant complètement en dehors du contrôle humain et d'une chaîne de commandement responsable sont illégaux.

13.2Deuxièmement, il convient de se mettre d’accord sur une réglementation internationale d’autres systèmes d’armes présentant des éléments d’autonomie pour garantir le respect du droit international humanitaire:

13.2.1en assurant un contrôle humain approprié pendant tout le cycle de vie du système considéré;

13.2.2en préservant la responsabilité humaine et l'obligation de rendre des comptes à tout moment, en toutes circonstances et tout au long du cycle de vie, en tant que base de la responsabilité de l'État et de celle de l'individu, qui ne peuvent jamais être transférées à des machines;

13.2.3en mettant en œuvre des mesures d'atténuation des risques adaptées et des garanties appropriées en matière de sûreté et de sécurité.

14L’Assemblée soutient cette approche en deux volets et considère que l’émergence des SALA requiert une réglementation claire de cette technologie visant à assurer le respect du droit international humanitaire et des droits humains et que le forum approprié pour convenir de la future réglementation des SALA est la Conférence des États parties à la CCAC et son GEG.

15Pour ce qui est de la forme juridique de cette réglementation, l’objectif à long terme devrait être un texte contraignant sous forme d’un protocole à la CCAC ou même une convention internationale spécifique.

16En attendant l’émergence du large consensus nécessaire pour élaborer un tel instrument, il convient de préparer un instrument non contraignant sous forme d’un code de conduite. Cet instrument, susceptible d’être mis à jour régulièrement, pourrait codifier les principes directeurs déjà largement reconnus et mettre en valeur les bonnes pratiques adoptées par l’un ou l’autre État partie à la CCAC.

17L’Assemblée appelle donc les États membres du Conseil de l’Europe, ainsi que les États observateurs et les États dont les parlements bénéficient du statut d’observateur ou de partenaire pour la démocratie auprès de l’Assemblée, à participer, de manière constructive, aux travaux en cours au sein de la CCAC et de son GEG visant à encadrer l’émergence des SALA et à soutenir l’approche en deux volets évoquée ci-dessus.

18Si aucun consensus ne devait émerger dans un délai raisonnable pour l’élaboration d’un code de conduite, puis pour la préparation et la négociation d’un accord international au sens des paragraphes 14 et 15, ou que de telles démarches semblent dépourvues de chance de succès, l’Assemblée invite les États membres du Conseil de l’Europe, ainsi que les États observateurs et les États dont les parlements bénéficient du statut d’observateur ou de partenaire pour la démocratie auprès de l’Assemblée, à envisager d’initier de tels travaux au niveau du Conseil de l’Europe.