Émergence des systèmes d’armes létales autonomes (SALA) et leur nécessaire appréhension par le droit européen des droits humains
- Auteur(s) :
- Assemblée parlementaire
- Origine
- Discussion
par l’Assemblée le 27 janvier 2023 (9e séance)
(voir Doc. 15683, rapport de la commission des questions juridiques et
des droits de l'homme, rapporteur: M. Damien Cottier). Texte adopté par l’Assemblée le
27 janvier 2023 (9e séance).
1. L’Assemblée parlementaire note
que les progrès technologiques rapides en matière d’intelligence artificielle
permettent l’émergence, dans un avenir proche, de systèmes d’armes
létales autonomes (SALA).
2. Selon la définition du Comité international de la Croix-Rouge
(CICR), le terme SALA inclut tout système d’armes autonome dans
ses fonctions critiques. Il s’agit d’un système d’armes capable
de sélectionner (c’est-à-dire de rechercher ou de détecter, d’identifier,
de traquer, de sélectionner) et d’attaquer (c’est-à-dire utiliser la
force contre, neutraliser, endommager ou détruire) des cibles sans
intervention humaine. Il ne s'agit donc ni de systèmes télécommandés
pour lesquels l'être humain garde entièrement le contrôle, ni de
systèmes automatiques dans lesquels un processus a été programmé
à l'avance de sorte que leur action est totalement prévisible.
3. L’émergence des SALA suscite l’inquiétude de nombreux États
ainsi que de la société civile. Cinquante-quatre organisations non
gouvernementales ont lancé une campagne pour obtenir l’interdiction
préventive de la recherche et du développement de ces technologies
émergentes – et donc, a fortiori de
leur utilisation – qu’ils nomment «les robots tueurs». Cette position
de principe a été adoptée par le Parlement européen dans une résolution
du 12 septembre 2018.
4. La logique de la «course aux armements» dans ce domaine amène
certains à considérer que les SALA représentent la troisième révolution
militaire dans l’histoire des relations internationales, après l’invention
de la poudre à canon et celle de l’arme atomique. Les puissances
militaires qui n’investiraient pas dans le développement de cette
technologie risqueraient alors d’être distancées.
5. Les SALA risquent d’abaisser le seuil de déclenchement d’une
guerre en réduisant le risque pour un pays de pertes de ses propres
troupes. Les SALA soulèvent aussi un problème fondamental de dignité humaine :
le fait de permettre à des machines de «décider» de tuer un humain.
6. La conformité des SALA avec le droit international humanitaire
dépend surtout de la possibilité, ou non, de respecter les principes
de la distinction, de la proportionnalité et des précautions à prendre
en cas d’attaque.
6.1 Le principe
de distinction entre objectifs militaires et objectifs civils pourrait
être respecté par des SALA bien conçus et programmés pour exécuter
des frappes précises visant uniquement des objectifs militaires.
6.2 La question de savoir si une attaque est conforme au principe
de proportionnalité se fonde sur des valeurs et des interprétations
d’une situation donnée plutôt que sur des chiffres et des indicateurs techniques.
Ces jugements, qui reflètent des considérations éthiques, requièrent
le jugement humain qui est unique. C’est à ce titre qu’un minimum
de contrôle humain est indispensable.
6.3 Pour être conforme au principe de précaution, l’action
des SALA doit être prévisible. Les utilisatrices et les utilisateurs
doivent pouvoir ajuster ou annuler les effets des systèmes d'armes
si nécessaire, ce qui n'est possible que s'ils peuvent raisonnablement
prévoir comment un système d'armes réagira.
6.4 La conformité des SALA avec le droit international des
droits humains, et notamment avec la Convention européenne des droits
de l’homme (STE no 5, la Convention),
dépend d’une réglementation claire de l’usage de ces armes. L’article
2 de la Convention exige la protection du droit à la vie par la
loi. Cela signifie que l'État doit mettre en place un cadre juridique
qui définit les circonstances limitées dans lesquelles l'usage de
ces armes est autorisé. La jurisprudence de la Cour européenne des
droits de l’homme concerne d'autres types d'armes, mais l’utilisation
des SALA ne devrait pas être soumise à des normes moins strictes.
7. Dans la perspective du droit international humanitaire et
des droits humains, une réglementation du développement et surtout
de l’usage des SALA est donc indispensable. Le point crucial est
celui du contrôle humain. Le respect des règles du droit international
humanitaire et des droits humains ne peut être garanti qu’en maintenant
un contrôle humain dont l’intensité varie selon les positions adoptées
par les États et les autres acteurs de la communauté internationale.
Plusieurs niveaux de contrôle humain peuvent être envisagés: un
contrôle significatif, un contrôle effectif ou encore un jugement
humain approprié. Un tel contrôle humain doit être maintenu sur
les systèmes d'armes létales à tous les stades de leur cycle de
vie
.
7.1 Le contrôle humain peut être exercé au stade du développement,
notamment par une conception technique éthique et par la programmation
du système d'armes: les décisions prises au cours de la phase de
développement doivent garantir que le système d'armes peut être
utilisé dans les conditions prévues ou attendues, conformément au
droit international humanitaire et aux autres normes internationales
applicables, notamment la Convention européenne des droits de l’homme.
7.2 Le contrôle humain peut également être exercé au point
d'activation, ce qui implique une décision de la personne en charge
du commandement et de l’opérateur qui utilise un système d'arme
particulier dans un but particulier. Cette décision doit être fondée
sur une connaissance et une compréhension suffisantes du fonctionnement
de l'arme dans des circonstances données pour garantir qu'elle fonctionnera
comme prévu et conformément au droit international humanitaire et
aux normes internationales applicables. Cette connaissance doit
comprendre la connaissance adéquate de la situation de l’environnement
opérationnel, notamment en ce qui concerne les risques potentiels
pour les civils et les biens civils.
7.3 Afin de garantir le respect du droit international humanitaire
et des autres normes internationales applicables, il peut être considéré
comme nécessaire de pouvoir exercer un contrôle humain supplémentaire
pendant la phase d'opération, lorsque l'arme sélectionne et attaque
des cibles de manière autonome. Une intervention humaine peut être
nécessaire pour assurer le respect du droit et pour combler des
lacunes éventuelles au stade du développement et au point d’activation.
8. Contrairement aux humains, les machines n'ont pas de sentiments
et ne sont pas des agents moraux. Si une personne commet un crime
de guerre avec une arme autonome, c’est l'humain qui commet le crime,
en utilisant l'arme autonome comme outil. Les humains doivent être
responsables non seulement juridiquement, mais aussi moralement,
des actions des SALA. Certaines décisions relatives à l'utilisation
d'armes requièrent des jugements juridiques et moraux, comme la
mise en balance des pertes civiles probables et des avantages militaires
liés à la conduite d'attaques. Ces jugements doivent être endossés
par des humains puisqu'il s'agit également de jugements moraux et
qu’ils ont une portée juridique.
9. Les dispositions pertinentes du droit international humanitaire
impliquent que de tels systèmes d’armes ne doivent pas être utilisés
s’ils sont de nature à causer des blessures superflues ou des souffrances
inutiles, s'ils sont intrinsèquement aveugles ou s’il n’est pas
possible de les utiliser conformément au droit.
10. À supposer que les futurs SALA soient conformes au droit de
la guerre dans leur fonctionnement normal, un dysfonctionnement
de telles machines pourrait néanmoins provoquer une attaque erronée
et donc soulever des difficultés d’imputabilité de la responsabilité.
La responsabilité juridique en cas de défaillance du système d’armes
létales autonomes doit pouvoir être établie en analysant le respect
de la condition d’un contrôle humain suffisant. Les actions illicites
commises par un système d’armes létales autonome dont résulteraient des
violations du droit international humanitaire et d’autres normes
internationales doivent pouvoir être imputées alternativement à
l’individu ou aux groupes d’individus à l’origine de sa conception,
de sa fabrication ou de sa programmation, ou encore de son déploiement,
et in fine à l’État utilisateur.
À cet égard, l’État utilisateur a la responsabilité particulière
de tester et de vérifier au préalable les armes qu’il entend utiliser
afin de s’assurer de leur prévisibilité et de leur fiabilité, et
du fait qu’elles ne risquent pas d’entraîner des violations du droit
international humanitaire par erreur, dysfonctionnement ou mauvaise
conception, et de vérifier les contextes dans lesquels leur utilisation
est possible conformément au droit.
11. L’Assemblée note que les questions de compatibilité des SALA
avec le droit international humanitaire et les droits humains sont
en discussion parmi les États parties à la Convention sur l'interdiction
ou la limitation de l'emploi de certaines armes classiques qui peuvent
être considérées comme produisant des effets traumatiques excessifs
ou comme frappant sans discrimination (Convention sur certaines
armes classiques - CCAC). Ces États ont établi un Groupe d’experts
gouvernementaux (GEG). Ce groupe, sur la base des «11 principes
directeurs sur les SALA» adoptés en 2019 et de la Déclaration finale
de la 6e Conférence des États parties
à la CCAC en décembre 2021, continue à rechercher un consensus sur
la réglementation future de cette technologie émergente.
12. Lors de sa session de juillet 2022, le GEG a adopté une déclaration
convenant que le droit des parties à un conflit armé de choisir
les méthodes et les moyens de faire la guerre n’était pas sans limite
et que le droit international humanitaire s’appliquait aussi aux
SALA. Toute violation du droit international, y compris une violation
impliquant un système d’armes létales autonome, engage la responsabilité
de l’État concerné en vertu du droit international. Le groupe a
par ailleurs proposé la prolongation de ses travaux en 2023.
13. L’Assemblée note qu’un groupe d’États européens a proposé
au GEG une approche en deux volets:
13.1 premièrement, les États parties à la CCAC devraient reconnaître
que les SALA qui ne peuvent être utilisés conformément au droit
international, y compris le droit international humanitaire, sont de facto interdits; et que, par
conséquent, les SALA fonctionnant complètement en dehors du contrôle humain
et d'une chaîne de commandement responsable sont illégaux;
13.2 deuxièmement, il convient de se mettre d’accord sur une
réglementation internationale d’autres systèmes d’armes présentant
des éléments d’autonomie pour garantir le respect du droit international humanitaire:
13.2.1 en assurant un contrôle humain approprié pendant tout
le cycle de vie du système considéré;
13.2.2 en maintenant la responsabilité humaine et l'obligation
de rendre des comptes à tout moment, en toutes circonstances et
tout au long du cycle de vie, en tant que base de la responsabilité
de l'État et de celle de l'individu. Cette responsabilité et cette
obligation de rendre compte ne peuvent jamais être transférées à
des machines;
13.2.3 en mettant en œuvre des mesures d'atténuation des risques
adaptées et des garanties appropriées en matière de sûreté et de
sécurité.
14. L’Assemblée soutient cette approche en deux volets et considère
que l’émergence des SALA requiert une réglementation claire de cette
technologie visant à assurer le respect du droit international humanitaire
et des droits humains, et que le forum approprié pour convenir de
la future réglementation des SALA est la Conférence des États parties
à la CCAC et son GEG.
15. Pour ce qui est de la forme juridique de cette réglementation,
l’objectif devrait être un texte contraignant sous la forme d’un
protocole à la CCAC ou même d’une convention internationale spécifique.
16. En attendant l’émergence d’un large consensus nécessaire pour
élaborer un tel instrument, il convient de préparer un instrument
non contraignant sous la forme d’un code de conduite. Cet instrument,
susceptible d’être mis à jour régulièrement, pourrait codifier les
principes directeurs déjà largement reconnus et mettre en valeur
les bonnes pratiques adoptées par l’un ou l’autre des États parties
à la CCAC.
17. L’Assemblée appelle donc les États membres du Conseil de l’Europe,
ainsi que les États observateurs et les États dont les parlements
bénéficient du statut d’observateur ou de partenaire pour la démocratie
auprès de l’Assemblée, à participer de manière constructive aux
travaux en cours au sein de la CCAC et de son GEG visant à encadrer
l’utilisation des SALA, et à soutenir l’approche en deux volets
évoquée ci-dessus.
18. Si aucun consensus ne devait émerger dans un délai raisonnable
pour l’élaboration d’un code de conduite, puis pour la préparation
et la négociation d’un accord international au sens des paragraphes 14 et 15,
ou que de telles démarches semblent dépourvues de chance de succès,
l’Assemblée invite les États membres du Conseil de l’Europe, ainsi
que les États observateurs et les États dont les parlements bénéficient du
statut d’observateur ou de partenaire pour la démocratie auprès
de l’Assemblée, à envisager de lancer de tels travaux au niveau
du Conseil de l’Europe.
