Les interfaces cerveau-machine: nouveaux droits ou nouveaux dangers pour les libertés fondamentales?
- Auteur(s) :
- Assemblée parlementaire
- Origine
- Texte
adopté par la Commission permanente, agissant au nom
de l’Assemblée, le 22 octobre 2020 (voir Doc. 15147, rapport de la commission des questions juridiques et
des droits de l'homme, rapporteur: M. Olivier Becht).Voir
également la Recommandation
2184 (2020).
1. L’Assemblée parlementaire note
les progrès rapides réalisés ces dernières années dans les neurotechnologies,
notamment la capacité à enregistrer et à stimuler directement l’activité
neuronale, avec la possibilité de créer des interfaces cerveau-machine
(ICM) de plus en plus efficaces. Ces progrès sont le fruit de la
combinaison d’une meilleure compréhension du fonctionnement du cerveau,
des avancées techniques et de la puissance croissante des systèmes
d’intelligence artificielle. Le fait de pouvoir créer une connexion entièrement
symbiotique entre le cerveau humain et des systèmes informatiques
numériques, y compris l’internet et les systèmes d’intelligence
artificielle, reste une aspiration lointaine. Néanmoins, c’est un
objectif que les chercheurs et les entrepreneurs poursuivent déjà
et que beaucoup pensent pouvoir atteindre à terme.
2. Les neurotechnologies, dont l’ICM, sont actuellement développées
et appliquées en vue de diverses utilisations. Entre autres mesures
prises, des sommes énormes sont investies dans la recherche pour
créer de nouveaux traitements médicaux contre les troubles neurologiques
et psychiatriques, notamment le contrôle direct de membres robotisés,
la production de parole de synthèse ou le traitement de certains
troubles de l’humeur insurmontables ou du stress post-traumatique.
Les institutions militaires et de sécurité mènent des recherches
dans les neurotechnologies en vue d’une application dans le renseignement,
la propagande, les interrogatoires, la surveillance et l’amélioration
des performances des combattants. Des entreprises privées étudient
la possibilité d’utiliser des dispositifs grand public pour convertir
directement les pensées en caractères dactylographiés; offrent des
services commerciaux de détection de mensonges fondés sur des scintigraphies
cérébrales; et vendent des dispositifs fondés sur les neurotechnologies
directement aux consommateurs, par exemple sous forme de jeux informatiques
ou de produits dédiés au bien-être. Les chercheurs s’intéressent
au développement de campagnes de «neuromarketing» qui exploiteraient
les préférences subconscientes, et examinent si les modèles d’activité
neuronale peuvent prédire la récidive criminelle.
3. Accéder aux processus neuronaux qui sous-tendent la pensée
consciente, c’est accéder à un niveau du soi qui, par définition,
ne peut être consciemment ni filtré ni dissimulé. Cela risque d’entraîner
une profonde violation de la vie privée et de la dignité humaine,
et pourrait même subvertir le libre arbitre et porter atteinte au
dernier refuge de la liberté: la pensée. L’amélioration des capacités
cognitives et sensorielles par l’ICM pourrait créer deux catégories
distinctes d’êtres humains, les personnes «augmentées» et celles
qui ne le sont pas, l’amélioration étant accessible uniquement à
ceux qui disposent de la fortune et des privilèges nécessaires,
ou être utilisée à des fins de répression. L’identité individuelle,
le pouvoir et la responsabilité morale peuvent être diminués par
la fusion de l’expérience neurologique et sensorielle numérique
et des processus décisionnels, ce qui pourrait changer la nature
même de l’humanité et des sociétés humaines.
4. Même si les applications hypothétiques les plus spectaculaires
de l’ICM relèvent encore de la spéculation, les progrès déjà réalisés
et les ressources consacrées à la poursuite de la recherche impliquent un
besoin urgent d’anticipation et de réglementation préventive. Les
sociétés démocratiques devraient veiller à ce que les principes
éthiques fondamentaux soient respectés. Les avantages potentiels
immenses des neurotechnologies sont tels, en particulier dans le
domaine médical, que le progrès et l’innovation ne doivent pas être
étouffés. Toutefois, la recherche devrait être tenue à l’écart des
domaines vraisemblablement néfastes ou dangereux pour se tourner
vers des applications positives qui ne menacent pas la dignité,
l’égalité et la liberté des individus, sur lesquelles repose également
la démocratie.
5. L’Assemblée estime qu’une approche sensible et calibrée de
la réglementation des nouvelles neurotechnologies, y compris les
technologies ICM, est nécessaire, qui englobe à la fois des cadres
éthiques et une réglementation juridique contraignante. Elle constate
les similitudes et les liens entre la «neuroéthique» et la bioéthique,
ainsi que l’importance de l’intelligence artificielle dans le fonctionnement
des technologies ICM. Elle se félicite donc du travail déjà entamé
au sein du Conseil de l’Europe par le Comité de bioéthique (DH-BIO)
et par le Comité ad hoc sur l’intelligence artificielle (CAHAI).
Elle salue également les travaux menés par d’autres organisations
internationales, notamment l’Organisation de coopération et de développement économiques
(OCDE) qui a adopté récemment la Recommandation sur l’innovation
responsable dans le domaine des neurotechnologies. L’Assemblée note
avec intérêt les avancées réalisées, comme au Chili, où l’on envisage
de modifier la Constitution, d’adopter une législation et de prendre
d’autres mesures pour protéger la société humaine des éventuelles
retombées négatives des neurotechnologies.
6. L’Assemblée considère que les principes éthiques suivants
doivent être appliqués au développement et à l’application des neurotechnologies
en général, et des technologies ICM en particulier:
6.1 Bienfaisance et prévention d’une
utilisation malveillante. Ces technologies ne doivent être développées
et appliquées qu’à des fins compatibles avec le respect des droits
de l’homme et de la dignité humaine. Toute recherche poursuivant
des objectifs incompatibles devrait être interdite. Une attention
particulière devrait être portée aux technologies à double usage
et à celles qui sont développées à des fins militaires ou de sécurité.
Les nouvelles neurotechnologies devraient être soumises à une évaluation
préalable de leurs effets sur les droits de l’homme avant d’être
mises en œuvre.
6.2 Sécurité et précaution. Ces technologies et leurs conséquences
prévues ou imprévues devraient être sûres, tant pour l’utilisateur
que pour la société dans son ensemble. La sécurité doit être garantie avant
la mise en service de toute nouvelle application.
6.3 Respect de la vie privée et confidentialité. Au minimum,
les informations collectées par les dispositifs neurotechnologiques
et d’ICM doivent être protégées conformément aux principes généraux de
protection des données. La protection des «neurodonnées» en tant
que catégorie spéciale devrait également être envisagée, par exemple
sur le modèle des interdictions relatives au commerce des organes
humains.
6.4 Capacité et autonomie. Ces technologies ne devraient pas
être utilisées contre la volonté d’un sujet ni d’une manière qui
empêche le sujet de prendre librement d’autres décisions sur la
poursuite de leur utilisation. Une attention particulière est nécessaire
dans les cas où ces technologies sont utilisées pour soulager la
douleur chronique, la toxicomanie ou d’autres affections pour lesquelles
l’interruption du traitement pourrait entraîner un malaise ou une
détresse.
6.5 Volonté et responsabilité humaine. Ces technologies ne
devraient pas empêcher les individus d’agir librement et d’être
responsables de leurs actes. Les êtres humains, agissant librement
selon leur conscience naturelle (par opposition à une conscience
augmentée ou symbiotique), doivent rester les seuls décideurs et
les premiers acteurs de la société, surtout pour les questions susceptibles
d’avoir une incidence sur les droits de l’homme et les processus
démocratiques.
6.6 Équité, intégrité et inclusion. Ces technologies ne devraient
pas créer de statut privilégié ou supérieur pour leurs utilisateurs;
elles devraient être mises en œuvre dans le respect de l’égalité
et de la dignité humaine, y compris des membres des groupes marginalisés
ou vulnérables; et elles devraient être accessibles au plus grand
nombre, en particulier dans la mesure où elles sont appliquées à
des fins médicales.
6.7 S’assurer de la confiance du public par la transparence,
la consultation et l’éducation/la sensibilisation. La mise en œuvre
de technologies nouvelles, comme les neurotechnologies destinées aux
particuliers, sera d'autant mieux favorisée et acceptée qu'elle
se fera dans la confiance du public qui en connaîtra les bienfaits
mais aussi les dangers potentiels.
7. Dans la mesure où les technologies ICM peuvent changer fondamentalement
la relation entre le soi intérieur et le subconscient de l’individu,
et le monde extérieur, elles représentent une menace sans équivalent et
sans précédent pour les valeurs fondamentales des droits de l’homme
et de la dignité humaine. L’Assemblée prend note avec un intérêt
particulier des propositions visant à établir et à fournir une protection juridique
pour les nouveaux droits de l’homme, parfois appelés «neurodroits».
Ces propositions sont censées combler les lacunes du cadre actuel
des droits de l’homme par lesquelles les technologies ICM peuvent menacer
la jouissance des droits actuellement protégés et, au-delà, le respect
de la dignité humaine fondamentale. Les droits en question ont été
désignés comme suit: la liberté cognitive, l’intimité mentale, l’intégrité
mentale et la continuité psychologique.
8. L’Assemblée appelle par conséquent les États membres du Conseil
de l’Europe:
8.1 à établir des
cadres éthiques pour la recherche, le développement et l’application
des neurotechnologies, y compris les technologies ICM, en tenant
compte des principes énoncés au paragraphe 6 de la présente résolution;
8.2 à définir clairement les limites de la recherche, du développement
et de l’application des neurotechnologies, y compris les technologies
ICM, au moyen de cadres juridiques spécifiques qui garantissent
la protection et le respect effectifs des droits de l’homme;
8.3 à veiller à ce qu’il existe des organes appropriés pour
la surveillance et la réglementation de la recherche, du développement
et de l’application des neurotechnologies, y compris les technologies ICM,
de manière à garantir la mise en œuvre efficace des cadres juridiques
et éthiques applicables;
8.4 à envisager la création et la protection juridique de
nouveaux «neurodroits» afin d’offrir une protection particulièrement
efficace contre les risques éventuels inhérents aux technologies
ICM.
9. En ce qui concerne les travaux pertinents déjà menés au sein
du Conseil de l’Europe, l’Assemblée:
9.1 encourage le DH-BIO à adopter une approche ouverte et
constructive de la question des nouveaux «neurodroits», y compris
la possibilité d’assurer leur protection en vertu du droit international par
le biais d’un protocole additionnel à la Convention de sauvegarde
des droits de l’homme et des libertés fondamentales (STE no 5);
9.2 encourage le CAHAI à tenir compte des risques et des opportunités
qui peuvent découler de l’application de l’intelligence artificielle
dans le contexte des systèmes d’ICM et de ses effets particulièrement
graves sur les droits de l’homme.
