Logo Assembly Logo Hemicycle

Les interfaces cerveau-machine: nouveaux droits ou nouveaux dangers pour les libertés fondamentales?

Résolution 2344 (2020)

Auteur(s) :
Assemblée parlementaire
Origine
Texte adopté par la Commission permanente, agissant au nom de l’Assemblée, le 22 octobre 2020 (voir Doc. 15147, rapport de la commission des questions juridiques et des droits de l'homme, rapporteur: M. Olivier Becht).Voir également la Recommandation 2184 (2020).
1. L’Assemblée parlementaire note les progrès rapides réalisés ces dernières années dans les neurotechnologies, notamment la capacité à enregistrer et à stimuler directement l’activité neuronale, avec la possibilité de créer des interfaces cerveau-machine (ICM) de plus en plus efficaces. Ces progrès sont le fruit de la combinaison d’une meilleure compréhension du fonctionnement du cerveau, des avancées techniques et de la puissance croissante des systèmes d’intelligence artificielle. Le fait de pouvoir créer une connexion entièrement symbiotique entre le cerveau humain et des systèmes informatiques numériques, y compris l’internet et les systèmes d’intelligence artificielle, reste une aspiration lointaine. Néanmoins, c’est un objectif que les chercheurs et les entrepreneurs poursuivent déjà et que beaucoup pensent pouvoir atteindre à terme.
2. Les neurotechnologies, dont l’ICM, sont actuellement développées et appliquées en vue de diverses utilisations. Entre autres mesures prises, des sommes énormes sont investies dans la recherche pour créer de nouveaux traitements médicaux contre les troubles neurologiques et psychiatriques, notamment le contrôle direct de membres robotisés, la production de parole de synthèse ou le traitement de certains troubles de l’humeur insurmontables ou du stress post-traumatique. Les institutions militaires et de sécurité mènent des recherches dans les neurotechnologies en vue d’une application dans le renseignement, la propagande, les interrogatoires, la surveillance et l’amélioration des performances des combattants. Des entreprises privées étudient la possibilité d’utiliser des dispositifs grand public pour convertir directement les pensées en caractères dactylographiés; offrent des services commerciaux de détection de mensonges fondés sur des scintigraphies cérébrales; et vendent des dispositifs fondés sur les neurotechnologies directement aux consommateurs, par exemple sous forme de jeux informatiques ou de produits dédiés au bien-être. Les chercheurs s’intéressent au développement de campagnes de «neuromarketing» qui exploiteraient les préférences subconscientes, et examinent si les modèles d’activité neuronale peuvent prédire la récidive criminelle.
3. Accéder aux processus neuronaux qui sous-tendent la pensée consciente, c’est accéder à un niveau du soi qui, par définition, ne peut être consciemment ni filtré ni dissimulé. Cela risque d’entraîner une profonde violation de la vie privée et de la dignité humaine, et pourrait même subvertir le libre arbitre et porter atteinte au dernier refuge de la liberté: la pensée. L’amélioration des capacités cognitives et sensorielles par l’ICM pourrait créer deux catégories distinctes d’êtres humains, les personnes «augmentées» et celles qui ne le sont pas, l’amélioration étant accessible uniquement à ceux qui disposent de la fortune et des privilèges nécessaires, ou être utilisée à des fins de répression. L’identité individuelle, le pouvoir et la responsabilité morale peuvent être diminués par la fusion de l’expérience neurologique et sensorielle numérique et des processus décisionnels, ce qui pourrait changer la nature même de l’humanité et des sociétés humaines.
4. Même si les applications hypothétiques les plus spectaculaires de l’ICM relèvent encore de la spéculation, les progrès déjà réalisés et les ressources consacrées à la poursuite de la recherche impliquent un besoin urgent d’anticipation et de réglementation préventive. Les sociétés démocratiques devraient veiller à ce que les principes éthiques fondamentaux soient respectés. Les avantages potentiels immenses des neurotechnologies sont tels, en particulier dans le domaine médical, que le progrès et l’innovation ne doivent pas être étouffés. Toutefois, la recherche devrait être tenue à l’écart des domaines vraisemblablement néfastes ou dangereux pour se tourner vers des applications positives qui ne menacent pas la dignité, l’égalité et la liberté des individus, sur lesquelles repose également la démocratie.
5. L’Assemblée estime qu’une approche sensible et calibrée de la réglementation des nouvelles neurotechnologies, y compris les technologies ICM, est nécessaire, qui englobe à la fois des cadres éthiques et une réglementation juridique contraignante. Elle constate les similitudes et les liens entre la «neuroéthique» et la bioéthique, ainsi que l’importance de l’intelligence artificielle dans le fonctionnement des technologies ICM. Elle se félicite donc du travail déjà entamé au sein du Conseil de l’Europe par le Comité de bioéthique (DH-BIO) et par le Comité ad hoc sur l’intelligence artificielle (CAHAI). Elle salue également les travaux menés par d’autres organisations internationales, notamment l’Organisation de coopération et de développement économiques (OCDE) qui a adopté récemment la Recommandation sur l’innovation responsable dans le domaine des neurotechnologies. L’Assemblée note avec intérêt les avancées réalisées, comme au Chili, où l’on envisage de modifier la Constitution, d’adopter une législation et de prendre d’autres mesures pour protéger la société humaine des éventuelles retombées négatives des neurotechnologies.
6. L’Assemblée considère que les principes éthiques suivants doivent être appliqués au développement et à l’application des neurotechnologies en général, et des technologies ICM en particulier:
6.1 Bienfaisance et prévention d’une utilisation malveillante. Ces technologies ne doivent être développées et appliquées qu’à des fins compatibles avec le respect des droits de l’homme et de la dignité humaine. Toute recherche poursuivant des objectifs incompatibles devrait être interdite. Une attention particulière devrait être portée aux technologies à double usage et à celles qui sont développées à des fins militaires ou de sécurité. Les nouvelles neurotechnologies devraient être soumises à une évaluation préalable de leurs effets sur les droits de l’homme avant d’être mises en œuvre.
6.2 Sécurité et précaution. Ces technologies et leurs conséquences prévues ou imprévues devraient être sûres, tant pour l’utilisateur que pour la société dans son ensemble. La sécurité doit être garantie avant la mise en service de toute nouvelle application.
6.3 Respect de la vie privée et confidentialité. Au minimum, les informations collectées par les dispositifs neurotechnologiques et d’ICM doivent être protégées conformément aux principes généraux de protection des données. La protection des «neurodonnées» en tant que catégorie spéciale devrait également être envisagée, par exemple sur le modèle des interdictions relatives au commerce des organes humains.
6.4 Capacité et autonomie. Ces technologies ne devraient pas être utilisées contre la volonté d’un sujet ni d’une manière qui empêche le sujet de prendre librement d’autres décisions sur la poursuite de leur utilisation. Une attention particulière est nécessaire dans les cas où ces technologies sont utilisées pour soulager la douleur chronique, la toxicomanie ou d’autres affections pour lesquelles l’interruption du traitement pourrait entraîner un malaise ou une détresse.
6.5 Volonté et responsabilité humaine. Ces technologies ne devraient pas empêcher les individus d’agir librement et d’être responsables de leurs actes. Les êtres humains, agissant librement selon leur conscience naturelle (par opposition à une conscience augmentée ou symbiotique), doivent rester les seuls décideurs et les premiers acteurs de la société, surtout pour les questions susceptibles d’avoir une incidence sur les droits de l’homme et les processus démocratiques.
6.6 Équité, intégrité et inclusion. Ces technologies ne devraient pas créer de statut privilégié ou supérieur pour leurs utilisateurs; elles devraient être mises en œuvre dans le respect de l’égalité et de la dignité humaine, y compris des membres des groupes marginalisés ou vulnérables; et elles devraient être accessibles au plus grand nombre, en particulier dans la mesure où elles sont appliquées à des fins médicales.
6.7 S’assurer de la confiance du public par la transparence, la consultation et l’éducation/la sensibilisation. La mise en œuvre de technologies nouvelles, comme les neurotechnologies destinées aux particuliers, sera d'autant mieux favorisée et acceptée ‎qu'elle se fera dans la confiance du public qui en connaîtra les bienfaits mais aussi les dangers potentiels.
7. Dans la mesure où les technologies ICM peuvent changer fondamentalement la relation entre le soi intérieur et le subconscient de l’individu, et le monde extérieur, elles représentent une menace sans équivalent et sans précédent pour les valeurs fondamentales des droits de l’homme et de la dignité humaine. L’Assemblée prend note avec un intérêt particulier des propositions visant à établir et à fournir une protection juridique pour les nouveaux droits de l’homme, parfois appelés «neurodroits». Ces propositions sont censées combler les lacunes du cadre actuel des droits de l’homme par lesquelles les technologies ICM peuvent menacer la jouissance des droits actuellement protégés et, au-delà, le respect de la dignité humaine fondamentale. Les droits en question ont été désignés comme suit: la liberté cognitive, l’intimité mentale, l’intégrité mentale et la continuité psychologique.
8. L’Assemblée appelle par conséquent les États membres du Conseil de l’Europe:
8.1 à établir des cadres éthiques pour la recherche, le développement et l’application des neurotechnologies, y compris les technologies ICM, en tenant compte des principes énoncés au paragraphe 6 de la présente résolution;
8.2 à définir clairement les limites de la recherche, du développement et de l’application des neurotechnologies, y compris les technologies ICM, au moyen de cadres juridiques spécifiques qui garantissent la protection et le respect effectifs des droits de l’homme;
8.3 à veiller à ce qu’il existe des organes appropriés pour la surveillance et la réglementation de la recherche, du développement et de l’application des neurotechnologies, y compris les technologies ICM, de manière à garantir la mise en œuvre efficace des cadres juridiques et éthiques applicables;
8.4 à envisager la création et la protection juridique de nouveaux «neurodroits» afin d’offrir une protection particulièrement efficace contre les risques éventuels inhérents aux technologies ICM.
9. En ce qui concerne les travaux pertinents déjà menés au sein du Conseil de l’Europe, l’Assemblée:
9.1 encourage le DH-BIO à adopter une approche ouverte et constructive de la question des nouveaux «neurodroits», y compris la possibilité d’assurer leur protection en vertu du droit international par le biais d’un protocole additionnel à la Convention de sauvegarde des droits de l’homme et des libertés fondamentales (STE no 5);
9.2 encourage le CAHAI à tenir compte des risques et des opportunités qui peuvent découler de l’application de l’intelligence artificielle dans le contexte des systèmes d’ICM et de ses effets particulièrement graves sur les droits de l’homme.