B Exposé des motifs
par Mme Sayek Böke, rapporteure
1 Introduction
«L’intérêt et le bien de l’être
humain doivent prévaloir sur le seul intérêt de la société ou de
la science.»
Article 2 de la Convention sur
les Droits de l’Homme et la biomédecine (Convention d’Oviedo)
1. Le 4 juillet 2019, j’ai déposé
une proposition de recommandation sur le thème «Intelligence artificielle
et santé: défis médicaux, juridiques et éthiques à venir» (
Doc. 14948) et le 2 octobre 2019 j’ai été nommée rapporteure. La
proposition attire l’attention sur la multiplication des applications
de l’intelligence artificielle (IA) dans le domaine de la santé,
que ce soit pour le suivi de l’état de santé, l’élaboration de médicaments, l’assistance
médicale virtuelle ou l’aide à la prise de décision médicale (notamment
pour le diagnostic et le choix du meilleur traitement). Tandis que
la technologie dans ce domaine avance rapidement, les cadres éthiques
et juridiques accumulent du retard.
2. La communauté scientifique demande un débat public sur les
implications du recours à l’IA dans le domaine de la santé et sur
la nécessité de renforcer la responsabilité de toutes les parties
prenantes. Les décideurs politiques nationaux et européens doivent
mieux comprendre les risques et les possibilités de la conception,
du développement et du déploiement des technologies d’IA afin de
rechercher des améliorations pragmatiques et de proposer des options
adéquates en matière de réglementation garantissant le plein respect de
la dignité humaine et des droits humains. De plus, étant donné que
le secteur privé a jusqu’à présent assuré l’essentiel des recherches
sur les applications de la robotique au domaine de la santé et de
leur développement, les autorités publiques responsables de la santé
devraient adopter une approche stratégique pour coordonner les politiques
de numérisation, de recherche et d’investissement afin d’assurer
une protection complète des droits fondamentaux.
3. Dans ce contexte, l’Assemblée parlementaire devrait examiner
comment tirer pleinement parti du rôle normatif du Conseil de l’Europe
et, si nécessaire, l’améliorer afin d’orienter les décisions prises
sur le plan national. En tant que rapporteure, j’ai passé en revue
le cadre existant de l’Organisation en ce qui concerne les droits
humains en vue d’évaluer la couverture des problèmes liés aux applications
de l’IA dans les soins de santé, et en particulier la Convention
européenne sur les droits de l’homme (STE no 005),
la Convention pour la protection des Droits de l’Homme et de la
dignité de l’être humain à l’égard des applications de la biologie et
de la médecine: Convention sur les Droits de l’homme et la biomédecine
(STE no 164, «Convention d’Oviedo»),
la Convention pour la protection des personnes à l’égard du traitement
automatisé des données à caractère personnel (STE no 108)
et son Protocole d’amendement (STCE no 223,
«Convention 108+») ainsi que la Recommandation «Décoder l’intelligence
artificielle: 10 mesures pour protéger les droits de l’homme», publiée
par la Commissaire aux droits de l’homme du Conseil de l’Europe,
et la Recommandation CM/Rec(2020)1 du Comité des Ministres aux États
membres sur les impacts des systèmes algorithmiques sur les droits
de l’homme
Note.
Ce faisant, je me référerai également aux travaux considérables
menés sur l’IA en général tant au sein du Conseil de l’Europe (voir
l’annexe pour un résumé des définitions communes et principes éthiques)
que par de multiples instances internationales.
4. Nous avons besoin d’une approche holistique de tout le cycle
de soins de santé – des besoins pré-cliniques aux besoins cliniques
et des besoins individuels aux besoins épidémiques. Nous avons besoin
d’un cadre au sein duquel les puissances des machines et des humains
se complètent. Au fur et à mesure que les applications de l’IA passent
d’un usage de niche à la généralisation, le pouvoir passe des humains
aux machines. C’est pourquoi nous devons élaborer un cadre qui place
l’humain au centre du processus. Aux fins du présent rapport, j’ai
effectué une visite d’information à l’Organisation mondiale de la
Santé (OMS) et au Bureau international du travail (avec le rapporteur
de la commission sur l’IA et les marchés du travail) à Genève les
16 et 17 janvier 2020. J’ai participé à la réunion du Réseau parlementaire
mondial de l’Organisation de coopération et de développement économiques
(OCDE, 10-11 octobre 2019) et à la conférence internationale sur
les nouvelles technologies dans le domaine de la santé qui s’est
tenue à Thessalonique les 21 et 22 novembre 2019. J’ai également
profité de l’échange de vues entre la commission et Mme Corinna
Engelhardt-Nowitzki, directrice du département de génie industriel
de l’Université des sciences appliquées de Vienne, qui s’est déroulé
le 3 décembre 2019 à Paris, et j’ai tenu une discussion avec des
représentants du Comité de Bioéthique du Conseil de l’Europe le
30 janvier 2020 à Strasbourg. Enfin, le 2 juin 2020, notre commission
a eu un échange de vues en ligne avec Mme Effy
Vayenna, professeure et titulaire de la chaire de bioéthique au Département
Sciences et technologies de la santé de l’École polytechnique fédérale
suisse.
2 La promesse: l’IA permettrait d’optimiser
et d’améliorer les systèmes de santé
5. La numérisation, le traitement
ultra-rapide des données et les nouveaux types de réseaux ont accéléré les
progrès de la médecine et de la technologie au fil des dernières
décennies. Depuis quelques années, des algorithmes de résolution
de problèmes et l’apprentissage en profondeur ont permis à des machines
d’imiter les capacités d’analyse de l’être humain et de se rapprocher
des processus décisionnels humains à un niveau sans précédent. Désormais,
les applications médicales d’IA ont une capacité d’analyse suffisante
pour aider à déceler les maladies à un stade précoce, assurer des
services de médecine préventive et de la télémédecine, optimiser
les diagnostics et les décisions de traitement, assurer des soins
médicaux personnalisés et une médecine de précision, constituer
des bases de données de séquençage du génome et découvrir de nouveaux
traitements ou médicaments. Certains algorithmes médicaux ont déjà
des performances égales ou supérieures à celles des spécialistes
humains pour certaines tâches bien définies (notamment dans l’analyse
de l’imagerie médicale pour le dépistage précoce de divers cancers,
attaques cérébrales, pneumonies, maladies du cœur) permettant ainsi
des diagnostics plus rapides, et certains affirment que les dispositifs
d’IA surpassent l’être humain parce qu’ils ne connaissent pas la
fatigue et ne permettent pas aux émotions d’influencer leurs «décisions».
6. Le passage des ordinateurs simples à des machines équipées
d’algorithmes d’apprentissage en profondeur signifie que les prévisions
reposeront moins sur des règles rigides définies par des humains
que sur les mécanismes d’apprentissage autonomes des machines. Bien
que cela puisse permettre d’améliorer le pouvoir d’analyse et de
prédiction grâce à la découverte de structures de données qui échappent
aux humains, cela signifie également que l’intervention humaine
et la compréhension des algorithmes sont beaucoup plus limitées.
Tout cadre réglementaire devra prendre en compte ce rythme rapide
de changement.
7. Hélas, les progrès de la médecine et de la technologie ne
permettent pas automatiquement d’obtenir des résultats plus équitables
et meilleurs pour la santé alors que les budgets consacrés à la
médecine dans de nombreux pays augmentent
Note.
Il reste à démontrer, dans la pratique, qu’un recours accru aux
applications de l’IA peut améliorer l’accès de la population à des
services médicaux meilleurs, plus sûrs et plus efficaces, car chacun
de ces aspects est discutable. Nous devons veiller à ce que les
applications de l’IA mettent l’accent non seulement sur l’amélioration
des normes de soins actuelles, mais permettent aussi d’élargir l’accès
à des soins de santé abordables. En effet, la situation évolue sans
cesse au gré des nouvelles approches expérimentées par les différents
acteurs qui tentent de repousser les limites et de défricher de
nouveaux domaines.
8. Je voudrais donner quelques illustrations de ce que l’IA permet
d’accomplir pour améliorer notre santé. D’après les études de l’OCDE,
plusieurs pays intensifient le recours aux systèmes électroniques
et aux dispositifs mobiles pour soutenir l’exercice de la médecine
et promouvoir la santé publique. Cela concerne en particulier le
stockage des dossiers des patients et des enregistrements de l’imagerie
médicale afin de permettre aux personnels médicaux d’éviter les
erreurs de traitement et de mieux coordonner les soins. De plus,
la mise en réseau des bases de données médicales avec d’autres systèmes
d’assistance (comme la couverture médicale) et des applications
de l’IA permet déjà de déceler les fraudes ou les prescriptions excessives,
ou encore d’anticiper les besoins médicaux futurs et de mieux répartir
les moyens afin de réaliser un «système de santé en apprentissage
permanent». Dans un tel système, les données sont systématiquement
collectées et analysées au fil des traitements afin d’améliorer
les soins, ce qui atténue les frontières entre les soins et la recherche
clinique et peut avoir d’importantes conséquences réglementaires.
9. L’OCDE constate que les normes et l’interopérabilité des réseaux
restent des défis majeurs à relever afin de tirer le meilleur parti
de tels systèmes fondés sur l’IA
Note. Il est
clair que nous devons standardiser les dossiers de santé électroniques
et leur gestion si nous voulons avoir une couverture impartiale
des données, préserver l’intégrité des données (par exemple, grâce
à la technologie du
blockchain)
et garantir la comparabilité des données de santé d’un pays à l’autre,
tout en veillant toujours à ce que les cadres juridiques et réglementaires
(en particulier les conventions sur la protection des données et
la vie privée) soient pris en compte.
10. Des sociétés privées et des chercheurs ont analysé la capacité
des algorithmes à identifier les traitements antidépresseurs les
plus efficaces (en se fondant sur les caractéristiques spécifiques
des patients), à déceler la dépression et à prédire le suicide ou
gérer la démence précoce. De plus, l’IA s’est révélée très efficace
dans la lecture de l’imagerie médicale pour aider à détecter et
à diagnostiquer des pathologies telles que la pneumonie, les cancers
du sein et de la peau et les maladies des yeux. Des outils robotiques
contrôlés par l’IA ont également été testés pour la chirurgie. L’IA
peut être utilisée pour relier des données cliniques, la recherche
et des recommandations professionnelles afin d’aider à prendre des
décisions de traitement éclairées. La mise en réseau de laboratoires,
de formules pharmaceutiques, de patients, de cliniques et de centres
de diagnostic permet de développer plus efficacement de nouveaux
traitements pour les maladies chroniques. Des multinationales pharmaceutiques
font la course pour découvrir de nouveaux traitements et médicaments
de pointe susceptibles de venir en aide aux patients de plus en
plus vite tout en assurant un service médical personnalisé.
11. Sur le plan des relations entre les patients et les médecins,
les applications mobiles de l’IA (comme les assistants virtuels
de santé) peuvent assurer un suivi en temps réel pour les diagnostics,
les traitements et l’observation; faciliter la détection de facteurs
de risque affectant la santé et le bien-être personnels; et recommander
des comportements plus sains afin de prévenir les troubles de santé
et éviter que des pathologies se développent. Les spécialistes estiment
que ces technologies qui associent les senseurs et l’analyse peuvent
être particulièrement utiles pour optimiser les soins médicaux aux
personnes âgées ou handicapées, ou pour améliorer les prestations
de santé grâce à la télémédecine dans les localités éloignées ou
isolées. Il est important de noter que l’IA pourrait soulager les
médecins de certaines tâches administratives fastidieuses et libérer
du temps pour les soins de santé. Mais il y a aussi le risque que
la technologie soit utilisée pour remplacer les soignants humains.
12. En matière de gestion de la santé publique, l’IA facilite
la détection précoce des éruptions de maladies infectieuses et des
sources d’épidémies, la surveillance des épidémies, l’identification
d’effets indésirables imprévus des nouveaux médicaments et de facteurs
extérieurs sur la santé humaine, la compréhension et l’interaction
des facteurs multiples de risque pour la santé (comme ceux résultant
de molécules chimiques utilisées dans le secteur agro-alimentaire,
l’industrie et par les ménages) et la planification des investissements pour
la santé dans la recherche publique, les infrastructures médicales
et la formation de spécialistes en temps voulu. L’IA pourrait également
contribuer à la réalisation des Objectifs du développement durable
(ODD) en lien avec le domaine de la santé.
3 Nouveaux
risques et défis des points de vue de la médecine, du droit et de
l’éthique
13. Même si actuellement les applications
qui utilisent l’IA à des fins médicales restent très pointues et limitées
à des tâches spécifiques de résolution des problèmes, les techniques
évoluent très rapidement. Pour fonctionner de façon optimale, tous
les algorithmes de l’IA nécessitent des quantités énormes de données. Dans
le domaine de la santé, ces données proviennent majoritairement
des particuliers et sont de nature particulièrement sensible. Cela
pose problème du point de vue de la protection adéquate de données
à caractère personnel et de la vie privée. De plus, les informations
sur la santé sont très sensibles parce que toute erreur dans le
fonctionnement d’un algorithme peut amener à prescrire un traitement
inadapté et mettre en danger non seulement les droits, mais aussi
la vie de groupes entiers de la population. D’autre part, certaines
restrictions dans l’utilisation des informations personnelles de
santé peuvent inactiver des couplages essentiels entre des données
causant des distorsions, voire des erreurs, dans les analyses réalisées
par l’IA. Une des solutions envisageables, mais discutables serait
de rendre anonymes les données à caractère personnel.
14. Le cadre actuel de protection des données à caractère personnel
est-il suffisant pour faire face aux menaces que représente l’IA
concernant l’utilisation de ces données et la confidentialité? Cela
nous amène à examiner comment divers instruments juridiques existants
– comme la Convention du Conseil de l’Europe pour la protection
des personnes à l’égard du traitement automatisé des données à caractère
personnel (STE no 108) et son Protocole
d’amendement (STCE no 223) – sont applicables
à l’utilisation croissante de l’IA dans le domaine de la santé.
Ainsi, le Protocole d’amendement (ouvert à la signature le 10 octobre 2018,
signé par 36 pays et ratifié par cinq autres au moment de la rédaction
de ce rapport)
Note prévoit «de nouveaux
droits accordés aux personnes dans le contexte de prises de décision
basées sur des algorithmes, ce qui est particulièrement important
dans le cadre du développement de l’intelligence artificielle».
15. Du point de vue des droits fondamentaux, face à une prise
de décision par l’IA, il est très important que la population prenne
conscience du fait que des applications fondées sur des algorithmes
sont utilisées dans le domaine de la santé, et qu’elle en comprenne
les implications afin de rendre le système de santé plus transparent,
de renforcer la confiance de tous les usagers et de garantir que
le consentement soit éclairé. Cela peut impliquer la création d’un
dispositif national de gouvernance de données relatives à la santé
qui pourrait s’appuyer sur les propositions des institutions internationales.
Parmi celles-ci, notons la recommandation «Décoder l’intelligence
artificielle: 10 mesures pour protéger les droits de l’homme», publiée
par la Commissaire aux droits de l’homme du Conseil de l’Europe
(mai 2019), les Lignes directrices en matière d’éthique pour une
IA digne de confiance énoncées par l’Union européenne (avril 2019),
la Recommandation et les principes de l’OCDE sur l’IA (mai 2019)
et les Principes du G20 sur une Intelligence artificielle centrée sur
l’être humain (juin 2019). Une telle structure de gouvernance des
données de santé doit faire partie intégrante des structures de
gouvernance démocratique et être indépendante de toute pression
politique des États et de toute ingérence des grandes entreprises.
En outre, la familiarisation de la population et des professionnels
de santé avec les algorithmes pourrait être planifiée dès maintenant.
16. L’IA n’est pas seulement une question de mégadonnées (ou big data); elle inclut également
les algorithmes, la puissance de calcul et les produits médicaux,
ce qui confère une importance capitale à la protection des données
à caractère personnel et à la sécurité des produits. Un grand sujet
de préoccupation en lien avec l’IA concerne la sécurité des dispositifs
de santé implantables et portables. Ils pourraient faire l’objet
d’un mauvais usage commercial ou subir une prise de contrôle malveillante
et provoquer de graves dommages corporels aux patients concernés,
comme les pirates et virus informatiques le font dans les ordinateurs
et les réseaux. Ces dispositifs posent également des problèmes de
responsabilité légale et d’exploitation des données comme moyens
de preuve devant les tribunaux. J’ai obtenu davantage d’informations
sur cet aspect en participant à la Conférence internationale «Nouvelles
technologies dans le domaine de la santé: questions médicales, juridiques
et éthiques» (Thessalonique, 21-22 novembre 2019), et j’ajouterai
des commentaires additionnels à ce sujet dans le chapitre sur les
questions juridiques.
17. À ces aspects s’ajoute la question cruciale de la confiance
à l’égard de certaines applications de l’IA dans le domaine de la
santé. Ainsi, des applications mises au point par des sociétés commerciales,
et même par des États ayant une conception différente des libertés
et droits fondamentaux, peuvent être imprégnées de partis pris (en
effet, toute application de l’IA véhicule les mêmes préjugés que
ses créateurs, ce qui n’augure rien de bon pour les femmes vivant
dans les sociétés fortement patriarcales ni pour tous les autres
groupes de population vulnérables ou défavorisés). Pour éviter ce
type d’interférences et protéger la population contre les dommages
potentiels, les États membres du Conseil de l’Europe devraient participer
plus activement au développement d’applications de l’IA pour les
services de santé, ou du moins faire valoir leur souveraineté pour imposer
un mécanisme de filtrage et d’autorisations préalable à leur déploiement.
L’implication des États aiderait aussi à garantir que ces applications
soient alimentées par un volume suffisant de données sans parti pris
et dûment protégées. C’est pourquoi je salue l’intention du Comité
de bioéthique du Conseil de l’Europe de travailler sur la confiance,
la sécurité et la transparence dans le recours à l’IA dans le domaine
de la santé et l’encourage à adopter une approche globale et à lancer
sans tarder ce travail prioritaire.
18. La santé est un droit fondamental de l’être humain. Les bienfaits
potentiels de l’IA en termes d’amélioration des conditions de santé
impliquent que l’IA promet de faire progresser les droits humains.
Elle a toutefois aussi le potentiel de porter atteinte à ces mêmes
droits en perpétuant les préjugés de la société par leur reproduction
dans les données et les algorithmes, et en raison de l’opacité de
processus de plus en plus complexes. De ce point de vue, un débat
éthique sur l’IA dans les soins de santé s’avère essentiel.
19. La définition des limites éthiques pour le recours à l’IA
en général et dans le domaine de la santé en particulier ne sera
pas facile. Cela suppose d’assurer le débat public et la participation
de spécialistes de diverses disciplines. Comme l’a fait observer
mon collègue au cours d’un récent débat à l’OCDE, tandis que les
entreprises accélèrent pour le développement et l’utilisation d’applications
commerciales de l’IA, le législateur se limite à envisager les protections
juridiques possibles. Il est urgent de rattraper le retard.
20. Les audits préalables et les contrôles de qualité sont indispensables
pour toute innovation ou nouvelle technologie, comme les applications
de l’IA. Plusieurs caractéristiques de l’IA sont de nature à engendrer
des défis, rendant nécessaire cette diligence et contrôles de qualité.
Premièrement, la qualité de tout algorithme dépend de celle des
données exploitées; cela suppose une grande vigilance par rapport
à la qualité et à la nature des données. Deuxièmement, les algorithmes
sont, par nature, ambigus parce qu’ils reproduisent les travers
contenus dans les données et les préjugés de leurs concepteurs;
le contrôle préalable permet de tester les préjugés avant la montée
en charge et l’arrivée massive d’information. Troisièmement, la
nature numérique de l’IA et les caractéristiques intrinsèques d’un
apprentissage-machine peuvent générer des zones d’ombre dans les
algorithmes qui exigent une vigilance accrue à l’égard de la cybersécurité,
la sécurité informatique et autres parades contre les dysfonctionnements
d’ordinateurs. Enfin, l’IA automatise les processus décisionnels et
réduit le besoin d’acquérir des compétences en matière de prise
de décision: toutes les parties prenantes doivent donc rester vigilantes
pour parer aux risques de perte de compétences et d’érosion des
processus décisionnels, ainsi que pour maintenir l’être humain au
centre de l’IA.
21. L’IA peut potentiellement contribuer au bien-être des personnes
et à un développement inclusif et durable. Elle peut en outre participer
à la réalisation des ODD du domaine de la santé, entre autres. Comme l’indiquent
les rapports de l’OCDE, cela suppose que les acteurs tant publics
que privés investissent dans la recherche et le développement de
l’IA, avec des équipes interdisciplinaires analysant non seulement
les questions techniques, mais également les perspectives sociales,
éthiques et juridiques. Le secteur public devrait jouer un rôle
déterminant en définissant un cadre réglementaire garantissant le
respect de la vie privée et la protection des données, en veillant
à ce que les échanges de données interviennent dans un environnement
sûr, juste, légal et éthique, en limitant ou éliminant les préjugés
dans les bases de données et en définissant les mécanismes pour
améliorer la fiabilité des ensembles de données, des algorithmes
et des processus de l’IA. Les gouvernements devraient aussi créer
et soutenir des mécanismes publics et privés de surveillance des
systèmes d’IA (contrôle de respect des normes, audits, études de
conformité, systèmes de certification).
4 État
actuel des cadres stratégiques
22. De nombreux outils d’information
et de référence sur l’IA, y compris dans le domaine de la santé,
sont en cours d’élaboration. Toutefois, comme nous l’avons appris
lors de la réunion du Réseau parlementaire mondial de l’OCDE (10-11
octobre 2019), le Royaume-Uni a déjà lancé le projet ExplAIn afin
d’élaborer des orientations pratiques expliquant les décisions issues
de l’IA au grand public; le Japon a mis en place des Lignes directrices
sur l’utilisation de l’IA afin de mieux faire comprendre les systèmes
d’AI et résultats qui s’y rapportent; le Danemark a créé des partenariats
avec l’industrie pour développer un label d’éthique sur les données,
Malte a lancé un système de certification volontaire pour l’IA et
le Canada a mis en place un outil d’
Évaluation
de l’incidence algorithmique conçu pour aider à mesurer l’impact potentiel des algorithmes
sur les citoyens, y compris dans le domaine de la santé. L’OMS et
l’Union internationale des télécommunications (IUT) mènent un processus
de balisage des modèles de l’IA du domaine de la santé afin d’offrir
aux acteurs mondiaux des cadres indépendants et normalisés d’évaluation.
23. Ces dernières années, diverses parties prenantes aux niveaux
sectoriel, national et international ont élaboré une série de lignes
directrices non contraignantes pour une approche fondée sur les
droits et davantage éthique de l’utilisation des technologies de
l’IA dans différents domaines, y compris la santé. L’étude intitulée
«The global landscape of AI ethics guidelines»
Note (Le paysage mondial des lignes
directrices en matière d’éthique dans le domaine de l’IA) a identifié,
en 2019, 84 grandes séries de lignes directrices de ce type, dont cinq
traitant spécifiquement de la santé et des soins de santé. L’analyse
montre qu’environ 23 % des lignes directrices ont été élaborées
par des entreprises privées et 21 % par des agences gouvernementales,
suivies par celles développées par les instituts de recherche universitaire
(11 %), les organisations internationales (9,5 %) et les entités
à but non lucratif et les associations professionnelles (8 % chacune),
entre autres.
24. Sur le plan géographique, les États-Unis et le Royaume-Uni
sont en tête, représentant respectivement 25 % et 16 %, soit plus
du tiers, de l’ensemble des lignes directrices; les autres pays
les plus actifs dans ce domaine sont le Japon (5 %), l’Allemagne,
la France et la Finlande (environ 4 % pour chaque pays). Point important,
les acteurs britanniques – le Collège royal des médecins, le ministère
de la Santé et de la Protection sociale, et Future Advocacy
Note – ont élaboré trois des cinq lignes
directrices existantes pour le secteur de la santé
Note.
La même méta-étude a identifié les principes éthiques fondamentaux
suivants (par ordre d’importance): transparence/compréhensibilité/communicabilité,
justice et équité, non-malfaisance/sécurité/sûreté, responsabilité,
respect de la vie privée, bienfaisance, liberté et autonomie/consentement,
confiance, durabilité, dignité et solidarité. Bien qu’il y ait une
convergence apparente sur les principaux enjeux éthiques, «le diable
se cache dans les détails» en raison de l’interprétation des principes
soulignés, de l’importance qu’ils revêtent, de leur pertinence dans
des domaines spécifiques et des difficultés de mise en œuvre et
de contrôle.
25. Une autre étude importante intitulée «Principled AI: mapping
consensus in ethical and rights-based approaches to principles for
AI»
Note (IA fondée sur des
principes: cartographie du consensus dans les approches éthiques
et fondées sur les droits pour la définition de principes applicables
à l’IA), qui se base sur 36 documents de référence provenant du
monde entier, a identifié huit domaines clé de convergence classés
par ordre d’importance et considérés comme un «noyau normatif»:
confiance, équité et non-discrimination, respect de la vie privée,
responsabilisation, transparence et explicabilité, sûreté et sécurité,
responsabilité professionnelle, contrôle humain des technologies,
et promotion des valeurs humaines et du bien-être humain. Il est
entendu, toutefois, que les principes de base ne sont qu’un début:
ils devraient faire partie d’un cadre de gouvernance général et
refléter leur «contexte culturel, linguistique, géographique et
organisationnel», ce qui a aussi été mis en évidence dans des discussions
antérieures sur l’IA de la commission dans le domaine de la santé.
L’OMS travaille actuellement à l’élaboration d’un document d’orientation
sur le thème «Éthique et gouvernance de l’intelligence artificielle
pour la santé», qui sera prêt en principe avant fin 2020.
26. Le Conseil de l’Europe dispose aussi d’un certain nombre de
textes de référence – principalement des études, des lignes directrices
et des recommandations – traitant des effets de l’IA et des processus algorithmiques
sur les droits humains, la démocratie et l’État de droit. De plus,
certaines de ses conventions (telles que la Convention européenne
des droits de l’homme, la Convention d’Oviedo, la Convention no 108+ et
la Convention sur la cybercriminalité) sont particulièrement pertinentes
pour évaluer les effets potentiels de l’IA dans le domaine de la
santé et identifier les «vides réglementaires». Je suis également
sensible au dialogue et au partenariat continus avec un certain
nombre d’entreprises de l’internet et des télécommunications du
secteur privé en faveur de l’établissement d’une cartographie des
besoins réglementaires plus précise et réaliste.
27. L’Union européenne, l’un des partenaires institutionnels majeurs
du Conseil de l’Europe, a publié le 19 février 2020 un livre blanc
sur l’IA assorti d’une stratégie pour les données,
Note qui sera
suivi par une consultation publique et la révision du Plan coordonné
sur l’IA (dont l’adoption est attendue fin 2020). Le Livre blanc préconise
une approche réglementaire fondée sur les risques tout en prévoyant
une marge pour des éventuels aménagements, et recommande que le
secteur public adopte l’IA, notamment dans les administrations publiques,
les hôpitaux et les «d’autres domaines d’intérêt public», en mettant
l’accent sur les secteurs de la santé ou «la technologie est parvenue
à la maturité nécessaire à un déploiement à grande échelle». Ainsi,
la santé figure parmi les secteurs à risque élevé (aux côtés des
transports, de l’énergie, du système judiciaire et certains autres
services); d’autre part, le Livre blanc recommande de limiter le
renforcement de la réglementation aux applications qui présentent
un risque élevé («de blessures, de décès ou de dommage matériel
ou immatériel important») pour les personnes physiques ou morales.
De plus, le Règlement général sur la protection des données (RGPD)
est régulièrement évoqué au sujet du traitement des données à caractère
personnel dans un monde de «mégadonnées». Pour ce qui est de la
standardisation, il convient de noter que la Commission européenne
a publié la Recommandation relative à un format européen d’échange des
dossiers de santé informatisés (2019/243 du 6 février 2019).
28. L’OMS, en tant que référence mondiale en matière de santé,
mène des consultations en vue de mettre au point une stratégie mondiale
sur la santé numérique et travaille à l’élaboration de lignes directrices
sur l’éthique et la gouvernance en matière d’IA dans le domaine
de la santé qui devraient être publiées en fin d’année 2020. D’après
des études préliminaires, il apparaît qu’un assez grand nombre d’applications
de l’IA dans le domaine de la santé sont déjà déployées dans des
pays à revenu élevé, et on estime qu’elles offrent un potentiel
considérable pour étendre la couverture santé, répondre aux besoins
des personnes âgées, améliorer les diagnostics, la prise de décision
clinique et la prévention, développer la médecine et la recherche de
précision, repérer l’apparition de maladies et mener des enquêtes
sur la santé publique, ainsi que réduire les coûts des soins de
santé. En relation à la fois avec le Conseil de l’Europe et l’OMS,
les entreprises du secteur privé manifestent leur vif intérêt et
leur soutien à l’égard de l’élaboration d’instruments juridiques
non contraignants qui pourraient ouvrir la voie à des cadres réglementaires
contraignants.
29. Dans les discussions mondiales au sujet de l’éthique en matière
d’IA, Brent Mittelstadt apporte un point de vue pertinent de comparaison
entre les initiatives éthiques centrées sur l’IA et les quatre principes traditionnels
en matière d’éthique médicale
Note.
L’OCDE et le Groupe d’experts de haut niveau sur l’IA de la Commission
européenne semblent se rallier à cette position, en centrant leurs
recommandations pour le développement d’une IA digne de confiance
autour des principes d’autonomie humaine, de prévention des préjudices,
d’équité et d’explicabilité. Dans le même temps, quatre préoccupations
majeures paraissent suggérer que cette approche «fondée sur les
principes» n’a peut-être que des effets limités sur la conception et
la gouvernance d’une éthique générale en matière d’IA. Cela est
dû au fait que par rapport à la médecine, l’évolution actuelle de
l’IA manque de «(1) buts communs […]; (2) normes et d’expériences
professionnelles; (3) méthodes éprouvées pour traduire les principes
en pratiques; et de (4) mécanismes de responsabilisation juridique
et professionnelle solides». En effet, la compréhension même et
l’interprétation des grands principes dans le domaine de l’IA manque
de cohérence, sans parler de l’absence de définition acceptée par
tous de l’IA elle-même.
5 L’IA
dans la santé au quotidien
30. L’IA offre de nouvelles possibilités
pour la santé à travers des applications qui mettent en évidence
des degrés de développement inégaux dans différents domaines de
la santé. Les investissements du secteur privé orientent ce processus
dans le monde entier. Même si les start-ups jouent un rôle croissant,
la majeure partie des investissements est assurée par de grandes
sociétés, généralement multinationales, qui coopèrent avec les établissements
médicaux et ont accès aux données des patients. Ces applications
concernent, par exemple, l’analyse d’images et le diagnostic en
vue d’élaborer des traitements du cancer; il en existe d’innombrables
autres.
31. Certaines de ces applications ont pu aboutir à une expérience
utilisateur mitigée: les résultats sont concluants dans la corrélation
de données issues de sources multiples, mais on observe parfois
un manque de valeur ajoutée et des problèmes pour faire avancer
la qualité des soins de santé en s’appuyant sur l’IA en raison d’un
manque de précision. Les critiques accusent les grandes sociétés
de se précipiter pour obtenir des parts de marché et de lancer une
médecine personnalisée sans disposer de données suffisamment complètes, en
promettant des résultats qui pourraient ne pas être atteints.
32. Cela est symptomatique du secteur numérique dans son ensemble,
où les promesses virtuelles du marketing peuvent l’emporter sur
la réalité et une offre de services de qualité. Cette approche est particulièrement
problématique dans le domaine des services de santé où la marchandisation
excessive peut exacerber les inégalités dans l’accès aux soins de
santé plutôt que de l’améliorer et pourrait porter atteinte à la
solidarité en tant que principe fondamental de la plupart des systèmes
de santé européens. De plus, certains experts mettent en garde contre
le risque de «déprofessionnalisation» parmi les professionnels de
santé si ceux-ci s’appuient de plus en plus sur des systèmes algorithmiques
au détriment de l’analyse critique multifactorielle et de l’acquisition
d’expérience dans la prise de décision médicale.
33. Pratiquement tous les cadres nationaux et internationaux mis
en place pour l’IA soulignent l’importance de veiller à ce que cette
dernière soit équitable et inclusive. Cet objectif est essentiel
en raison, d’une part, de la forte concentration des ressources
en IA entre les mains d’un petit nombre d’entreprises et de nations
et, d’autre part, de l’accentuation des inégalités en matière de
santé que l’AI pourrait induire au sein des pays et entre ceux-ci.
Étant donné les besoins en infrastructures numériques et en compétences
numériques et d’algorithmes pour assurer la connectivité numérique,
la réalisation de l’objectif suppose de surmonter les fractures
numériques actuelles. Si l’accent est mis sur les groupes vulnérables
pour lesquelles l’accès à la santé est difficile, la lutte contre
les fractures numériques pourrait permettre à l’IA de contribuer
à une réduction des inégalités.
34. Les tendances actuelles en matière d’IA dans le domaine de
la santé montrent que l’apprentissage machine est principalement
utilisé dans la gestion des maladies chroniques (telles que le diabète,
à l’aide de capteurs et d’injections automatisées d’insuline intégrés),
l’analyse d’imagerie médicale et l’internet des objets (grâce à
des dispositifs portables intelligents communiquant en temps réel
avec une surveillance professionnelle). Dans le domaine de la recherche
médicale, l’IA offre des possibilités considérables de développement
de nouveaux médicaments et de traitements, à condition que les limites
des algorithmes et de l’échantillonnage des données puissent être
surmontées. En effet, les données médicales des populations les plus
pauvres qui consultent rarement les professionnels de santé ou des
personnes qui vivent dans des communautés isolées («déserts médicaux»)
tendent à être invisibles dans les bases de données médicales, et
les professionnels de santé eux-mêmes n’enregistrent systématiquement
ni ne codifient correctement toutes les informations pertinentes
relatives aux conditions de santé de leurs patients. En outre, certains
groupes de population sont nettement sous-représentés (en raison
de préjugés raciaux, ethniques, misogynes) dans les essais aléatoires
cliniques, ce qui fausse tant les informations recueillies que les
conclusions atteintes, et a notamment des conséquences désastreuses
pour les enfants
Note. Cet «aveuglement systémique»
a malheureusement des effets préjudiciables tant pour la recherche
privée que publique. En tant que décideurs politiques, nous devons
rechercher des moyens par lesquels de futurs algorithmes plus intelligents
et une collecte automatisée des données (à l’aide, par exemple,
de dispositifs portables et de demandes de données en ligne, à condition
que leur accessibilité soit garantie) pourraient mieux refléter
la société telle qu’elle est.
35. Il existe des exemples très positifs de recours à l’IA dans
le domaine de la santé, où cette technologie soutient la prise de
décision clinique des médecins et aide les patients à mieux comprendre
et à gérer leur santé de manière active. Des utilisateurs ordinaires
peuvent entrer leurs symptômes dans une application de leur smartphone
pour découvrir des explications de leurs possibles problèmes de
santé; ils peuvent également suivre leurs symptômes dans le temps
et partager les données correspondantes avec des médecins. Certaines de
ces applications sont utilisées dans 140 pays, par plus de 15 millions
d’utilisateurs en à peine deux ans.
36. Un récent exemple est également révélateur des applications
positives. En décembre 2019, l’application d’IA développée par la
société canadienne Blue Dot semble avoir été la première à identifier
l’épidémie de Covid-19, tandis qu’une société chinoise a proposé
un outil d’IA capable de diagnostiquer le Covid-19 en à peine 10
secondes (contre environ 15 minutes pour un diagnostic manuel) à
partir d’images des poumons obtenues par tomodensitométrie (CT-scan)
Note.
6 L’IA
et la santé face à la Covid-19
37. L’épidémie de Covid-19 a modifié
l’orientation de tous les débats sur l’élaboration des politiques.
Les conséquences directes du virus pour la santé et les effets socio-économiques
indirects de la lutte contre le virus créent une urgence multidimensionnelle.
Étant donné que l’épicentre de cette situation d’urgence est lié à
la santé, un débat important porte naturellement sur la manière
de surveiller, de prévoir et de gérer l’épidémie de Covid-19 ainsi
que d’éviter et de mieux gérer les futures pandémies de ce type.
L’IA joue un rôle essentiel dans ce débat parallèlement au débat
indispensable sur la reconnaissance du fait que le droit à la santé
fait partie des droits humains fondamentaux et doit être intégré
dans un système de santé public approprié qui garantisse un accès
universel.
38. L’IA a joué un rôle essentiel dans la détection initiale de
la pandémie. Elle a été utilisée pour suivre l’évolution de la capacité
d’accueil des hôpitaux et la propagation de la maladie, repérer
les patients à haut risque, développer des options thérapeutiques
et un vaccin et renforcer les moyens en vue d’une prochaine pandémie.
La demande des responsables politiques de «modélisation et de suivi»
des données est probablement l’application la plus visible de l’IA
dans ce domaine qui a mis en évidence à la fois le potentiel de
l’IA et les risques inhérents. La pandémie nous a manifestement
rappelé les promesses de l’IA, mais aussi le besoin pressant de
ménager un équilibre entre la protection de l’intérêt collectif
et les droits individuels. La crise nous a aussi brutalement rappelé
les questions concernant l’accès aux données, le partage, la responsabilité,
la qualité des données et des algorithmes, la complémentarité de
la technologie et de l’humain et, pour finir, la nécessité d’une
coopération et d’une collaboration interdisciplinaires. Elle nous
a également engagé à exploiter pleinement les possibilités offertes
par les cadres existants du Conseil de l’Europe, comme la Charte
sociale européenne dont l’article 11 énonce clairement le «droit
à la santé», la Convention d’Oviedo et la Convention 108+ qui garantit
notamment la protection des données à caractère personnel et de
la vie privée.
39. Malgré l’existence de ces cadres, il est devenu manifestement
nécessaire de mettre tous ces éléments en perspective en se concentrant
sur l’IA et la santé. De fait, si un cadre réglementaire bien défini
inspirant la confiance avait existé, l’IA aurait sans doute pu avoir
des effets positifs bien plus importants sur la gestion de cette
pandémie; les préoccupations du grand public concernant l’utilisation
frauduleuse ou inappropriée des données par les États et par le
secteur privé auraient été moindres. Cette expérience a mis en évidence
la nécessité d’accélérer les travaux à la fois pour contribuer à
optimiser les solutions à la pandémie actuelle et être prêt à faire
face à des phénomènes de ce type dans l’avenir. La pandémie de Covid-19
a révélé les aspects les plus décisifs de ce cadre réglementaire
plus que nécessaire qui devrait définir l’ampleur du dialogue entre
le secteur public et le secteur privé et les responsabilités respectives
et permettre de mettre en place les conditions et les garanties
propres à veiller à ce que l’intérêt collectif ne l’emporte pas
sur les droits individuels. Il faudrait s’assurer que la qualité
des données et des algorithmes est garantie pour éviter que les inégalités
existantes ne se creusent et que l’utilisation de la technologie
de surveillance et de suivi n’est que temporaire, et non permanente.
40. En raison de la pandémie, le monde se trouve à un tournant
crucial: la surveillance à des fins de santé entraînera-t-elle une
dérive totalitaire ou sera-t-elle prise en charge par les citoyens?
Les réflexes isolationnistes seront-ils accentués ou le multilatéralisme,
la coopération et la solidarité seront-ils à la hauteur de la tâche?
Ces questions se posent dans le cadre de toute discussion sur l’IA
et la santé; la première renvoie à un cadre réglementaire pour la
protection des droits humains, la deuxième à celle de savoir si
l’IA dans les services de santé sera régie par la coopération et
la solidarité ou par des objectifs de quête de profit. Il va de soi
que la santé et la vie privée ne sauraient être interchangeables,
elles sont indissociables. Un cadre réglementaire doit les inclure
toutes les deux et permettre une utilisation de la technologie pour
le meilleur. La confiance de la population dans l’État et le secteur
privé ne peut se développer que si tous les agents protègent et
garantissent comme il convient les valeurs fondamentales des droits
humains dans le développement et l’utilisation de l’IA. Au vu de
l’urgence qu’il y a à faire de l’IA un instrument contribuant à
la lutte contre la pandémie, il est capital de s’accorder au moins
sur un cadre réglementaire de base qui soit fonctionnel, renforce
la confiance et fasse de l’IA une réalité pour le bien de tous afin
de donner aux citoyens les moyens de prendre des décisions plus
éclairées en communiquant aussi des informations permettant de rendre
les gouvernements comptables de leurs décisions.
41. La pandémie actuelle nous rappelle de manière brutale les
inégalités dues à la surmarchandisation et la nécessité de réglementer
les marchés et de gérer les conflits potentiels entre principes
éthiques et forces du marché. Ces questions présentent aussi un
intérêt dans le cadre du débat concernant l’IA et la santé. Qui est
propriétaire des données médicales? Qui est autorisé à en tirer
des profits? Qui est responsable si l’IA cause les dégâts? Qui veillera
à ce que l’utilisation de l’IA vise l’équité plutôt que les profits?
Ces questions sont encore plus pertinentes à l’heure où nous nous
rendons compte que la pandémie a fait apparaître la nécessité de
rechercher l’équité et l’inclusion dans toutes les politiques –
un aspect essentiel de l’IA dans la santé également. En tant que
telle, la pandémie montre à quel point il importe que les données
soient transparentes et que leur utilisation soit neutre.
42. La pandémie nous a aussi rappelé que tout progrès réel dû
à l’utilisation de la technologie et de l’IA n’est possible que
si l’être humain joue un rôle moteur. Tous les acteurs sont nécessaires:
spécialistes de biomédecine, de biologie ou de modèles de population,
infectiologues et virologistes, experts informatiques. En fait,
les données et les algorithmes dépendent de la qualité des données
et de l’excellence des connaissances et des compétences des équipes
interdisciplinaires qui développent l’IA et en assurent la maintenance.
Au bout du compte, la crise mondiale nous rappelle aussi l’importance
du multilatéralisme et de la collaboration face à des événements
d’envergure mondiale.
7 Feuilles
de route éthiques, juridiques et médicales
7.1 La
gestion des données personnelles sensibles et de la vie privée dans
le domaine de la santé
43. La plupart des usages actuels
de l’IA reposent sur une quantité énorme de données émanant plus
ou moins directement des individus. La diffusion des médias sociaux
a déjà habitué un grand nombre de leurs utilisateurs à publier volontairement
des données personnelles au sein du cyberespace mondial en échange de
services «gratuits». Les applications commerciales de l’IA dans
le domaine de la santé ciblent désormais des catégories de population
variées en vue de créer leurs bases de données – gratuitement; toutefois, l’ambition
de nombreux opérateurs est d’offrir des services payants et de convertir
les éventuels utilisateurs de leurs services en consommateurs habituels.
Pour le dire simplement, votre santé représente une opportunité commerciale
pour le secteur privé, et l’IA offre de nouveaux moyens de faire
des affaires. Dans le même temps, les interconnexions numériques
à travers le monde abolissent les frontières et remettent en question
les modèles traditionnels d’application de la loi, y compris en
ce qui concerne la protection des données personnelles et de la
vie privée.
44. En raison du développement de l’IA dans le domaine des soins
de santé, les données apparaissent comme le «carburant» des algorithmes
et deviennent la source principale de connaissance, de savoir-faire
et de progrès. L’IA implique des données, des algorithmes et une
puissance de calcul. Les applications de l’IA dans le domaine de
la santé exploitent ainsi des données de santé, mais également des
informations sur le mode de vie en lien avec la santé, alliant des
données cliniques et génétiques aux données comportementales et
environnementales. Les données de santé pertinentes pour être exploitées
par l’IA proviennent de sources multiples: les dossiers médicaux
électroniques; les demandes de remboursement aux assurances; les informations
sur les prescriptions et les examens en laboratoire; la recherche;
les dispositifs portables de fitness, mais
aussi les téléphones; les objets connectés qui surveillent les patients;
les réseaux sociaux, etc. Le RGPD entend par «données concernant
la santé», «les données à caractère personnel relatives à la santé physique
ou mentale d’une personne physique, y compris la prestation de services
de soins de santé, qui révèlent des informations sur l’état de santé
de cette personne».
45. Le secret des données médicales peut être envisagé sous deux
angles: les préoccupations conséquentialistes ou les préoccupations
déontologiques. Les premières s’intéressent à la confidentialité
des informations sur la santé en raison des conséquences négatives
possibles pour les personnes en cas de violation de la vie privée.
Ces conséquences tangibles peuvent aller des dommages physiques
aux souffrances mentales, en passant par la gêne ou la paranoïa.
Les préoccupations déontologiques supposent de respecter la vie
privée même quand il n’y a pas de conséquences négatives et même
si l’intéressé n’a pas connaissance d’une telle violation. Ces deux
aspects impliquent la mise en place d’un cadre bien défini de respect
de la vie privée quand les données de santé sont confrontées à l’IA.
46. D’un point de vue européen, le RGPD et la Convention no 108+
du Conseil de l’Europe visent à accroître la transparence dans le
traitement des données et à renforcer la protection des données
sensibles. Tandis que la Convention no 108+
défend le «respect des (…) droits de l’homme [de toute personne
physique] et de ses libertés fondamentales, et notamment du droit
à la vie privée» à l’égard du traitement automatisé des données à
caractère personnel la concernant
Note, le RGPD
met l’accent sur la protection des données et passe sous silence
les références antérieures au respect de la vie privée
Note,
y compris dans les dispositions liées à la recherche médicale. Le
RGPD définit dès lors la protection des données comme un droit individuel
qui est limité par des raisons d’intérêt public et doit être mis
en balance avec les autres droits fondamentaux
Note.
47. Cela étant, la Charte des droits fondamentaux de l’Union européenne
(2000) mentionne le respect de la vie privée et familiale dans son
article 7. De plus, l’article 8 de la Charte énonce les aspects
essentiels du droit à la protection des données personnelles, soulignant
que «ces données doivent être traitées loyalement, à des fins déterminées
et sur la base du consentement de la personne concernée ou en vertu
d’un autre fondement légitime prévu par la loi» et que le «respect
de ces règles est soumis au contrôle d’une autorité indépendante.»
48. Considérant les repères éthiques énoncés dans la Convention
d’Oviedo et la Convention no 108+ qui affirment
la primauté de la vie privée et de l’autonomie de la personne concernée,
le consentement explicite («libre et éclairé») et qui requièrent
l’anonymisation des données personnelles, le modèle RGPD
Note représente une évolution nette
en faveur de la primauté de l’intérêt public (à des fins de recherche
scientifique, par exemple), du consentement large et de la pseudonymisation
des données personnelles. Tandis que l’anonymisation des données
est en principe irréversible, avec les outils numériques actuels
de traçage, elle peut être imparfaite; la pseudonymisation des données
est réversible en activant des informations additionnelles qui sont
conservées séparément et doivent faire l’objet de mesures de protection
spéciales (garde-fous qui incluent une séparation entre ceux qui
sont responsables de coder les données et les utilisateurs, l’avis
d’un comité d’éthique et l’obligation du secret juridique). La pseudonymisation
pourrait être une bonne solution qui donnerait aux personnes la
possibilité de bénéficier des percées de la recherche et des nouvelles
thérapies permises par leurs données.
49. La plupart du temps, les patients ne sont pas suffisamment
informés pour donner un consentement libre et éclairé. L’apprentissage
machine devient de plus en plus complexe, tout comme les interactions
des sources de données qui alimentent les algorithmes et les réseaux
neuronaux, et le consentement devient illusoire. Avec le développement
du duo IA et internet des objets, non seulement les données se multiplient,
mais l’utilisateur est dépassé par les interactions entre les ensembles
de données et la complexité des algorithmes. Il faut donc également
se demander si un consentement général serait préférable à un consentement
spécifique.
50. Toutefois, jusqu’ici, les déclarations de confidentialité
conformes aux exigences du RGPD semblent être difficilement compréhensibles
par le grand public. Il existe même un outil utilisant l’IA – Polisis
– qui aide les utilisateurs à se représenter les politiques de confidentialité
et à extraire un résumé lisible expliquant le type de données collectées,
où elles pourraient être envoyées, et les options dont dispose l’utilisateur
pour refuser la collecte ou le partage de données.
51. Comme souvent dans la recherche il n’est pas possible d’identifier
l’objet précis du traitement des données personnelles au moment
de leur collecte, les personnes devraient avoir la possibilité d’exprimer
leur consentement à des domaines spécifiques de la recherche (biomédicale).
Paradoxalement, l’exigence de consentement
per
se ne réduit pas les risques pour les personnes et peut
conduire à une protection inefficace pour ces dernières, tout en
entravant les possibilités de recherche ouvertes par l’utilisation
des «mégadonnées». Les États membres du Conseil de l’Europe sont
liés par les conventions du Conseil de l’Europe et ceux appartenant
à l’Union européenne doivent également en respecter les traités
et règlements. À la lumière des «Lignes directrices sur l’intelligence
artificielle et la protection des données» (2019)
Note qui insistent sur
«la prise en compte de la protection des données dès la conception
et par défaut», il reste à clarifier comment cette position pourrait
être réconciliée avec l’approche davantage ouverte contenue dans
le RGPD.
52. Au vu de la participation significative des entreprises établies
aux États-Unis à l’exploitation commerciale de l’IA et des «mégadonnées»,
il est important de garder à l’esprit l’accord-cadre Union européenne-États-Unis
sur la protection des données de décembre 2016 qui a introduit «des
garanties élevées de protection de la vie privée dans le cadre de
la coopération transatlantique en matière de répression». Bien que
son but premier soit la lutte contre la grande criminalité et le
terrorisme, il vise également à renforcer la protection des données
des Européens conformément aux règles de l’Union européenne. Toutefois,
la protection des données personnelles et de la vie privée lorsque
des entreprises privées européennes de l’IA sont acquises par des
géants mondiaux pose une question sérieuse. Par exemple, dans le
cas de l’achat par Google de l’entreprise britannique DeepMind Health,
les données personnelles de 1,6 million de patients-utilisateurs
britanniques de DeepMind ont été transférées aux États-Unis sur
une «base juridique inappropriée», selon la décision rendue par
le Bureau du Commissaire à l’information du Royaume-Uni en juillet 2017.
7.2 Définir
la responsabilité des parties prenantes
53. L’opacité actuelle des algorithmes
soulève plusieurs questions concernant la responsabilité des parties prenantes
– des développeurs aux autorités de réglementation, en passant par
les intermédiaires et les utilisateurs (y compris les autorités
publiques, les professionnels de santé, les patients et le grand
public). Si l’IA doit contribuer à l’amélioration de notre santé
et des soins de santé, et même à sauver des vies, alors les responsabilités
de toutes les parties prenantes doivent être clairement délimitées
afin de prévenir les préjudices et de réparer/compenser les dommages
dans le pire des cas.
54. L’étude spécialisée du Conseil de l’Europe intitulée «Responsabilité
et IA»
Note envisage les éventuels effets néfastes
de l’utilisation de l’IA, tels que les attaques malveillantes contre
des logiciels, la conception non éthique du système ou la défaillance
involontaire du système, la perte de contrôle humain et «l’exercice irresponsable
du pouvoir conféré par le numérique» qui peuvent mener à des dommages
matériels pour la santé humaine, les biens ou l’environnement. L’étude
avance que les engagements volontaires de l’industrie des hautes-technologies
«sont généralement dépourvus de tout mécanisme de mise en œuvre
et de sanction et ne peuvent donc servir de base à une véritable
protection» et attire l’attention sur un «vide de responsabilité» entre
les développeurs des applications de l’IA et leurs potentiels effets
néfastes. L’étude explique également les enjeux complexes découlant
du problème des acteurs multiples (résultant de la participation
de plusieurs personnes, organisations, machines/technologies utilisées,
logiciels/algorithmes et utilisateurs finaux dans la conception
ou le fonctionnement des systèmes de l’IA), de l’interaction humain-machine,
et de la nature imprévisible des systèmes algorithmiques, pouvant
engendrer des «risques potentiellement catastrophiques» à une vitesse
et à une échelle sans précédent.
55. L’étude met en avant quatre principaux constats: (1) une approche
préventive peut donner lieu tant au développement de mécanismes
de réclamation collective qu’au renforcement des protections existantes;
(2) la responsabilité juridique fondée sur les droits humains équivaut
à une «responsabilité absolue» qui ne nécessite pas de preuve de
la faute et qui est fondée sur un choix politique d’équilibre entre
les droits fondamentaux et les libertés; (3) la structure juridique
existante («responsabilité historique») devrait faciliter le développement
de mécanismes de protection efficace et d’un «audit des algorithmes»
sérieux via une coopération multidisciplinaire des parties prenantes;
(4) la protection effective à l’ère du numérique requiert des mécanismes,
des instruments et des institutions de gouvernance adéquats, pour
surveiller, limiter, superviser et examiner les systèmes de l’IA
et, si nécessaire, sanctionner les violations. Les États, dès lors,
doivent faire en sorte que les mécanismes d’application de la loi
et de gouvernance assurent dûment l’attribution de la «responsabilité
prospective et historique» pour les risques et les préjudices résultant
de l’hyper-connectivité et des technologies numériques du type IA.
56. Comme l’un des aspects de l’IA est l’auto-apprentissage, les
notions de «produit», de «dommages», de «défaut» et bien d’autres
impliquent qu’il serait nécessaire de réexaminer la Directive de
l’Union européenne sur la responsabilité du fait des produits défectueux
(Directive 85/374/CEE). Cette directive consacre le principe d’une
«responsabilité sans faute» ou de «responsabilité stricte». Toutefois,
étant donné la nature changeante de l’IA, une révision de la directive
et de l’encadrement des responsabilités s’impose. Le cadre juridique
pourrait être soit celui d’une responsabilité résultant de fautes
(où l’intention est importante) ou celui d’une responsabilité stricte
(indépendante de toute intention ou de tout consentement). Ce choix
d’un cadre juridique devrait s’appuyer sur un débat concernant ce
que le droit des assurances devrait couvrir et quel devrait être
le dispositif d’incitation le plus approprié.
57. Cette question concerne également les applications de santé
mobile (M-Health). Ces applications sont utiles pour améliorer l’efficacité
du système, renforcer les capacités des patients et personnaliser l’administration
de médicaments et les traitements. Toutefois, le cadre juridique
doit être défini. Il existe deux catégories d’applications du domaine
de la santé, même si la distinction entre les deux n’est pas toujours
très claire: celles destinées à la prévention, au diagnostic et
au traitement des maladies (applications médicales) et celles qui
relèvent d’un mode de vie ou visent la mise en forme et le bien-être
(applications non médicales). Une application classée dans la catégorie
M-Health (m-app) tombe sous le coup de la directive sur les dispositifs
médicaux; si elle est classée dans la catégorie «bien-être/fitness»,
les règles générales de sécurité relatives aux produits s’appliquent.
Il est important que la loi clarifie les implications pour la protection
de données, la protection de la vie privée et la responsabilité.
58. Dans le même temps, la responsabilité des entreprises doit
être renforcée du point de vue de leurs activités, des droits humains
et de l’IA. Comme indiqué dans la
Recommandation 2166 (2019) de l’Assemblée «Droits de l’homme et entreprises: quelles
suites donner à la Recommandation CM/Rec(2016)3 du Comité des Ministres?»,
il existe de bonnes raisons pour que le Conseil de l’Europe participe
«aux travaux du Groupe de travail intergouvernemental à composition
non limitée sur les sociétés transnationales et autres entreprises
et les droits de l’homme (OEIGWG) des Nations Unies sur l’élaboration
d’un instrument juridiquement contraignant relatif aux activités
des entreprises et aux droits de l’homme» – et cela également dans
le contexte du pouvoir numérique grandissant des entreprises multinationales,
y compris dans le domaine de la santé. Je crois que la Recommandation CM/Rec(2016)3
doit également être révisée pour prendre en compte les implications
massives du déploiement de l’IA par les entreprises.
59. Spécifiquement dans le domaine des soins de santé, d’après
les lois en vigueur, nous pouvons essentiellement établir une distinction
entre la responsabilité du fabriquant (qui s’applique notamment
pour les dispositifs médicaux reposant sur l’IA ou les applications
logicielles qui peuvent être considérées comme des dispositifs),
la responsabilité professionnelle (où les exigences en matière de
diligence raisonnable s’appliquent aux médecins – également lorsqu’ils
recourent à des outils de l’IA), la responsabilité des assureurs
et la responsabilité des utilisateurs (celle des personnes, mais
aussi celle des autorités pertinentes, telles que celles responsables
de la gestion des dossiers médicaux numériques, des systèmes et
de la qualité des données). Certaines voix se sont élevées pour
réfléchir à la définition d’un nouveau terme juridique – «e-personne»
en relation aux algorithmes ou à la construction d’une notion de
«responsabilité divisée». L’argument est le suivant: si l’IA est
aussi intelligente que l’être humain, elle devrait avoir les mêmes responsabilités
et obligations que les humains. Cela supposerait de définir une
e-personne, par le biais d’une IA enregistrée et identifiable qui
s’appuierait elle-même sur des actifs.
60. Dans ce contexte, une autre question délicate se pose sur
les moyens de protéger les professionnels de santé et les patients
des possibles conflits d’intérêts issus de biais cachés intégrés
à certaines applications de l’IA qui peuvent indûment promouvoir
certains traitements médicaux ou produits pharmaceutiques. Nous devrions
nous méfier de la prise de décision automatisée qui peut impliquer
le profilage du patient et la discrimination, et pousser les médecins
à valider des traitements proposés par l’IA uniquement parce que
leurs assureurs croient que l’utilisation des applications de l’IA
peut réduire le risque d’erreurs médicales (et, partant, les frais
de procédure judiciaire associés) et les coûts globaux des services
de soins de santé.
7.3 Qu’en
est-il du consentement éclairé?
61. Pour les utilisateurs de l’IA
dans un environnement médical, il est essentiel de comprendre la
valeur ajoutée des nouveaux logiciels sophistiqués par rapport aux
outils existants, de pouvoir faire confiance aux applications de
l’IA et d’être correctement informés lorsque des outils reposant
sur l’IA sont utilisés. Les patients ont besoin d’explications claires
et les médecins doivent savoir quelles applications de l’IA ont
été correctement conçues, sont sûres et reposent sur des données
exactes. De manière générale, tous les utilisateurs doivent avoir
le choix; or, pour être en mesure d’exercer leur choix, ils ont
besoin d’informations appropriées: l’IA fonctionnant comme une «boîte
noire» n’est pas acceptable au vu des risques pour la santé humaine
et la vie.
62. Dans le domaine des soins de santé en général, un consentement
éclairé permet aux patients de prendre des décisions avec leurs
prestataires de soins de manière concertée. Il s’agit d’une obligation
éthique et juridique pour les professionnels de santé. Un consentement
éclairé implique la capacité de prendre une décision volontaire
basée sur les explications d’informations médicales pertinentes
(telles que le diagnostic, le but, les risques et les bénéfices
du traitement proposé et les possibles solutions alternatives).
Avec les services de santé reposant sur l’IA, des personnes qui
ne sont pas des professionnels participent de plus en plus à la prestation
de soins généraux et paramédicaux, et les explications des informations
médicales peuvent être compliquées tant par les craintes du patient
que du médecin, l’excès de confiance ou la confusion, ainsi que par
l’opacité des systèmes de l’IA.
63. Comme mentionné dans la section 7.1 ci-dessus, la notion même
de consentement dans le domaine médical peut être en train de changer
avec la diffusion de l’IA. Il devient de plus en plus difficile
pour les personnes, à titre individuel, de prendre des décisions
réfléchies sur l’utilisation ou les utilisations de leurs données
personnelles (en particulier dans l’environnement numérique du «cliquer
pour accepter l’ensemble des conditions») et cette perte de contrôle
doit être compensée par une meilleure gouvernance (y compris la mise
en œuvre et le suivi de garanties, la sanction des violations, la
réparation/compensation des préjudices). Dans le domaine de la recherche
médicale, l’accent porte désormais davantage sur l’obtention d’un consentement
large (et éclairé) dans le cadre duquel il est demandé aux personnes
d’accepter un éventail de secteurs de recherche possibles où leurs
données pourraient être utilisées, une approche déjà testée pour
les biobanques. Cette approche est parfois remplacée par un «consentement
partiel» qui peut s’avérer moins protecteur pour les données personnelles,
ou par un «consentement dynamique» (impliquant une mise à jour régulière
des données personnelles qui peut autoriser différentes utilisations
au fil du temps) lorsque cela est possible.
64. La résolution du Parlement européen du 12 février 2020 sur
les «processus de prise de décision automatisés: assurer la protection
des consommateurs et la libre circulation des biens et des services»
(2019/2915(RSP)) salue «le potentiel que présente la prise de décision
automatisée pour offrir des services innovants et améliorés aux
consommateurs, y compris de nouveaux services numériques tels qu’assistants
virtuels et dialogueurs (chatbots)»
et indique que lorsqu’une personne interagit avec un système qui
automatise la prise de décision, elle doit être «dûment [informée]
de la manière dont un tel système fonctionne, savoir comment joindre
un être humain disposant de pouvoirs de décision, et connaître la
manière dont les décisions du système peuvent être contrôlées et
corrigées». Cela est important de manière générale et en particulier
dans le domaine médical, notamment lorsque des applications algorithmiques
sont utilisées pour la gestion de la santé publique et la recherche
médicale, de sorte qu’un juste équilibre puisse être trouvé entre
les intérêts individuels et collectifs. Il est non seulement nécessaire
qu’un patient soit informé quand on lui demande son consentement,
mais aussi de veiller à ce que les professionnels de santé soient
pleinement informés des limitations et de la nature des processus
d’IA qu’ils mettent en œuvre (ce qui rappelle une fois de plus l’importance
de l’acquisition de nouvelles compétences et de la formation). Les
systèmes d’IA devraient se présenter eux-mêmes. Les utilisateurs,
qu’il s’agisse de professionnels de santé ou de patients, devraient savoir
qu’ils sont face à de l’IA. L’IA devrait être «explicable, transparente,
auto-indicatrice et certifiée». Concernant l’explicabilité, il est
vital que l’utilisateur final puisse, à la demande, joindre un expert
humain à chaque étape d’un processus.
65. La certification ou validation fournit des informations à
l’utilisateur appelé à donner son consentement. Plutôt que de se
limiter au produit final, la certification doit concerner toutes
les étapes du développement et du déploiement de l’AI. Elle pourrait
s’appuyer sur un mécanisme clairement défini de «notation/évaluation». En
outre, la demande de certification pourrait émaner des pouvoirs
publics qui pourraient, par exemple, assortir tout financement d’un
organisme d’État à une certification de l’IA. L’OCDE suggère que
les intermédiaires de données pourraient agir en tant qu’autorités
de certification.
66. En plus d’une certification, il conviendrait de recommander
un audit préalable clair et pluridimensionnel. Une approche possible
serait d’exiger, par exemple, que tous les processus d’IA ainsi
que leurs diverses étapes soient soumis à une «étude d’impact sur
les droits de l’homme», une «évaluation d’impact sur la vie privée»,
une «évaluation d’impact social», une «évaluation d’impact éthique»
voire même un dispositif combiné «d’évaluation éthique, sociale
et des droits de l’homme».
Note Dans
le même ordre d’idées, les «
Principes
directeurs applicables aux études de l’impact des réformes économiques
sur les droits de l’homme» ont été présentés lors de la 40e session
du Conseil des droits de l’homme de l’ONU, le 28 février 2019. Le rapport
«
L’intelligence
artificielle dans la société» publié en 2019 par l’OCDE souligne également les avantages
de telles études d’impact, déclarant que «ces études, ou des processus
similaires, pourraient garantir le respect des droits humains dès
la conception de la technologie et tout au long de son cycle de
vie».
8 La
nécessité de promouvoir des politiques et des cadres en matière
de l’IA dans le domaine de la santé centrés sur l’être humain
67. En tant que rapporteure, je
suis frappée par la rapidité et l’ampleur des transformations que
les technologies de l’IA apportent à la médecine, avec leur lot
de défis pour nous tous – individuellement et collectivement. J’entends
par là, en particulier, le changement de paradigme qui s’opère dans
la santé, lequel se focalise sur la santé/le bien-être/la prévention
plutôt que sur la maladie et la thérapie, et sur la médecine de précision
répondant à des besoins individuels spécifiques au lieu de protocoles
thérapeutiques uniformisés. Cette approche fondée sur les besoins
devrait guider l’élaboration de politiques publiques relatives aux
soins de santé et donner des orientations pour les avancées technologiques,
afin de faire en sorte que des mécanismes reposant sur l’IA la plus
mature puissent être déployés en toute sécurité d’un point de vue
des droits humains et que les bénéfices issus de l’innovation soient
répartis équitablement. En tant que législateurs et «citoyens numériques»,
nous devons mieux comprendre les risques qui peuvent échapper au
contrôle humain et garantir l’équilibre des pouvoirs par le droit
afin de suivre le rythme des changements.
68. Suite à mes contacts avec d’autres rapporteurs de l’Assemblée
qui travaillent sur différents aspects de l’IA, je crois que l’Assemblée
devrait plaider pour une approche coordonnée et complémentaire des
États membres du Conseil de l’Europe afin que les besoins, les droits
et les libertés des personnes humaines soient au centre du débat
et que les multiples opportunités offertes par l’IA dans le domaine
de la santé puissent être pleinement exploitées tout en limitant
autant que possible les risques de dommages. Il est important que
nous puissions discuter et calibrer les garde‑fous indispensables
(concernant la protection des données de santé personnelles, le
consentement éclairé, la responsabilité des parties prenantes) pour
offrir une protection adéquate de la population et promouvoir l’innovation
et les synergies dans le secteur de la santé, avec une attention
accrue à la médecine préventive. Il est temps que le Conseil de
l’Europe commence l’élaboration d’un instrument juridique dédié
à l’IA tel qu’une convention ouverte aux Etats non-membres, en mettant
l’accent sur les incidences de l’IA sur les droits humains en général
et sur le droit à la santé en particulier.
