C Exposé des motifs
par M. Altunyaldiz, rapporteur
1 Introduction
1.1 Contexte
1. La proposition de résolution
(
Doc
14839) que j’ai déposée le 7 mars 2019 et sur laquelle se
fonde le présent rapport a été renvoyée en commission le 12 avril
2019. La commission m’a ensuite nommé rapporteur le 29 mai 2019.
La commission a procédé, lors de sa réunion des 14 et 15 novembre
2019 à Berlin, à une audition d’experts: Mme Theodora
Hamsen, ministère fédéral allemand des Transports et des Infrastructures numériques;
le professeur Sahin Albayrak, directeur exécutif du Distributed
Artificial Intelligence Lab (DAI-Lab), Berlin; et M. Connor Champ
de l’Équipe de droit public/véhicules automatisés, Commission du
droit, Londres. J’aimerais remercier chacun de ces trois experts
de leur contribution à l’élaboration du présent rapport. J’avais
l’intention d’effectuer une visite d’étude dans un centre de recherche
sur la technologie des véhicules autonomes, mais la pandémie de
covid-19 a malheureusement rendu ce projet impossible.
2. Les progrès techniques sont tels que la circulation de véhicules
semi-autonomes est déjà une réalité. Comme l’indique la proposition
de résolution, la circulation accrue de véhicules semi-autonomes
et la circulation prévue de véhicules totalement autonomes soulèvent
toutes deux des questions relatives à la responsabilité pénale et
civile, aux obligations des constructeurs et à la future réglementation
du transport automobile qui devront être traitées par les législateurs
nationaux des États membres du Conseil de l’Europe et d’autres pays.
À ces questions d’ordre juridique viennent se mêler un certain nombre
de considérations éthiques et de protection de la vie privée dont
il faudra également tenir compte.
3. La course au développement de véhicules de plus en plus autonomes
a causé son premier décès en mai 2016. Un conducteur circulant dans
une Tesla en mode pilotage automatique s’est encastré dans un grand camion
à 18 roues qui lui a coupé la route, car la voiture autonome n’avait
pas détecté la remorque blanche du camion en raison de la forte
luminosité ambiante. L’enquête menée par l’autorité américaine en
charge de la sécurité routière (National Highway Traffic Safety
Administration) a conclu que l’entreprise Tesla était dégagée de
toute responsabilité
Note.
Le premier piéton a été tué en mars 2018, lorsqu’une Volvo XC90
utilisée par Uber pour tester sa technologie de conduite autonome
a percuté une passante. La voiture avait détecté la piétonne, mais
son système de freinage d’urgence avait été désactivé. Le parquet
a conclu que la responsabilité pénale d’Uber n’était pas engagée.
Il n’est pas impossible en revanche que la conductrice de sécurité
présente dans le véhicule fasse l’objet de poursuites pénales
Note.
4. Les enjeux sont de plus en plus importants et la technologie
de la conduite assistée est en constante évolution. Toutefois, de
nombreux progrès technologiques et réglementaires restent à faire
avant que des véhicules entièrement autonomes ne soient commercialisés
et autorisés à rouler sur la voie publique. Le Conseil consultatif
européen chargé de la recherche sur les transports routiers (European
Road Transport Research Advisory Council – ERTRAC) prévoit que des
navettes et des autobus entièrement automatisés circuleront d’ici
2030 dans des conditions urbaines définies, tandis qu’il faudra
attendre après 2030 pour voir des voitures particulières entièrement
automatisées sur les routes
Note.
1.2 Principales
notions de l’automatisation des véhicules
5. Les véhicules équipés de systèmes
de conduite automatique sont généralement regroupés sous le terme
de «véhicules autonomes». Toutefois, pour bien appréhender l’ensemble
des enjeux éthiques et juridiques, il est important de bien distinguer
les différents niveaux d’autonomie de ces véhicules. SAE International
(anciennement
Society of Automotive Engineers)
a défini six niveaux d’automatisation de la conduite dans son référentiel
aux consommateurs J3016, une norme internationale désormais largement admise
Note.
6. L’échelle d’automatisation s’étend du niveau 0, où le véhicule
est entièrement piloté par l’homme, au niveau 5, où le véhicule
est totalement autonome en toute circonstance et où l’intervention
de l’homme n’est plus nécessaire. Entre ces deux classifications
se trouvent la conduite assistée, avec notamment la direction assistée
ou le système antiblocage de freins (niveau 1); l’automatisation
partielle, par exemple le système de freinage automatique pour détecter
et éviter les collisions imminentes (niveau 2); l’automatisation conditionnelle,
où le système va plus loin en appréhendant l’environnement du véhicule
et en déclenchant l’intervention du conducteur (niveau 3); et l’automatisation
élevée, où le système est capable de contrôler le véhicule, même
en l’absence de toute intervention humaine (niveau 4). Le terme
technique «véhicule semi-autonome» renvoie aux niveaux 3 et 4 d’automatisation.
Mon rapport porte principalement sur les véhicules semi-autonomes,
mais il évoquera aussi les questions juridiques que soulèvent les
véhicules totalement autonomes (niveau 5).
7. Actuellement, le niveau maximal d’automatisation des véhicules
accessible au public est le niveau 3. Ces véhicules sont capables
de détecter des objets dans leur environnement, mais nécessitent
encore une reprise en main par le conducteur. Le conducteur doit
rester alerte et reprendre le contrôle du véhicule si le système
n’est pas capable d’accomplir une tâche. Les technologies de niveau 4
existent sous forme de prototype et sont actuellement en phase de
test. Certains constructeurs affirment que leurs derniers modèles intègrent
déjà des technologies de niveau 4, bien que cette affirmation semble
reposer sur une interprétation généreuse de la définition et ne
soient pas admises par les experts indépendants
Note. Ces véhicules sont capables d’intervenir
en cas de défaillance du système et ne requièrent plus d’intervention
humaine dans la plupart des situations. Toutefois, le conducteur
peut à tout moment reprendre la main sur le véhicule. Ce type de
technologie est déjà utilisé à l’heure actuelle, mais uniquement
sur des itinéraires prédéfinis et dans des conditions bien spécifiques.
Par exemple, des navettes utilisant des technologies de niveau 4
circulent déjà dans certaines résidences pour retraités, campus
universitaires ou aéroports. La circulation de véhicules entièrement
automatisés (niveau 5) n’est pas possible actuellement.
2 Véhicules autonomes et intelligence
artificielle
8. Les véhicules autonomes modernes
sont entièrement dépendants des systèmes d'intelligence artificielle
(IA). Les systèmes sensoriels de pointe, notamment le LiDAR (Light
Detection And Ranging) et le radar, fournissent des informations
détaillées à 360° sur l'environnement opérationnel du véhicule.
Ces informations, ainsi que celles qui proviennent des systèmes
de positionnement par satellite et des cartes numériques embarquées,
doivent être traitées de manière à permettre au véhicule de définir
sa position, de planifier et suivre un itinéraire et de reconnaître,
en réagissant de manière appropriée, les différents types de marquages,
comme les panneaux de signalisation et les lignes au sol, et les
dangers qui se présentent, tels que les obstacles réels et même
ceux qui peuvent survenir sur le trajet du véhicule, notamment les
autres usagers de la route (véhicules motorisés, cyclistes et piétons).
Ce traitement est effectué par des algorithmes d'apprentissage automatique
de l’IA, formés par d'énormes ensembles de données antérieures et
qui affinent constamment leurs propres résultats grâce à une expérience
accrue de la réalité (y compris celle des autres véhicules qui utilisent
le même système). Dans le cadre de l'automatisation de niveau 3
et au-delà, le système d'IA a un contrôle total du véhicule pendant
au moins une partie du temps; les décisions qu'il prend peuvent littéralement
être une question de vie ou de mort (d’êtres humains). Comme nous
l’avons indiqué plus haut, des accidents mortels ont déjà eu lieu,
y compris au niveau 3 d'automatisation et lors des tests (théoriquement) supervisés
par l'homme des systèmes de niveau 4.
9. Le professeur Albayrak a souligné une différence importante
dans la manière dont les futurs systèmes de véhicules autonomes
pourraient être développés. Les projets les plus connus – Waymo
de Google ou Tesla, par exemple – concernent des véhicules «intelligents»
qui circulent sur des routes «stupides» et dépendent par conséquent
entièrement de leurs propres capacités de détection et de traitement
des données. Le professeur Albayrak élabore une approche différente,
où la technologie est intégrée non seulement au véhicule, mais aussi
à la route et à son infrastructure. Des caméras statiques et d'autres
capteurs surveillent la route elle-même et sa circulation; cette
infrastructure et les véhicules automatisés forment un système intégré
unique qui échange des données avec un système informatique central.
L'équipe de recherche du professeur Albayrak expérimente actuellement
les éléments de ce système sur une piste d'essai en situation réelle
dans le centre de Berlin. Les avantages de ce système intégré pour
la gestion globale de la circulation semblent évidents, en particulier
en cas de circulation urbaine dense, bien que le coût de ses infrastructures fixes
et son utilité relative puissent le rendre moins pertinent sur les
routes de campagne, par exemple. Cela dit, comme l'a souligné M. Champ,
on peut légitimement s’interroger également sur l'adéquation des
systèmes de niveau 4/5 pour la circulation sur petites routes rurales,
où les conditions de circulation sont très différentes et présentent
d’autres difficultés qu’en ville.
10. Les véhicules automatisés sont, en fait, des robots: une machine
essentiellement autonome, contrôlée par ordinateur, conçue pour
exercer une fonction particulière de manière autonome. Le fait de
confier à des robots la tâche de transporter des passagers sur le
réseau routier public a d'énormes conséquences en matière de sécurité.
En 2018, les routes des États membres de l'Union Européenne comptaient
268 millions de voitures, plus de 33 millions de camionnettes et
6,6 millions de camions
Note; plus de 25 000 personnes
ont trouvé la mort sur ces mêmes routes
Note.
La mise en circulation de véhicules automatisés conduit à charger
l'IA du contrôle de projectiles rapides qui transportent des passagers,
alors que cette situation peut présenter un risque grave pour les
passagers de ces véhicules et les autres usagers de la route. On
s'attend évidemment à ce que les véhicules automatisés soient plus
sûrs que les véhicules conduits par l’homme. Mais de nombreuses
mesures réglementaires et de précaution doivent être prises avant
que cette sécurité puisse être garantie. Du point de vue des droits
de l'homme, il sera donc essentiel de veiller à ce que les véhicules automatisés
et les systèmes d'IA qui les contrôlent soient réglementés de manière
à garantir le plein respect du droit à la vie, et notamment l’obligation
positive de prévenir les menaces prévisibles.
11. Le Conseil de l'Europe a déjà commencé à travailler sur les
questions de droit pénal relatives à l'application de l'IA dans
les systèmes de véhicules autonomes. Nous examinerons plus loin
et plus en détail ces travaux, qui se déroulent au sein de l’organe
intergouvernemental qu’est le Comité européen pour les problèmes
criminels (CDPC).
12. Parallèlement aux travaux du CDPC, en septembre 2019, le Comité
des Ministres a créé le Comité ad hoc sur l'intelligence artificielle
(CAHAI), autre organe intergouvernemental. Le CAHAI a été chargé
d'examiner la faisabilité et les éléments possibles d'un cadre juridique
applicable à la conception, au développement et à l'application
de l'intelligence artificielle. Ses travaux se fondent sur les normes
du Conseil de l'Europe en matière de démocratie, de droits de l'homme
et d’État de droit, ainsi que sur d'autres instruments juridiques internationaux
pertinents et sur les travaux en cours au sein d'autres organisations
internationales et régionales. Outre les participants habituels,
qui représentent les États membres et observateurs du Conseil de l'Europe
et d'autres organes du Conseil de l'Europe (y compris l'Assemblée),
le CAHAI bénéficie d'un niveau de participation exceptionnellement
élevé de représentants d'organismes du secteur privé, de la société
civile et d’établissements de recherche et universitaires.
13. Le CAHAI a tenu sa première réunion du 18 au 20 novembre 2019.
Il a notamment décidé que figurerait, parmi les éléments essentiels
de la future étude de faisabilité, une «cartographie des risques
et des opportunités découlant du développement, de la conception
et de l'application de l'intelligence artificielle, y compris l'impact
de cette dernière sur les droits de l'homme, l'État de droit et
la démocratie». Le CAHAI prévoit actuellement d'adopter l'étude
de faisabilité lors de sa troisième réunion, prévue en décembre
2020.
14. C'est dans ce contexte institutionnel que l'Assemblée débattra
du présent rapport et des divers autres rapports relatifs à l’IA
actuellement en préparation dans différentes commissions. L'Assemblée
a choisi d'aborder le sujet de manière contextuelle, en examinant
l'impact de l’IA dans divers domaines. La commission des questions
juridiques et des droits de l'homme, par exemple, a également consacré
des rapports à l'impact de l’IA sur la police et le système de justice
pénale, sur la technologie des interfaces cerveau-machine et sur les
systèmes d’armes létales autonomes (ce dernier se trouve aux premiers
stades de son élaboration). Les recommandations que l'Assemblée
pourrait adopter sur la base de ces rapports fourniront donc au
CAHAI des éléments d’orientation importants pour la cartographie
des risques et des opportunités de l’IA et de son impact sur les
droits de l'homme, l'État de droit et la démocratie, ainsi que pour
déterminer ensuite la nécessité d'un cadre juridique international
contraignant.
15. Il convient de noter que d’autres organisations internationales
réfléchissent également à la réglementation éthique et/ou juridique
de l’IA, dont les priorités et les approches varient en fonction
de leur point de vue institutionnel. En Europe, l’Union Européenne
a par exemple élaboré une Stratégie européenne de l’intelligence
artificielle, qui est mise en œuvre avec l’assistance d’un Groupe
d’experts de haut niveau sur l’intelligence artificielle; l’OCDE
a quant à elle adopté les Principes sur l’intelligence artificielle,
qui présentent une forte composante éthique.
16. En outre, des informations générales sur l’IA, notamment une
présentation et un examen des principes éthiques applicables sont
disponibles en annexe au présent rapport
3 Préoccupations
d’ordre éthique
17. L’introduction et la prolifération
éventuelle de véhicules semi-autonomes et autonomes soulèvent un certain
nombre de questions éthiques. Conduire ne se résume pas à suivre
le code de la route. Les conducteurs sont régulièrement appelés
à prendre, en fait, des décisions éthiques, en particulier dans
des situations de «choix forcé», comme certaines collisions inévitables
Note. La capacité décisionnelle et les fonctions de
la technologie augmentent avec le niveau d’automatisation. Les machines
seront programmées au moyen d’algorithmes sophistiqués de choix
forcé pour leur permettre de prendre des décisions éthiques, comme
celle de savoir s’il est préférable de percuter deux piétons ou
deux cyclistes. Les hypothèses éthiques inhérentes à de tels algorithmes
peuvent être problématiques. Il existe un débat autour de la définition
des critères de décision de ces algorithmes et de la question de
savoir si les gouvernements doivent réglementer ces critères pour
les uniformiser ou fixer une norme morale minimale. Plusieurs facteurs
pourraient entrer en ligne de compte en cas d’accident inévitable,
comme le nombre de personnes concernées, la gravité et la probabilité des
différents types de blessures, voire, éventuellement, des caractéristiques
personnelles telles que l’âge ou le handicap.
18. L’une des principales préoccupations éthiques en lien avec
le développement des technologies de conduite autonome est que,
d’un point de vue commercial, il peut être plus avantageux pour
les constructeurs de concevoir des véhicules qui privilégient la
sécurité de la voiture et de ses passagers, car les gens préféreront
acheter une voiture qui les protège. Or, d’un point de vue plus
généralement utilitaire, ce choix ne se traduira pas toujours par
la ligne de conduite la plus éthique. Il est nécessaire de trouver
le juste équilibre entre, d’une part, la liberté d’innover des constructeurs
et leur désir de réaliser des bénéfices commerciaux, et d’autre
part, les préoccupations générales en matière de sécurité publique.
19. D’un point de vue socioéconomique, l’accessibilité des technologies
de conduite autonome pose question. L’un des principaux avantages
du développement de véhicules autonomes devrait être la réduction du
nombre d’accidents de la circulation, puisque plus de 90 % des accidents
de la route sont imputables à une erreur humaine
Note.
Cette réduction devrait logiquement se traduire par une baisse des
primes d’assurance pour les propriétaires de véhicules semi-autonomes
et autonomes. À l’heure actuelle toutefois, ces nouvelles technologies
ne sont abordables que pour les membres les plus riches de la société,
ce qui signifie que les personnes issues de classes socioéconomiques
défavorisées sont plus susceptibles de conduire des voitures moins
sûres et de voir leur prime d’assurance augmenter, au moins relativement.
20. La pertinence et la signification des grands principes éthiques
applicables aux véhicules autonomes font l’objet d’un large consensus,
y compris au niveau international; mais la difficulté consistera
à assurer la traduction de ce consensus en une réglementation tout
aussi largement admise et mise en œuvre.
4 Les
questions de responsabilité
21. En cas de dommages causés par
un véhicule semi-autonome ou autonome, la question se pose inévitablement
de savoir qui peut être tenu pénalement ou civilement responsable,
et dans quelles circonstances. La réponse à cette question dépendra
invariablement du niveau d’automatisation de la conduite. En ce
qui concerne les véhicules de niveau 3 ou 4, le problème de la responsabilité
est particulièrement délicat pendant les phases de transition entre
le mode de conduite automatique et le mode manuel. Dans le cas des
véhicules de niveau 5, la question de savoir si la décision finale
de transférer ou de prendre le contrôle incombe au conducteur humain
ou à la machine peut aussi être source de litige.
4.1 Responsabilité
pénale
22. La difficulté de traiter le
«comportement criminel» d’éléments non humains est considérée par
le CDPC comme une préoccupation majeure du droit pénal moderne
Note. Lorsqu’une machine, et non
une personne, conduit une voiture, il existe un risque de voir émerger
un «vide de responsabilité». La notion de culpabilité intentionnelle
(ou
mens rea) est essentielle
dans les systèmes européens de droit pénal. Lorsqu’un accident implique
un véhicule semi-autonome, il peut être extrêmement difficile de
répartir la responsabilité entre le conducteur et le système automatisé.
À l’heure actuelle, dans la plupart des États européens, si un accident se
produit alors qu’une technologie de conduite assistée est utilisée,
le conducteur peut toujours être poursuivi pour négligence, car
il a l’obligation de contrôler le système. En l’absence de négligence
de la part du conducteur, le constructeur peut être tenu pénalement
responsable. Pour ce qui est des niveaux 3 et 4 d’automatisation,
la législation devra définir précisément, en se fondant sur les
principes énoncés au niveau international, la limite exacte entre,
d’une part, l’engagement de la responsabilité du conducteur humain
(et donc de son éventuelle responsabilité pénale) et, d’autre part,
son absence de responsabilité.
23. À l’avenir, si les technologies de niveau 5 arrivent sur le
marché, de nouveaux moyens d’établir la culpabilité (la responsabilité
pénale) devront être mis au point en droit de la procédure pénale,
éventuellement en même temps que la création de nouvelles infractions
en droit pénal général. Cette situation peut également conduire
à se demander si une entité non humaine, c’est-à-dire l’IA chargée
de la conduite du véhicule, devrait voir sa responsabilité pénale
engagée, peut-être au même titre qu’une entreprise dont la responsabilité
est engagée en sa qualité de «personne morale». Il est clair que
ce choix aurait de nouvelles conséquences théoriques et juridiques
extrêmement complexes.
24. Par ailleurs, toutes les questions relatives au droit pénal
et aux technologies de conduite autonome ne concernent pas uniquement
les accidents causés par ce type de véhicules. L’atténuation de
la responsabilité du conducteur pourrait également avoir une incidence
sur l’applicabilité d’autres infractions, comme la conduite en état
d’ébriété ou l’utilisation de téléphones portables au volant. À
cet égard, les différents niveaux d’automatisation de la conduite
rendent difficile l’élaboration d’un système complet de réglementation.
25. La Commission du droit britannique entreprend en ce moment
des travaux exploratoires détaillés sur les défis juridiques posés
par la mise en circulation de véhicules autonomes, et notamment
sur ses implications en matière de droit pénal. Dans le cadre d'une
série de consultations publiques, la Commission du droit a demandé
aux parties concernées de formuler leurs observations sur un large
éventail de questions et de propositions en vue d’une future réglementation
des véhicules autonomes. Ces travaux révèlent le large éventail
de défis nouveaux et parfois surprenants qui se posent en matière
de réglementation pénale des véhicules autonomes, par exemple
Note:
- Pour les niveaux d'automatisation
3 et 4, où subsiste un «utilisateur responsable» humain (pour reprendre
l'expression de la Commission du droit), le problème de la distraction
des conducteurs, qui les amène par voie de conséquence à ne pas
avoir conscience de la situation et à réagir avec un temps de retard,
est prévisible, mais la plupart des commentateurs pensent qu'il
ne devrait pas y avoir «d'assouplissement de la législation qui
vise à lutter contre la distraction au volant». Les constructeurs, cependant,
«sont favorables à l'idée d'autoriser [l’utilisateur responsable
à pratiquer] certaines activités autres que la conduite».
- En cas d'accident survenu alors que le système de véhicule
autonome était clairement en fonction, les assureurs auraient besoin
d'avoir accès aux données relatives à cet accident. En l'absence
de déclaration automatique des accidents (par le système de véhicule
autonome lui-même), on peut se demander si l'utilisateur responsable
ou le propriétaire assuré doit être tenu de déclarer l'accident
et, si tel est le cas, dans quel délai.
- Lorsque le système d’IA était en fonction au moment de
l’infraction au code de la route, la Commission du droit propose
que la police saisisse de ces questions une autorité de régulation
qui ait le pouvoir d'appliquer des sanctions réglementaires à «l’entité
du système de conduite automatisée» (une entité qui se désignera
elle-même et qui peut être, en pratique, l'organisme qui a soumis
le système de conduite automatisée à une approbation administrative,
par exemple le constructeur). Cette solution permettra de contourner
la question de savoir si une IA peut être visée par des dispositions
de droit pénal normalement applicables aux seuls êtres humains et
qui dépendent des notions d'autonomie personnelle et de responsabilité
morale.
- L’opinion est divisée sur la question des exceptions autorisées
aux règles de conduite normales: un véhicule automatisé ne doit-il
en aucun cas être autorisé à rouler sur le trottoir (par exemple
pour permettre le passage de véhicules d'urgence)? Ne doit-il en
aucun cas être autorisé à dépasser la limite de vitesse (les associations
de conducteurs pensent que cela pourrait être autorisé, jusqu'à
un certain point)? Enfin, pourrait-il être autorisé à avancer lentement
à travers une foule de piétons (la plupart des commentateurs estiment
que cette faculté ne devrait quasiment pas être autorisée; d’aucuns considèrent
qu’en pareil cas les véhicules autonomes seraient trop facilement
bloqués).
26. Le CDPC du Conseil de l'Europe réalise un projet pluriannuel
intitulé «Intelligence artificielle et responsabilité pénale dans
les États membres du Conseil de l'Europe – Le cas des véhicules
autonomes». Le document de réflexion
Note sur lequel repose ce projet
débute par des questions extrêmement pertinentes: «si un véhicule
totalement autonome blesse ou tue quelqu’un, qui sera responsable?
Et depuis que des algorithmes apprenants participent à la conduite,
cette question s’est élargie pour devenir la suivante: comment le
droit pénal doit-il aborder l’Intelligence Artificielle?». Il fait
ensuite observer que «le cadre juridique qui régit aujourd’hui le
développement et l’utilisation de véhicules autonomes (ou d’autres
applications de l’IA) repose sur des principes normatifs d’avant
l’ère du numérique. […] Il pourrait donc être important de fixer
des règles déterminant à l’avance les responsabilités pénales potentielles
pour veiller à ce que, lorsque par exemple des voitures entrent
en collision ou un drone s’écrase, aucun État ne se trouve confronté
à une situation juridique incertaine du fait de règles périmées
ou inadaptées. […] Sachant que les véhicules autonomes pourraient
être largement adoptés dans tous les États membres du Conseil de
l’Europe et au-delà, l’Organisation a un rôle à jouer dans le développement
général des principes accompagnant le déploiement de l’IA. […] Il
conviendra d’aborder plusieurs points, dont la question de savoir
comment les différentes approches des essais et des usages des véhicules
autonomes peuvent se traduire en «risques tolérables» non pénalisés
en droit interne (de même que les différents usages des technologies
embarquées), ou encore si un véhicule autonome pourrait en arriver
à répondre devant la loi en tant que personne électronique (à l’image
des entreprises en tant que personnes morales) ou si la justice
pénale doit être «réservée aux humains»».
4.2 Responsabilité
civile des dommages
27. En cas de dommages causés par
un véhicule semi-autonome ou autonome, la victime peut demander à
être indemnisée. En cas d’accident impliquant des véhicules classiques,
les dommages ou pertes sont généralement évalués au regard de la
responsabilité des usagers de la route impliqués. Il existe un régime
de responsabilité pour faute en vertu duquel la partie qui a enfreint
par négligence ou délibérément le code de la route est tenue d’indemniser
la partie qui a subi un dommage. Ce type de système permet de prévoir
une exception en cas d’absence de faute, lorsque le conducteur n’aurait
pas pu éviter l’accident. Pour les véhicules semi-autonomes, les
possibilités d’utilisation de cette exception sont plus nombreuses
dès lors qu’on peut soutenir que le système d’automatisation est
responsable des dommages. En outre, pour les véhicules totalement
autonomes, le système de responsabilité pour faute aurait pour effet
que l’utilisateur du véhicule ne serait jamais tenu d’indemniser
la partie ayant subi un dommage, puisqu’il ne contrôle absolument
pas le fonctionnement du véhicule.
28. Afin de garantir que les parties lésées puissent être indemnisées
pour leurs pertes, nombreux sont les partisans d’un système de responsabilité
objective. Ainsi, même en l’absence de preuve d’une faute, le propriétaire
ou l’utilisateur du véhicule serait automatiquement responsable
de tout dommage. Dans ce cas, l’existence d’une technologie de conduite
automatisée n’affecterait pas la responsabilité du propriétaire.
En vertu d’un tel système, le constructeur pourrait être tenu de
payer une partie de la prime d’assurance de chaque véhicule, tout
en limitant sa responsabilité du fait de ses produits. Une autre
alternative serait un système d’assurance au premier tiers dans
le cadre duquel les victimes de chaque véhicule seraient indemnisées
directement par l’assureur de ce véhicule, tandis que les usagers
de la route non motorisés (piétons, cyclistes, etc.) seraient toujours
protégés par la responsabilité civile. Dans ce système, les dommages
causés par la technologie de conduite assistée seraient automatiquement
indemnisés par l’assureur du véhicule impliqué.
29. La pertinence de ces différents régimes dépendra du niveau
d’automatisation des véhicules. Elle indiquera dans quelle mesure
on peut raisonnablement s’attendre à ce que le conducteur et l’assureur assument
la responsabilité des dommages causés, selon le degré de contrôle
que le conducteur a exercé, ou aurait dû exercer, sur le comportement
du véhicule. Au Royaume-Uni, la loi sur les véhicules automatisés
et électriques (
Automated and Electric
Vehicles Act 2018) est un exemple de bonne pratique dans
ce domaine et comprend une liste complète clarifiant la responsabilité
des propriétaires de véhicules et des assureurs en cas d’accident
dans un large éventail de circonstances
Note.
4.3 Responsabilité
du fait des produits
30. Étant donné que le conducteur
a moins de contrôle sur le comportement d’un véhicule semi-autonome que
sur un véhicule classique, les dommages sont généralement imputables
au constructeur, qui peut alors être poursuivi en justice sur la
base de la responsabilité du fait des produits. Toutefois, la technologie
de la conduite automatisée soulève un certain nombre de préoccupations
spécifiques par rapport aux règles actuelles de la responsabilité
du fait des produits.
31. La présentation des véhicules semi-autonomes a déjà donné
lieu à des problèmes de pratiques commerciales trompeuses. Par exemple,
le système de conduite assistée Pilot Assist de Volvo avait d’abord été
présenté dans la partie «conduite autonome» du site internet de
l’entreprise, alors que les conducteurs étaient tenus de garder
leurs mains sur le volant à tout moment. De telles erreurs peuvent
tromper les clients qui ne comprennent pas la complexité de cette
nouvelle technologie et les constructeurs pourraient être tenus responsables
de tout dommage causé par le fait que ces conducteurs s’appuient
sur l’affirmation que les véhicules sont «autonomes». Les constructeurs
ne sont responsables que des produits jugés défectueux dans les
limites de leur usage raisonnable attendu. Par conséquent, il est
nécessaire d’intégrer les facteurs humains dans la mise à l’essai
des technologies de conduite assistée, car certains types de comportements
négligents sont dans une certaine mesure prévisibles, même avec
les nouvelles technologies. Les constructeurs peuvent être tenus
responsables des dommages causés par un produit dès lors qu’il aurait
dû être adapté à d’autres modèles disponibles au moment de sa commercialisation.
Inversement, le moyen de défense fondé sur le «risque de développement»
signifie que le constructeur ne peut être tenu responsable si le
défaut ne pouvait pas être connu au moment de sa mise en circulation,
compte tenu de l’état des connaissances techniques à l’époque. Au
vu de la rapidité d’évolution des technologies de conduite assistée,
il est donc possible que les consommateurs aient à supporter le
poids d’un certain nombre de risques encore inconnus sur le plan scientifique.
32. En outre, la charge de la preuve dans les affaires de responsabilité
du fait des produits incombe normalement à la partie lésée. Cependant,
la complexité des technologies de conduite assistée rend incroyablement
difficile pour une personne ou un assureur le fait de prouver qu’une
faute technique est à l’origine d’un accident. Cela risquerait de
faire peser une charge excessive sur le consommateur. De même, la
mesure dans laquelle le constructeur peut être tenu pénalement ou
civilement responsable à l’égard des victimes d’accidents pourrait
avoir une incidence sur sa responsabilité envers le consommateur
pour lui avoir vendu un produit défectueux, conformément au principe ne bis in idem.
4.4 Préoccupations
relatives à l’assurance
33. L’assurance automobile étant
obligatoire, les assureurs sont des acteurs clés du développement
des technologies de conduite assistée. Ils ont le pouvoir de décider
d’assurer ou non les véhicules semi-autonomes et autonomes et de
déterminer ainsi leur viabilité commerciale. Actuellement, les assureurs
se trouvent dans une position difficile pour fixer le montant des
primes pour les conducteurs de véhicules semi-autonomes, car bien
que ces véhicules soient conçus pour être plus sûrs que les véhicules
classiques, le lancement de cette technologie s’accompagne inévitablement
de nouveaux risques et dangers. À long terme toutefois, les primes moyennes
devraient diminuer grâce à la réduction du risque d’accident.
34. L’un des moyens dont disposent les assureurs pour régler certains
des problèmes liés à la fixation des primes et à la responsabilité
consiste à utiliser des systèmes PAYD (
pay
as you drive, que l’on peut traduire par «payez en fonction
de votre conduite») et des boîtes noires. Le système PAYD est un
modèle d’assurance qui utilise des systèmes télématiques pour calculer
les primes en fonction du comportement de chaque conducteur, et
qui pourrait être utilisé pour déterminer sa responsabilité. Cette
technologie pourrait être utilisée pour surveiller l’intérieur du
véhicule et s’assurer que le conducteur est toujours attentif, même
lorsqu’il utilise la technologie de conduite assistée. Les systèmes
PAYD sont considérés comme plus équitables, car les utilisateurs
paient une prime d’assurance en fonction de leur propre mode de
conduite, et des études ont montré qu’ils pouvaient avoir un effet
positif sur le comportement des conducteurs
Note. Toutefois, ce
type de surveillance accrue des consommateurs suscite par ailleurs
des préoccupations en matière de sécurité et de protection de la
vie privée.
5 Les
questions de protection de la vie privée et de cybersécurité
35. Les véhicules semi-autonomes
et autonomes fonctionnent à l’aide de communications de véhicule
à véhicule et de véhicule à infrastructure, de capteurs et de cartes
haute définition. Ces technologies leur permettent d’apprendre à
partir des autres véhicules et de maximiser la sécurité. Cependant,
toutes ces informations constituent aussi une importante collecte
de données à caractère personnel, notamment des données relatives
à la localisation d’un véhicule, ainsi qu’à celles de son conducteur
et de ses passagers. L’insertion, dans les systèmes de sécurité
et autres des véhicules, de caractéristiques biométriques comme
la reconnaissance des empreintes digitales, du visage et de l’iris,
suppose également le traitement et la conservation de données à
caractère personnel sensibles. Plusieurs questions demeurent sans
réponse au sujet des systèmes d’information utilisés dans les véhicules
semi-autonomes, par exemple: quels types de renseignements sont
recueillis et pourquoi; qui contrôle ces informations et qui y a
accès; et pendant combien de temps sont-elles conservées? Les données
enregistrées par les véhicules autonomes avant et pendant les accidents
devraient-elles être automatiquement partagées, non seulement avec
le système central, mais aussi avec les compagnies d'assurance,
ou avec la police et d'autres organismes de régulation ou de contrôle?
Au sein de l’Union Européenne (UE), le Règlement général sur la
protection des données (RGPD) est pertinent en la matière
Note. Cette réglementation
s’applique à toutes les entreprises qui traitent des données provenant de
sujets résidant dans l’UE, quel que soit l’endroit où se trouve
l’entreprise. Il convient de trouver le juste équilibre entre la
promotion de l’innovation et la protection de la vie privée des
personnes. Une réglementation effective de la protection des données,
qui soit également adaptée aux véhicules autonomes ou semi-autonomes
connectés, représentera une part importante et indispensable de
la réglementation globale des véhicules autonomes.
36. Le fait de charger un ordinateur de la conduite d’un véhicule
de passagers suscite par ailleurs des préoccupations en matière
de cybersécurité. Les pirates informatiques pourraient prendre le
contrôle d’un véhicule par le biais de réseaux sans fil (comme Bluetooth),
de systèmes d’accès sans clé, de connexions cellulaires ou autres.
Les risques de piratage informatique seraient particulièrement élevés
pour un véhicule de niveau 5 où le conducteur humain – plutôt un
passager dans ce cas – n’est pas tenu d’intervenir dans les tâches
de conduite ni de les contrôler. En outre, les données piratées
auraient une valeur financière et pourraient être vendues à des
tiers. Ainsi, la sécurisation des systèmes d’information utilisés
dans la technologie de la conduite assistée doit être une priorité.
6 La
réglementation actuelle en Europe
37. Les États membres du Conseil
de l’Europe ont chacun leur propre régime de réglementation des véhicules
autonomes et semi-autonomes. De nombreux pays, comme l’Allemagne
et le Royaume-Uni, ont établi une législation particulière pour
les technologies de conduite assistée, tandis que d’autres appliquent
aux véhicules semi-autonomes la même législation que pour les véhicules
classiques. Néanmoins, il existe un certain nombre d’instruments
internationaux et régionaux pertinents en la matière. Concernant
la spécification des exigences de sécurité des véhicules, on peut
faire valoir que l’importance relative des législations nationales
spécifiques diminue rapidement, en particulier dans les États membres
de l’UE.
38. Comme l'a souligné M. Champ, il existe déjà «une abondante
législation» applicable aux véhicules routiers qui émane de différents
niveaux de compétence. Cette législation vise une foule de questions, notamment
les assurances, la responsabilité du fait des produits, les normes
internationales applicables aux véhicules, la responsabilité pénale
pour les infractions au code de la route, les sanctions civiles
pour les infractions au code de la route, les normes et procédures
de contrôle technique, les normes d'information des consommateurs
et de commercialisation, les permis de conduire, les procédures
d'enquête sur les accidents, la réglementation en matière de protection
des données, la réglementation des marchés des taxis et de la location
privée, la réglementation des véhicules de service public, les règles
générales de circulation (code de la route), etc. Cette législation
a été élaborée pour des véhicules non autonomes, ou tout au plus
pour les véhicules dotés de certaines fonctions d'assistance au
conducteur, mais dont un être humain responsable conserve constamment
la maîtrise. Cette distinction entre le conducteur et le véhicule
est en train de disparaître et les nouvelles législations et réglementations
devront définir si la garantie de la sécurité de la conduite automatisée
doit privilégier le conducteur ou le véhicule. Dans certains cas,
la technologie résoudra elle-même en grande partie ce dilemme, notamment
lorsqu'il s'agira de véhicules totalement autonomes, sans utilisateur
responsable (ou tout au plus suivis à distance par un superviseur
capable de prendre des décisions dans des circonstances exceptionnelles).
39. Au niveau international, la Convention de Vienne sur la circulation
routière de 1968 traite des règles générales de circulation routière.
Elle a été signée et ratifiée par 38 États membres du Conseil de
l’Europe
Note. L’article 8.5 et l’article 13
prévoient que tous les conducteurs doivent être constamment en mesure
de contrôler leur véhicule. En 2016, un nouveau paragraphe a été
ajouté à l’article 8 de cette convention pour les véhicules automatisés
Note.
En conséquence, les véhicules autonomes et semi-autonomes seront
considérés comme conformes à la Convention à condition que le système
puisse être neutralisé par le conducteur ou qu’il satisfasse aux
prescriptions de l’Accord de 1958 de la Commission économique pour
l’Europe des Nations Unies (CEE-ONU) et de l’Accord de 1998 sur
les Règlements techniques mondiaux (RTM).
40. L’Accord de 1958 de la CEE-ONU a été établi pour faciliter
l’adoption de conditions uniformes d’homologation des équipements
et pièces automobiles en Europe. L’Accord de 1998 sur les RTM a
été conçu pour créer un processus mondial pour ce type d’homologation
applicable à tous les pays dans toutes les régions du monde. Une
directive a été adoptée au niveau de l’UE pour garantir qu’une fois
les véhicules ou les composants de véhicules homologués dans un
État membre, ils ne puissent être exclus des marchés des autres
États, à moins qu’il soit suffisamment démontré qu’ils constitueraient
une menace sérieuse pour la sécurité routière
Note. Cette Directive s’appuie
largement sur la réglementation de la CEE-ONU pour les règles de
sécurité des véhicules.
41. En 2018, la CEE-ONU a mis en place un Groupe de travail des
véhicules automatisés, autonomes et connectés (GRVA). Ce groupe
de travail contribue à mobiliser l’expertise d’industries clés et
de la société civile pour concrétiser la vision d’une nouvelle mobilité
durable et favoriser l’introduction massive de véhicules autonomes
sur les routes. Il existe également un certain nombre de groupes
de travail informels sur des questions spécifiques de sécurité des
véhicules. Le groupe de travail informel sur la fonction de direction
à commande automatique (ACSF) a proposé des amendements au Règlement
no 79 de la CEE-ONU, afin d’y insérer
des dispositions sur la technologie ACSF
Note. Les amendements adoptés prévoient notamment
qu’en cas d’intervention de l’ACSF, le conducteur doit pouvoir prendre
le contrôle du véhicule en moins de quatre secondes; la prise de
contrôle manuel doit être immédiate et le véhicule doit être en
mesure de rester sur sa voie, maintenir une certaine distance et
gérer les situations de choc arrière sur autoroute.
42. L’UE a également adopté des instruments qui réglementent l’appropriation
des risques liés à l’utilisation des véhicules à moteur. Les deux
principaux textes législatifs qui régissent la responsabilité sont
la Directive sur l’assurance automobile et la Directive sur la responsabilité
du fait des produits
Note. Les règles matérielles
en matière de responsabilité pour les dommages résultant d’accidents
impliquant des véhicules à moteur ne sont pas harmonisées au niveau
de l’UE. La Directive sur l’assurance automobile ne prescrit qu’une
assurance responsabilité civile minimale. Les véhicules autonomes
répondent à la définition de «véhicule» énoncée à l’article 1 de
cette directive et sont donc automatiquement visés par ses dispositions
Note.
La Directive sur la responsabilité du fait des produits établit
des règles relatives à la responsabilité des producteurs et aux
droits des consommateurs. Elle est fondée sur un régime de responsabilité
sans faute, ce qui signifie que le fabricant d’un produit défectueux
doit indemniser les dommages corporels causés par son produit, indépendamment
de la négligence d’une personne
Note. La présentation du produit, son
usage raisonnablement attendu et le moment où il a été mis sur le
marché sont autant d’éléments décisifs pour déterminer s’il est
«défectueux»
Note. Il existe une liste
limitée de dérogations permettant l’exonération de la responsabilité
du fait des produits
Note. Toutefois, cette directive
prend uniquement en compte la responsabilité des producteurs de
produits défectueux, ce qui peut ne pas être suffisant pour aborder
la responsabilité d’un fabricant pour les dommages causés par des véhicules
autonomes et semi-autonomes. En outre, dans le cadre de ce régime,
le coût des risques scientifiquement inconnus serait pris en charge
par la partie lésée.
43. Mme Hamsen nous a expliqué l'approche
de la réglementation des véhicules autonomes adoptée par les autorités
en Allemagne, le pays européen qui possède le plus grand secteur
de construction automobile. Depuis 2017, la législation en matière
de sécurité routière autorise l’automatisation jusqu'au niveau 3,
qui, dans certains cas, ne nécessite pas l'intervention du conducteur.
Cette législation a été bénéfique pour l'industrie automobile, car
elle a apporté clarté et sécurité aux investissements. Elle indique
clairement quand le conducteur humain peut être soumis à l’obligation
«adaptée» de faire attention à la circulation et à quelles conditions
préalables. Si les conditions ne sont pas remplies, le conducteur
reste responsable en cas d'accident. Parmi ces conditions techniques
préalables figure l’existence d’un système capable de respecter les
règles et la réglementation habituelle en matière de circulation
qu'un conducteur humain est tenu d’observer. Ce système doit être
décrit dans la réglementation internationale applicable en Allemagne
ou une demande d'exemption de la législation européenne doit être
déposée. Il n'existe pas encore de réglementation internationale
relative aux systèmes de véhicule autonome; le GRVA (voir ci-dessus)
devrait faire des propositions mais, selon Mme Hamsen,
il n'achèvera probablement pas ses travaux avant l'année prochaine. Si
la description technique du système par le constructeur indique
que le véhicule est équipé d'un système d'automatisation de niveau
3 et qu'il est en mesure de respecter le code de la route, son conducteur
est autorisé à céder le contrôle de la voiture au système de véhicule
autonome, bien que le conducteur doive toujours être en mesure de
surveiller la situation et de reprendre le contrôle si les conditions
préalables qui permettent de faire confiance au système de véhicule
autonome ne sont plus remplies.
7 Conclusions
et recommandations
44. La circulation des véhicules
semi-autonomes devrait fortement s’intensifier dans les années à
venir, à mesure que la technologie deviendra plus avancée et plus
fiable. D’aucuns pensent même qu’un véhicule entièrement autonome
pourrait être élaboré au cours de la prochaine décennie. Ces véhicules
ont la capacité de transformer la mobilité individuelle et d’améliorer
radicalement la sécurité routière. À ce stade, il sera techniquement
possible de créer des véhicules autonomes qui ne seront jamais «responsables»
en cas d’accident (sauf en cas de dysfonctionnement) et qui seront
même capables d’éviter la plupart, voire la totalité, des collisions
dont la «faute» reviendrait à un autre véhicule (ou à son conducteur),
à un piéton ou à un cycliste. Dans un monde où toutes les voitures
ne seront pas autonomes, les véhicules autonomes programmés pour éviter
toute collision ne pourront pas se déplacer très vite. En effet,
leur trajet sera régulièrement interrompu par des véhicules non
autonomes, sous le contrôle de conducteurs humains moins prudents.
Afin de donner des orientations et d’assurer une certaine sécurité
juridique aux ingénieurs, le législateur devra définir où «placer
le curseur»: les voitures autonomes devront-elles être programmées
en partant de l’hypothèse que les autres usagers de la route respecteront
aussi le code de la route? Qu’en est-il des enfants? Enfin et surtout, lorsque
les voitures autonomes seront beaucoup plus sûres que le meilleur,
le plus attentif et le plus irréprochable des conducteurs humains,
le législateur devra-t-il interdire les véhicules non autonomes?
Aura-t-il même l’obligation positive de le faire, afin de protéger
le droit à la vie en vertu de l’article 2 de la Convention européenne
des droits de l’homme (STE no 5)?
45. Comme les véhicules franchissent régulièrement les frontières,
la future réglementation des véhicules autonomes devrait être élaborée
dans une perspective globale. Il importe que celle-ci tienne compte
des points de vue de l’ensemble des régions et des travaux entrepris
à ce sujet dans le monde entier, en fonction de contextes différents.
Les divers organes internationaux, qui travaillent chacun dans leur
domaine de spécialisation, devraient tenir compte de leurs activités
réciproques, de manière à garantir l’obtention d’un résultat global
harmonieux et complet. Les organes qui se consacrent tout spécialement
à la réglementation des véhicules autonomes devraient accorder une
attention particulière aux principes réglementaires généraux et
aux cadres juridiques élaborés pour l’IA; il importe par ailleurs
qu’ils procèdent à une évaluation spécifique de l’impact sur les
droits de l’homme de la technologie des véhicules autonomes, afin
d’anticiper les problèmes qui pourraient survenir.
46. Le Conseil de l'Europe est déjà attentif aux aspects de la
conduite autonome qui relèvent de son mandat institutionnel. En
privilégiant les aspects de droit pénal des véhicules autonomes
en particulier et l'impact de l’IA sur les droits de l'homme en
général, l'Organisation fait valoir ses atouts et peut apporter
une contribution importante au débat en cours. L'un des objectifs
de mon rapport est d'alimenter ce processus. Je propose donc que
l'Assemblée souligne que le développement et la mise en œuvre de
véhicules autonomes sont autant de domaines dans lesquels les systèmes
d’IA peuvent avoir un impact particulier sur les droits de l'homme
et les sociétés démocratiques. Le CAHAI devrait en tenir compte
lorsqu’il recensera les risques et les opportunités de l’IA et se
prononcera sur la nécessité d'un cadre juridique contraignant pour
réglementer son développement et son fonctionnement.
47. Les projets de résolution et de recommandation ci-joints comportent
des recommandations supplémentaires.
