La robotique et l’intelligence artificielle promettent une grande efficacité et des économies conséquentes, particulièrement dans le domaine du transport comme en témoigne le développement de voitures connectées. Ces dernières ne sont plus vraiment des véhicules, mais davantage des plateformes numériques qui concentrent un ensemble d’objets embarqués offrant un accès à Internet (la voiture autonome n’en étant que l’étape ultime). Le cœur de la voiture n’est ainsi plus son moteur mais son système de communication.
Dans son rapport du 9 juin 2016, l’entreprise américaine IHS Automotive a revu à la hausse les prévisions de ventes de véhicules autonomes sur les vingt prochaines années en estimant le nombre total de voitures autonomes commercialisées d’ici 2035 à 76 millions. Face à l’enjeu économique de ce nouveau marché, de nombreux pays multiplient les initiatives pour favoriser et accompagner le déploiement des voitures autonomes au niveau local.
Toutefois, le développement de ce nouveau mode de transport pose un certain nombre de questions juridiques dont doivent se saisir l’ensemble des parties prenantes, afin de garantir le meilleur niveau possible de sécurité des usagers. Le fonctionnement du système ne doit ainsi pas porter atteinte à leurs droits fondamentaux (liberté d’aller et venir anonymement, respect des données personnelles et de la vie privée). Par ailleurs, l’application complexe des règles de la responsabilité ne doit pas priver les conducteurs de toute protection.
Le droit ne doit pas ici être vu comme un frein à l’innovation, mais comme porteur de certaines valeurs sociales et garant de la meilleure protection des intérêts de tous.
1- Quelle protection des données des conducteurs ?
« Demain, il [le numérique] va changer l’économie de l’automobile, car celui qui maîtrisera les données d’une voiture pourra créer une valeur économique et une valeur d’usage, pour l’assurance, pour l’aide à la conduite, pour le confort des occupants. Google ne s’y est d’ailleurs pas trompé. »[1]
Comme pour l’IoT de manière générale, les voitures connectées soulèvent des questions en termes de protection des données des usagers, appelant une définition claire du cadre applicable pour les acteurs du secteur afin de concilier innovation et sécurité, cela dans l’intérêt tant des usagers que de l’industrie. Le numérique doit, ici encore, être un espace de confiance afin d’assurer son bon déploiement.
- Respecter la législation relative aux données personnelles des conducteurs
Dès lors que ces systèmes permettent, et souvent nécessitent, le traitement de données, ils doivent satisfaire aux exigences juridiques en matière de données personnelles et de vie privée.
La notion de donnée à caractère personnel (DCP) peut être définie largement comme permettant, directement ou indirectement, l’identification d’une personne.
« Constitue une donnée à caractère personnel toute information relative à une personne physique identifiée ou qui peut être identifiée, directement ou indirectement, par référence à un numéro d’identification ou à un ou plusieurs éléments qui lui sont propres. Pour déterminer si une personne est identifiable, il convient de considérer l’ensemble des moyens en vue de permettre son identification dont dispose ou auxquels peut avoir accès le responsable du traitement ou toute autre personne. » (Art. 2 Loi du 6 janvier 1978)
Ainsi, deux éléments permettent de caractériser la DCP : la possibilité d’identifier une personne et celle de profiler des attributs la concernant (sexe, âge, données biométriques, etc.) ; et même des données non identifiantes considérées individuellement peuvent conduire à l’identification de la personne par recoupement. Des données caractérisant l’activité de conduite sont donc, par exemple, des DCP (où vais-je ? Comment je conduis ? Etc.). La géolocalisation est ainsi une donnée indirectement identifiante et de plus en plus sensible[2].
La protection des données personnelles a valeur de droit fondamental depuis le Traité de Lisbonne (2009), qui reconnaît les droits, libertés et principes énoncés dans la Charte européenne des droits fondamentaux de 2000 (TFUE, article 16 ; Charte, articles 7 et 8). En ce qui concerne l’Europe des Droits de l’Homme, l’article 8 de la CEDH et la convention du 28 janvier 1981 garantissent la protection de la vie privée et des DCP. En France, l’article 9 du Code civil se fait garant de la vie privée des individus (dont découle la protection des données personnelles), assurée au plus haut niveau des textes par l’article 2 de la Déclaration de 1789.
En conséquence, l’ensemble des textes juridiques encadrant le traitement des données personnelles ont vocation à s’appliquer aux voitures connectées, soumettant à des obligations strictes les constructeurs et autres tiers intervenant au sein de ce nouvel écosystème.
La loi « Informatique et Libertés » du 6 janvier 1978 ainsi que la Directive 95/46/CE du 24 octobre 1995 imposent le respect de grands principes pour les responsables de traitement de données personnelles, dont en particulier :
- le principe de consentement préalable : le responsable doit, sauf exception, recevoir le consentement des personnes concernées par un traitement de données personnelles, et leur permettre d’exercer pleinement leurs droits. Pour cela, il doit leur communiquer la finalité de son traitement et ses modalités (transparence). Cette information doit être complète, précise et accessible.
- le principe de nécessité: les données doivent être adéquates et pertinentes.
- le principe de proportionnalité: la collecte doit être loyale et légitime, les données doivent être pertinentes et non excessives au regard des finalités poursuivies. Par ailleurs, leur conservation ne peut être infinie.
Ainsi, le système e-call (système d’alerte d’urgence embarqué) a par exemple fait l’objet d’un examen par la CNIL, qui ne l’a validé qu’après avoir précisé que ces dispositifs ne doivent pas permettre une traçabilité constante des véhicules.
Le cadre juridique applicable aux données personnelles va, en outre, être renforcé et modernisé avec le nouveau règlement européen sur la protection des données personnelles, paru au journal officiel de l’Union européenne le 4 mai 2016, et qui entrera en vigueur en 2018. Celui-ci vise à davantage responsabiliser les entreprises, tout en modernisant le cadre juridique afin de l’adapter à l’univers numérique. Les nouvelles exigences ont pleinement vocation à s’appliquer aux voitures connectées, notamment le respect du fameux principe de privacy by design, c’est-à-dire de protection de la vie privée dès la conception, ainsi que de celui de security by default.
Afin d’apporter plus de clarté, la CNIL a lancé des travaux, en mai dernier, afin d’établir un pack de conformité consacré aux véhicules connectés. Ce pack proposera des lignes directrices, pour une utilisation responsable des données dans les prochaines générations de voitures.
- Sécuriser les systèmes connectés pour éviter les risques
Comme le relève Michèle Guilbot, Directrice de recherche spécialisée à l’IFSTTAR, « le véhicule connecté est un système ouvert aux risques numériques ». La sécurisation est donc justifiée par deux objectifs : le droit à ne pas être reconnu, lorsque ce n’est pas nécessaire, par des personnes qui ne sont pas légitimes à connaître des données personnelles. Le second concerne la prévention des intrusions par des personnes non autorisées, et surtout des intrusions malveillantes qui pourraient avoir des conséquences en termes de risques d’accident.
En effet, des expériences menées aux Etats-Unis ont montré la possibilité de pirater les systèmes de sécurité des véhicules connectés équipés d’aides à la conduite. De nombreuses sources d’intrusion sont possibles : le système de RFID de surveillance de pression des pneus, le système antivol d’immobilisation à distance des véhicules ou, plus simplement, le téléphone mobile associé par Bluetooth au tableau de bord du véhicule. Tous ces vecteurs de transmission de données fragilisent le fonctionnement des systèmes.
Aux Etats-Unis, le Federal Bureau of Investigation and the National Highway Transportation Safety Administration (NHTSA) avait publié un rapport en mars dernier, qui alertait que ces véhicules motorisés seraient « de plus en plus vulnérables » aux cyber-attaques. Récemment, le Département de la Justice a d’ailleurs décidé de former une équipe d’analystes pour étudier les dangers potentiels des voitures autonomes, des appareils médicaux et autres objets connectés pour la sécurité nationale.
En réponse à ces risques, il convient en premier lieu d’anonymiser les données afin de rendre irréversible la possibilité d’identification des personnes (cryptage, déconnexion, effacement…).
« Il faut pouvoir anonymiser l’identité du véhicule tout en pouvant l’identifier à coup sûr sur le réseau de confiance », résume Coralie Héritier, Directrice générale de IDnomic. « Toute la difficulté est de pouvoir reconnaître le véhicule, sans pour autant faire le lien avec son conducteur ni suivre ses déplacements. Nous avons ainsi conçu le concept de pseudonymisation : il faut anonymiser le véhicule et protéger la vie privée du conducteur, et en même temps avoir la capacité technique de lever cette anonymisation, en cas de vol et sur demande judiciaire par exemple. »
Pour ce faire, l’idée paraît simple : « Des certificats électroniques sont émis en permanence afin de masquer les trajets du véhicule au fil de la journée. En revanche, le conducteur ne pourra pas s’opposer à la transmission des données jugées vitales pour sa sécurité et celle des autres. Il en va ainsi de la navigation car il est impératif que le réseau connaisse à tout moment la vitesse et la position relative de chaque véhicule. »
Par ailleurs, la sécurité des serveurs, des réseaux et des terminaux (capteurs, systèmes embarqués) doit être la plus fiable possible afin d’éviter toute intrusion de tiers non autorisés dans les données. Le minimum en la matière est de protéger les objets connectés par des login et mots de passe. Les contrats entre les différents intervenants (en particulier avec les hébergeurs) doivent également garantir la confidentialité et la sécurité des données. Des solutions techniques peuvent aussi être proposées par les concepteurs de logiciels anti-virus.
Surtout, il faut s’assurer du respect des réglementations et des recommandations relatives à la sécurité des systèmes d’information. Le cadre français est ici développé avec notamment l’existence d’un référentiel général de sécurité (RCS), de normes ISO pour définir les bonnes pratiques ou encore l’intervention de l’ANNSSI.
Toutefois, ce cadre est encore en construction et en passe d’évoluer pour ce qui est des véhicules connectés. Certains acteurs sont déjà actifs sur ces sujets, à l’image du groupe PSA qui s’est associé à Renault, à l’équipementier Valeo, à l’éditeur de logiciels Trialogue, au conseil en sécurité des systèmes d’information Oppida, et à l’Institut Mines Telecoms pour travailler avec l’Institut de Recherches Technologiques (IRT) à la réalisation d’un démonstrateur virtuel. Objectif, établir des standards de sécurité dans l’espoir d’une standardisation précoce au sein de toute l’industrie.
Au niveau européen, la nouvelle directive NIS (Network and Information Security), adoptée le 6 juillet 2016 par le Parlement européen et le Conseil, pourra également servir (les États membres ont jusqu’au 9 mai 2018 pour la transposer dans leur droit national). Pour rappel, l’objectif de ce texte est d’établir des mesures harmonisées visant à assurer dans l’Union un niveau élevé et commun de sécurité des réseaux et des systèmes d’information.
2- Quel régime de responsabilité applicable aux voitures autonomes ?
Alors que la voiture autonome de Google a eu son premier accident responsable en février dernier, la question de la responsabilité applicable aux accidents provoqués par ces nouveaux objets se pose avec acuité.
En vertu du cadre juridique actuel, les robots, et notamment les voitures autonomes, ne peuvent être tenus responsables de leurs actes ou de leur inaction en cas de dommages causés à des tiers, les règles en vigueur en matière de responsabilité couvrant uniquement les cas où la cause de l’action ou de l’inaction du robot peut être identifiée comme imputable à un acteur précis, et où cet acteur pourrait avoir prévu et donc évité le comportement dommageable du robot.
S’il n’y a pas lieu de s’attarder sur la responsabilité contractuelle que le fabriquant ou le vendeur d’une voiture autonome est susceptible d’engager vis-à-vis de l’acheteur, le panel d’actions prévues par le Code civil y pourvoyant sans acclimatation particulière, il n’y aurait finalement que la responsabilité délictuelle qui pourrait être affectée par l’autonomie du robot et ses facultés cognitives. Sur le plan délictuel, plusieurs régimes de responsabilité seraient susceptibles de s’appliquer aujourd’hui, la responsabilité du fait des accidents de la circulation d’une part, la responsabilité du fait des choses d’autre part, mais aussi la responsabilité du fait des produits défectueux.
Néanmoins, l’application de ces différents régimes à la voiture autonome n’emporte pas une entière satisfaction puisqu’ils n’appréhendent pas véritablement le caractère autonome de l’objet ainsi que sa capacité d’interaction sur le monde physique, qui évolue de façon exponentielle avec les progrès de l’intelligence artificielle, s’avérant de facto insuffisantes.
- L’application de la loi du 5 juillet 1985 sur les accidents de la circulation pour l’indemnisation des victimes d’une voiture autonome
Au niveau national, la loi Badinter du 5 juillet 1985 a vocation à s’appliquer dans le cas d’un accident de la circulation dans lequel est impliqué un véhicule terrestre à moteur circulant sur des voies qui ne lui sont pas propres. La définition extensive du véhicule terrestre à moteur promue par la loi et confirmée par la jurisprudence de la Cour de cassation semble déjà soumettre les voitures autonomes à ce régime spécifique, rendant le propriétaire du véhicule ou le gardien responsable, même dans le cas où il n’aurait pas été à bord du véhicule.
La question de l’application des causes d’exonération de responsabilité devrait toutefois être aménagée, celles-ci s’articulant aujourd’hui principalement autour de la qualité de conducteur de la victime. Pour la Cour de cassation, est conductrice la personne qui, au moment de l’accident, a la possibilité de maitriser les moyens de locomotion du véhicule, sur lequel elle dispose des pouvoirs de commandement. Or, qui a vraiment l’usage, le contrôle et la direction d’un véhicule autonome ?
Une solution pourrait consister à permettre l’accès aux algorithmes du logiciel qui effectuent les choix de conduite[3]. Car si aujourd’hui les voitures autonomes agissent conformément à ce pourquoi elles ont été programmées, l’évolution des performances de l’intelligence artificielle laisse présager l’émergence de robot conscient de leur propre existence et capable de se détacher des ordres transmis, compliquant la détermination des responsables potentiels en cas de survenance d’un dommage.
La loi n°2015-992 du 17 aout 2015 relative à la transition énergétique pour la croissance verte autorisant, à son article 37, le Gouvernement à prendre par ordonnance toutes mesures liées à la circulation de véhicules autonomes marque une première avancée à ce stade.
- L’application de la responsabilité du fait des choses
Le robot, dans sa qualification de chose par le droit en vigueur, tombe aujourd’hui sous le coup de la responsabilité du fait des choses, celui-ci n’étant pas encore doté de la personnalité juridique.
L’alinéa 1 de l’article 1384 du Code civil dispose : « on est responsable non seulement du dommage que l’on cause par son propre fait, mais encore de celui qui est causé par le fait des personnes dont on doit répondre, ou des choses que l’on a sous sa garde ». A la lecture de cet article et de la jurisprudence, le schéma général de mise en œuvre de la responsabilité du fait des choses repose sur la réunion de quatre conditions : un dommage, une chose, un lien de causalité et la garde de la chose.
Si les trois premières conditions ne posent pas de difficulté particulière- à supposer que la qualification de chose quelque peu réductrice de la voiture autonome soit acquise- la condition de la garde nécessite de prouver que la voiture était sous la garde d’un gardien qui en détenait l’usage, la direction et le contrôle[4] au moment de la réalisation du dommage. Dans le cas de la voiture autonome, la réunion de ces trois éléments peut se concevoir intellectuellement dans la mesure où ce seront les ordres donnés par l’utilisateur qui la matérialiseront, et permettra de déterminer la personne responsable du dommage.
Toutefois, si l’application de ce régime de responsabilité objective venait à être retenue, la distinction d’origine doctrinale entre garde de la structure et garde du comportement, généralement écartée par la Cour de cassation, pourrait être réactivée, au bénéfice du gardien qui ne saurait être tenu responsable d’un dommage résultant d’une défaillance technique. Dans ce cas, il faudrait alors répartir les situations selon que le comportement dommageable du robot trouve son origine dans les instructions émises par son utilisateur ou dans un défaut de sécurité imputable au fabricant. La situation serait alors régie par l’article 1386-13 du Code civil relatif à la responsabilité du fait des produits défectueux qui prévoit : « la responsabilité du producteur peut être réduite ou supprimée, compte tenu de toutes les circonstances, lorsque le dommage est causé conjointement par un défaut du produit et par la faute de la victime ou d’une personne dont la victime est responsable ».
La responsabilité du fait des produits défectueux renvoie à la situation dans laquelle un producteur engage sa responsabilité délictuelle du fait d’un défaut de sécurité de l’un de ses produits, qui a donné lieu à un dommage à une personne ou à un bien[5]. Il s’agit d’un régime spécial de responsabilité prévu à l’article 1386-1 et suivants du Code civil, codifié par la loi du 19 mai 1988 issue de la transposition de la directive du 25 juillet 1985. La notion de produit défectueux est définie à l’article 1386-3 du Code civil comme « tout bien meuble, même s’il est incorporé dans un immeuble, y compris les produits du sol, de l’élevage, de la chasse et de la pêche. L’électricité est considérée comme un produit », à laquelle la voiture autonome peut se rattacher sans difficulté.
Les éléments constitutifs de la responsabilité du fait des produits défectueux sont au nombre de trois : un dommage, un défaut du produit, et un lien de causalité. La condition du défaut est régie par l’article 1386-4 du Code civil selon lequel « un produit est défectueux au sens du présent titre lorsqu’il n’offre pas la sécurité à laquelle on peut légitimement s’attendre ». Le défaut du produit est celui qui compromet la sécurité et non pas celui qui porte atteinte à l’utilité du bien. Ce défaut doit s’apprécier de manière objective, par rapport à une personne normalement diligente, le producteur pouvant être tenu responsable du défaut alors même que le produit a été fabriqué dans le respect des règles de l’art ou de normes existantes. Cette définition est ainsi suffisamment large pour englober les actes d’une voiture autonome non anticipés par son créateur.
Le lien de causalité, consistant à prouver que le dommage résulte bien du défaut du produit, n’est pas sans poser de difficultés dans le cas d’une voiture autonome puisqu’interviennent une pluralité d’acteurs (concepteur, programmeur du logiciel, fabricant), compliquant la détermination du débiteur de la réparation.
A défaut d’un cadre légal approprié, une solution à la question de savoir quel régime de responsabilité appliquer dans le cadre d’un dommage résultant d’un fait d’une voiture autonome consisterait à envisager la responsabilité non pas comme un bloc mais partagée hiérarchiquement entre les différents intervenants, afin d’aboutir à une responsabilité en cascade, comme le prévoit, dans le secteur des médias, la loi du 29 juillet 1881. Ce système est bâti sur l’idée que les premières personnes qui doivent être tenues responsables en cas notamment, d’infractions de presse prévues par le chapitre IV de la loi du 29 juillet 1881, ne sont pas les auteurs ; c’est le directeur de la publication ou l’éditeur qui le sont dans la mesure où ils décident expressément de la publication ou non un d’article qui pourra être à l’origine de l’infraction de presse. Cette approche est un moyen de désigner des responsables au regard de leurs fonctions.
Si on applique ce régime aux dommages causés par les robots, le concepteur de l’intelligence artificielle du robot serait le responsable à titre principal ; l’intelligence artificielle constituant le cœur du fonctionnement du robot, il doit en effet assumer la responsabilité première de son application. En deuxième lieu, pourrait être engagée la responsabilité à titre subsidiaire du fabricant du robot, et seulement après celle de son propriétaire ou de l’utilisateur.
Le droit n’a donc pas encore tranché. Néanmoins, la proposition de livre vert de la Commission européenne sur les questions juridiques en matière de robotique[6] défend plutôt la reconnaissance de la responsabilité du propriétaire du robot. Il propose un critère pour déterminer la responsabilité du robot relatif au degré d’apprentissage de celui-ci. Plus le robot a développé sa capacité d’apprentissage, moins le fabricant pourra être tenu responsable car l’acte du robot ne dépendra plus de lui mais de celui qui lui a « appris ».
Le Parlement européen s’est saisi de la question de l’adaptation du droit aux enjeux liés au développement des voitures autonomes. Dans un récent projet de rapport de la Commission des affaires juridiques[7], le législateur européen signale qu’une solution envisageable, face à la complexité de l’imputabilité des dommages causés par des robots de plus en plus autonomes, pourrait résider dans la mise en place d’un régime d’assurance obligatoire qui, contrairement au régime d’assurance des véhicules routiers, pourrait reposer sur l’obligation faite au fabricant de contracter une police d’assurance pour les robots autonomes qu’il fabrique. Ce régime pourrait d’ailleurs être complété par la mise en place d’un fonds de compensation qui non seulement garantirait un dédommagement même lorsque les dommages causés par un robot ne sont pas couverts par une assurance, mais encore permettrait de mener diverses opérations financières dans l’intérêt du robot (investissements, dons…).
[1] Fleur Pellerin, ministre déléguée en charge des petites et moyennes entreprises, de l’innovation et de l’économie numérique, Assemblée nationale, 30 janvier 2014.
[2] La protection des données de localisation est également rappelée par la Directive de 2002 « vie privée et communications électroniques », qui en donne une définition en son article 2c.
[3] Robots intelligents et responsabilité : quels régimes, quelles perspectives ?, Maitre Georgie Courtois, Dalloz IP/IT, Juin 2016.
[4] Cass, chambres réunies, 2 décembre 1941, Franck.
[5] Article 1386-2 du Code civil.
[6] The European Robotics Coordination Action, Suggestion for a Green Paper on Legal Issues in Robotics, 31 décembre 2012, p.55.
[7] Projet de rapport contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique, Commission des affaires juridiques du Parlement européen, 31 mai 2016.
