Cadrer les robots autonomes ?
C’est ce que le Parlement européen compte faire en demandant à la Commission européenne, dans sa résolution de février 2017, de plancher sur une nouvelle législation, un droit européen des robots autonomes ; ce qui permettrait de régler certaines questions d’éthique, mais aussi de responsabilités dans les dysfonctionnements, les accidents impliquant des véhicules autonomes et, de manière générale, des robots autonomes.
La principale question qui se pose est celle du régime applicable en cas de dommages causés par un robot autonome dont les décisions pourraient échapper à l’homme.
Avec les robots autonomes, véhicules autonomes, drones, y compris militaires, robots d’assistance ou de divertissement aux personnes, robots médicaux..., une révolution technologique s’annonce, mais pas que... qui bouscule le droit en vigueur. La principale question qui se pose est alors celle du régime applicable en cas de dommages causés par un robot autonome dont les décisions pourraient échapper à l’homme. S’appuyant sur le rapport de sa commission des affaires juridiques, les députés européens considèrent qu’il est nécessaire d’encadrer juridiquement, à l’échelon européen, la conception, la fabrication et l’utilisation des robots.
Avec une attention particulière pour les robots autonomes. Faute d’avoir su définir clairement les responsabilités des uns et des autres, la crainte serait de voir les industriels, en cas de défaillance, se détourner de projets innovants par peur des conséquences nancières. Ainsi, dans les propositions et recommandations faites à la Commission, les députés laissent-ils clairement entendre leur désir de voir émerger un jour, un droit européen des robots les plus sophistiqués. Pourquoi européen ? Parce que les parlementaires préfèrent que l’Europe crée ses propres normes juridiques et éthiques plutôt que de se voir imposer des standards venants d’autres pays, principalement asiatiques et américains. Un droit européen qui faciliterait l’établissement des responsabilités de chacun ainsi que le règlement des différends de manière uniforme dans l’espace européen.
Un ou juridique peu tenable
Flou sur la définition de robots autonomes tout d’abord. Qu’appelle-t-on un robot autonome ? Quand un robot est-il autonome ? La Commission, qui se voit confier la mission de définir ce que sont des robots autonomes et d’en proposer une classification, énumère quelques unes des propriétés du robot propres à caractériser une autonomie.
La présence de capteurs sensoriels permettant l’échange de données avec son environnement, éventuellement une autocapacité d’apprentissage, l’existence d’un corps physique (ex : une forme humanoïde, un boîtier de caméra, un écran, un bras, etc.), une capacité d’adaptation de son comportement et de ses actes sont cités.
Flou juridique sur les responsabilités ensuite. Selon le Parlement, la mise en place d’une immatriculation des robots autonomes et la souscription d’une assurance obligatoire devraient permettre de pallier les problèmes de responsabilités posés par l’intelligence artificielle en cas de dysfonctionnement ou d’accident. La gestion en serait confiée à une agence dédiée, l’Agence européenne des robots autonomes. Est préconisée également l’attribution d’une personnalité juridique spécifique aux robots les plus développés afin que ces derniers puissent être considérés comme des personnes électroniques responsables de réparer tout dommage causé à des tiers.
Trouver le bon compromis entre technologie et éthique
S’agissant de la question éthique, au cœur de tous les débats autour de la robotique autonome, l’Europe souligne qu’il y a nécessité de définir des principes éthiques fondamentaux interdisant la conception de robots susceptibles d’attenter à la sécurité ou à la dignité des humains. A quels principes les députés se référent-t-ils pour poser les jalons d’une nouvelle législation ? La résolution de 2017 fait référence aux «...principes de bienfaisance, de non-malfaisance, d’autonomie et de justice, à ceux gurant à l’article 2 du traité sur l’UE, aux principes inscrits dans la charte des droits fondamentaux de l’UE tels que la dignité humaine, l’égalité, la justice, l’équité, la non-discrimination, le consentement éclairé, le respect de la vie privée et de la vie familiale, la protection des données ». Mais aussi : « la non-stigmatisation, la transparence, l’autonomie, la responsabilité sociale et individuelle, les pratiques et codes de déontologie exis- tants ».
Une Agence européenne dédiée pourrait assurer l’application et la mise en œuvre de ces principes selon le Parlement. Partant, la Commission est invitée à élaborer une charte de la robotique qui se composerait d’un code éthique pour les ingénieurs en robotique, d’un code de déontologie pour les comités d’éthique de la recherche, d’une licence à destination des concepteurs et des utilisateurs qui définirait les droits et devoirs de ces derniers. La Commission est également invitée à se pencher sur les conséquences que la robotique autonome est susceptible d’avoir sur l’emploi, l’éducation, l’environnement (effets de rupture).
Faute d’avoir su définir clairement les responsabilités des uns et des autres, la crainte serait devoir les industriels, en cas de défaillance, se détourner de projets innovants par peur des conséquences nancières. Ainsi, dans les propositions et recommandations faites à la Commission, les députés laissent-ils clairement entendre leur désir de voir émerger un jour, un droit européen des robots les plus sophistiqués.
Un fonds de compensation permettant d’indemniser les victimes ?
La députée européenne Mady Delvaux plaide pour la création d’un fonds de compensation permettant d’indemniser les victimes, fonds qui serait abondé par les fabricants et les utilisateurs. D’autres préconisent d’équiper les robots d’une boîte noire qui retracerait l’historique des décisions, ce qui permettrait de remonter la chaîne des responsabilités. Il est également envisagé d’engager la responsabilité du propriétaire de la machine, à charge pour celui-ci de se retourner vers son assurance.
Pour l’heure, le droit en vigueur reste muet sur la plupart de ces questions et les citoyens s’interrogent.
Dans les Etats européens, les juristes sont encore très « attentistes ». En France, par exemple, les robots dont les actions sont préprogrammées continuent de relever de la loi sur les produits défaillants (1998) qui engage la responsabilité du fabricant. D’aucuns allèguent que le droit civil français reconnaît déjà la « responsabilité du fait des choses » et ne voient pas l’intérêt d’une nouvelle législation. Ce qui n’empêche pas les professionnels du droit de s’interroger. Sur l’opportunité d’attribuer une personnalité juridique aux robots autonomes, par exemple, alors même que le robot, entité mécanique, ne sera investi d’aucune conscience humaine.
Du côté des citoyens, donner une personnalité juridique aux robots autonomes fait monter au créneau plus d’un, parmi lesquels l’association Europe for Family qui dénonce les positions du Parlement car « feraient entrer dans la ction transhumaniste des machines pouvant égaler l’homme, voire le surpasser ». La question, épineuse, de l’encadrement des robots autonomes, intéressent cependant de plus en plus d’universitaires et de professionnels qui ont pris le temps de publier plusieurs ouvrages sur le sujet.
Espérons que le projet ambitieux du Parlement européen, porté par la Commission européenne, fera rapidement l’objet de débats constructifs. D’autant que, comme le rappelle sa résolution, les robots autonomes ont augmenté en moyenne de 17 % par an entre 2010 et 2014, le nombre de demandes de brevets a triplé au cours des dix dernières années, selon les informations fournies par la Fédération internationale de la robotique, et ce n’est qu’un début.
A cet égard, le dernier accident mortel, survenu tout récemment en Arizona (voiture autonome d’Uber), mais aussi les dommages collatéraux occasionnés sur les populations civiles par les drones militaires, en Syrie notamment, pourraient faire que les choses avancent.
Martine Borderies
Pour aller plus loin :
http://www.europarl.europa.eu/Reg- Data/etudes/STUD/2016/571379/IPOL_ STU(2016)571379_FR.pdf – Règles de droit civil sur la robotique – Résolution du Parlement européen du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique (2015/2103(INL)).
https://www.latribune.fr/opinions/tribunes/ faut-il-un-droit-des-robots-697651.html
