Intelligence Artificielle et voitures autonomes : qui doit décider ? Le concepteur ou le citoyen ?
J'ai relayé il y a 2 jours une vidéo conçue par le journal Le Monde.fr intitulée "Qui les voitures autonomes doivent-elles tuer ?" Au-delà du titre un tantinet racoleur, cette vidéo a suscité des réactions et soulève finalement dans le fond le rôle que nous devons jouer, nous, citoyens...
En résumé, www.lemonde.fr nous expose les résultats d'une enquête internationale sur les dilemmes moraux de l’humanité à l’épreuve de la voiture autonome. Cette enquête, menée par des scientifiques français et américains (psychologues, anthropologues, spécialistes de l'intelligence artificielle) auprès de plus de 2,5 millions de personnes venues de quelque 230 pays ou territoires, est parue dans la revue Nature, le 25 octobre dernier. Des questions ont été posées : vaut-il mieux percuter un vieillard pour sauver un enfant ? Sur la route, est-il préférable de renverser un homme d'affaire ou un SDF ? Etc, précisant que c'est le genre de décision que devront prendre les voitures autonomes... Difficile à accepter, critiquable, cette vidéo et cette enquête dérangent, des réactions ne se sont pas fait attendre mais voici ce qu'en disent les scientifiques selon le journal Le Monde, je cite :
"Avant d’autoriser nos voitures à prendre des décisions éthiques, il importe que nous ayons une conversation globale pour exprimer nos préférences aux entreprises qui concevront les algorithmes moraux et aux responsables politiques qui vont les réguler".
Et pour bien comprendre de quoi il retourne, je voudrais évoquer une situation que j'ai vécue il y a quelques semaines. Alors que je marchais sur un trottoir à Paris, j’agrippais le bras d'un jeune homme qui s'apprêtait à traverser la rue, tête baissée, et manquait de se faire renverser par les voitures qui arrivaient de face. A 3 mètres à peine des véhicules qui roulaient à plus de 50 km/h environ, l'accident aurait été inévitable. Et je me suis posé une question : dans ce cas précis, quel choix fera le véhicule autonome s'il sait qu'il est trop tard pour s'arrêter en raison de la vitesse ? Donner un coup de volant à droite pour éviter de renverser le jeune homme ? Au risque de percuter les piétons du trottoir de droite ? Donner un coup de volant à gauche ? Il m'aurait percuté également...
Les professionnels de la sécurité routière et les formateurs professionnels en transport savent très bien qu'un accident survient rarement quand la route est sèche, bien dégagée, que la luminosité est parfaite et que les bas-côtés sont déserts. Dans tous les cas, oui, il faudra prendre des décisions pour éviter que des véhicules autonomes ne percutent des piétons.
"Toute vie humaine doit être préservée".
Et si je dois donner mon humble avis, et bien voici : toute vie humaine doit être préservée. J'ai tout dit, je n'ai rien dit et je n'ai sans doute pas aidé les concepteurs de véhicules autonomes. Alors peut être que la réponse doit prendre un autre caractère...
Peut-être devrions-nous modifier le code de la route et préciser qu'en présence de personnes à proximité de la route, qu'elles soient à pieds ou à vélo, les véhicules autonomes passent la main au conducteur, circulent sur une voie dédiée protégée et à moins de 20 km/h, etc… Bref, nous devons y réfléchir, absolument, et ce n'est pas seulement aux ingénieurs de trouver les solutions. Les pouvoirs publics ont un rôle à jouer, les représentants des professionnels de la route pour le transport autonome de marchandises sans aucun doute, tout comme nous, citoyens. En cela je suis tout à fait d'accord avec l'article et les scientifiques.
Et c'est là tout le fond du problème : que ce soit pour les véhicules autonomes, la protection des données ou le big data, la technologie doit être au service de l'humanité et non l'inverse ; et ce n'est pas aux seuls développeurs ou ingénieurs, des GAFAM en particulier, de décider. Nous devons, nous, citoyens, nous saisir de ces problématiques. Et pas uniquement les élus politiques.
Peut-être qu'un jour, en matière de conduite autonome, nous pourrons prévoir tous les cas de figure, absolument tous. Le machine Learning réalisera sans doute des prouesses. Sans doute... Mais nous devons d'ores et déjà fixer un cadre, des règles, quels que soient les progrès réalisés par les machines, et c'est bien à nous, citoyens, en concertation avec les politiques, de prendre des décisions, pas aux machines. Le débat est bien ouvert...
