Politique Internationale — Comment êtes-vous devenu un spécialiste de la voiture autonome ?
Jean-François Bonnefon — Cela remonte assez loin en arrière. Il y a vingt ans, j’ai fait ma thèse en psychologie sur l’intelligence artificielle (IA), à travers la manière dont l’intelligence humaine peut programmer la machine. Puis je suis revenu à des questions de psychologie plus traditionnelles. Jusqu’au moment, voilà quelques années, où l’IA a commencé à connaître un véritable élan, qui ne s’est pas démenti depuis. Pour moi, cela a été un peu comme une révélation, au sens où les problématiques liées à la morale et à la technologie n’ont jamais été autant en interaction. Un domaine comme la voiture autonome illustre cette mixité : comment l’esprit humain peut-il s’accommoder de laisser une telle marge de manœuvre à la machine ? On ouvre un champ de réflexion à la fois gigantesque et extrêmement stimulant.
P. I. — Outre la voiture autonome, y a-t-il un autre domaine dans l’industrie et/ou les services où la question de la délégation de confiance est aussi prégnante ?
J.-F. B. — La voiture est une machine spécifique à bien des égards. Elle évolue en milieu ouvert, ce qui rend l’enjeu de la sécurité des passagers, des usagers de la route, des piétons, particulièrement crucial. Il serait trop long de recenser tous les facteurs de collision et d’accident en général tant ils sont nombreux. En revanche, ce qui est unique, c’est la gestion du temps : sauf exception notable, quand un danger se présente, le temps de réaction est extrêmement court. Il est si court que, dans le cas de la voiture autonome, il n’y a même pas cette marge de manœuvre pour mettre l’humain dans la boucle et tâcher de trouver une parade.
P. I. — L’avènement de cette voiture autonome est-il pour demain, après-demain ou plus tard ?
J.-F. B. — Sur ce sujet, la prudence est de mise. Je me souviens qu’il y a dix ans, en 2015, des perspectives très proches étaient évoquées pour l’essor de la voiture autonome. Une décennie a passé, et les avancées tangibles tardent encore. Cela n’empêche pas les expérimentations à plus ou moins grande échelle, comme les flottes de taxis aux États-Unis. Toujours outre-Atlantique, des batteries de tests ont été réalisées en Arizona, où les conditions météo, avec une quasi-absence de pluie et de brouillard, se prêtent bien à ces essais. Quoi qu’il en soit, actuellement, c’est un peu le serpent qui se mord la queue. En effet, implanter la voiture autonome est une chose ; encore faut-il disposer d’un outil statistique indiscutable qui permette de vérifier la fiabilité maximale des flottes de véhicules de grande ampleur : c’est le minimum requis par une éthique de la sécurité. Autrement dit, pas de flottes, pas de lancement massif ; et, inversement, pas de lancement, pas de développement de flottes.
P. I. — Vous avez développé un instrument particulièrement stimulant, baptisé Moral Machine. De quoi s’agit-il ?
J.-F. B. — Cet outil fait écho à l’absence de références en matière de véhicule autonome. Avec l’équipe que je pilote au CNRS, nous avons voulu pallier cette incapacité des sciences sociales à appréhender le phénomène. Or nous savions que cet abord serait très bénéfique, pour peu qu’il puisse s’appuyer sur un questionnaire ultra-répandu, voire viral. C’est ce qui s’est passé : notre grille a déjà été remplie par près de 10 millions de personnes à travers le monde, soit une extraordinaire base de données fondées sur la perception de la voiture autonome. Les enseignements sont très intéressants : on voit, par exemple, que dans la quasi-totalité des pays les femmes et les enfants sont les cibles prioritaires à protéger. Surtout, les approches sont suffisamment détaillées pour que l’on évite les stéréotypes culturels qui menacent forcément dans l’étude d’un équipement comme l’automobile. Ce questionnaire permet de toucher à des points très concrets ; ainsi, dans les régions du monde où l’on traverse allègrement en dehors des clous, la perception du véhicule autonome n’est pas la même que dans les pays où l’on attend sagement au feu.
P. I. — Et le citoyen lambda ? Que pense-t-il de la voiture autonome ? A-t-il été interrogé à ce sujet ? Est-il intéressé, passionné, indifférent ?
J.-F. B. — Là encore, il convient de faire preuve de prudence. Certes, de très nombreux sondages ont été effectués, un peu partout dans le monde, mais une interprétation rationnelle est difficile à dégager. D’une part, les gens manquent de repères pour se prononcer avec exactitude ; d’autre part, le facteur prix entre en ligne de compte. Si l’on réalise un jour qu’il faut s’acquitter de 20 000 euros supplémentaires pour acquérir une voiture autonome, je ne suis pas sûr d’un engouement massif. Par ailleurs, n’oublions pas tous ceux qui prennent beaucoup de plaisir à conduire. L’acceptabilité du véhicule autonome reste sujette par conséquent à une série d’incertitudes. Reste — les essais le prouvent — le temps gagné dans les transports avec ce type de véhicule : grâce à l’IA, il se meut plus facilement qu’un automobiliste. Cet argument est loin d’être négligeable.
P. I. — Vous évoquiez les essais effectués aux États-Unis, et les flottes de taxis qui ont franchi le pas. La voiture autonome peut-elle percer en Europe, alors même que, sur le Vieux Continent, les efforts se concentrent sur le développement de la voiture électrique ?
J.-F. B. — Peu à peu, en dépit des obstacles évoqués précédemment, on voit bien qu’un écosystème de la voiture autonome est en train de se mettre en place. Honnêtement, je ne vois pas pourquoi l’Europe resterait sur le bord du chemin. D’ailleurs, rien ne milite définitivement en ce sens.
P. I. — Par définition, la voiture autonome, c’est plus que de l’humain. Est-ce à dire que l’humain délègue toute sa confiance à la machine, ou dispose-t-il de moyens de contrôle ?
J.-F. B. — Dans ce domaine comme dans beaucoup d’autres, la question de la délégation de la confiance est primordiale. Étant entendu que la machine n’est jamais laissée complètement seule dans la nature, sans aucun contrôle. Cela étant posé, le fonctionnement de la voiture autonome laisse entrevoir deux principaux volets : dans le premier cas, le véhicule dispose de la quasi-totalité de la maîtrise des opérations, soit un niveau de confiance maximal. Dans le deuxième cas, nous sommes plus proches d’un fonctionnement conjoint entre l’homme et la machine. Ce second scénario est le plus compliqué à appréhender, sur une multitude de points. Sur le plan technique en particulier, comment doit s’effectuer la collaboration entre l’humain et l’IA ? Quels process sont les plus judicieux ? Comment faire pour que la technologie exploite le meilleur des deux protagonistes ? L’aspect juridique est lui aussi source de grande complexité : en cas de collision par exemple, qui doit être tenu pour premier responsable ? On risque facilement d’entrer dans des discussions sans fin. Voilà pourquoi le besoin de clarté est urgent. On sait bien que rien ne sera formalisé de manière définitive avant au moins dix ans, mais l’implantation du véhicule autonome passe forcément par un arsenal réglementaire. Le travail s’annonce immense, à la mesure de la densité du trafic automobile et de ses multiples ramifications : la route, ce sont des autoroutes mais aussi et surtout une pléiade de petites routes, soit une myriade de détails à examiner.
P. I. — En matière de réglementation, la jurisprudence joue souvent un rôle important. On imagine que des incidents se sont déjà produits, avec des enseignements à la clé…
J.-F. B. — Une nuit, une collision est intervenue en Arizona entre une voiture autonome – avec une opératrice à bord – et une personne, laquelle est décédée dans cet accident. Tout de suite, la question de la responsabilité s’est posée. Mais en creusant le dossier, les choses se sont révélées encore plus compliquées : on s’est aperçu que la victime avait été percutée en traversant une autoroute ; on s’est aperçu également qu’elle était sous l’emprise de stupéfiants. Et ce n’est pas fini : au moment des faits, l’opératrice avait le regard rivé depuis une demi-heure sur son smartphone pour visionner un épisode de The Voice. Quant à la voiture, elle n’était pas en mesure de freiner de manière autonome. Toute une série de données sont donc venues percuter l’affaire, qui a pris une tournure de nœud impossible à défaire.
P. I. — Vous travaillez sur la psychologie, la morale. L’approche de la voiture autonome regorge d’équations proches du fonctionnement intellectuel, intime, émotionnel. Comment débroussailler ce champ ?
J.-F. B. — Ne craignons pas de dire en préambule que l’intelligence artificielle révolutionne la psychologie. Prenons le cas de la voiture autonome : si une intelligence artificielle entrevoit le risque de percuter un groupe d’enfants, doit-elle effectuer une manœuvre pour sacrifier les passagers ? Ce scénario n’est qu’une possibilité parmi des millions d’autres, tant les circonstances d’un accident peuvent différer. L’inflation des menaces sur la route débouche sur des problématiques quasi philosophiques : une vie est-elle supérieure à une autre ? Jusqu’à quel point pousser le progrès technologique ? Peut-on tout envisager, même l’imprévu ? La réponse classique qui vient à l’esprit est de dire qu’« il n’y a pas de bonne réponse ». Mais cette réponse est trop facile pour qu’on s’en contente. Il faut être le plus précis possible dans l’approche de la voiture autonome et de son interaction avec la psychologie humaine. Tout en sachant qu’on ne peut pas construire l’avenir d’une filière automobile en passant des mois, voire des années, à étudier les scénarios d’accidents les plus rares.
P. I. — Pour revenir à la réglementation, donc à la responsabilité, peut-on s’accorder, malgré la complexité des dossiers, sur les devoirs de chaque acteur ? Entre les constructeurs automobiles, les fournisseurs d’IA, les opérateurs à bord…
J.-F. B. — Dans un premier temps, les constructeurs avaient commencé par dire qu’ils assumeraient toutes les responsabilités en cas d’accident. Et puis, en 2016, un responsable de Mercedes a affirmé que la priorité était de protéger les occupants de la voiture autonome. Ses propos ont mis le feu aux poudres, quantité de détracteurs accusant l’intelligence artificielle de privilégier le confort des riches. La réponse sur les devoirs et les responsabilités ne peut qu’être collective. Si chacun travaille dans son coin, cela risque de multiplier les contorsions juridiques. Au contraire, les experts, les avocats, les industriels, l’ensemble des acteurs doivent pouvoir se concerter pour définir un schéma de fonctionnement global.
P. I. — On vérifie quotidiennement à quel point la coexistence est devenue difficile entre les voitures, les deux-roues, les vélos, les trottinettes. Introduire le véhicule autonome, n’est-ce pas rajouter une strate d’antagonismes supplémentaires ?
J.-F. B. — Faut-il le considérer comme un défi ? Cela surligne un peu plus la nécessité d’avancer de manière cadrée.
P. I. — Peut-être aurait-on dû commencer par cette question : le développement de la voiture autonome est-il bon pour la planète ?
J.-F. B. — La préoccupation écologique n’est évidemment pas absente des questionnements liés à la voiture autonome. D’autant moins que, oui, ce véhicule est bon pour la planète. D’une part, il est voué à fonctionner à l’électrique ; d’autre part, travaux à l’appui, il a été estimé que l’intelligence artificielle était en mesure de diminuer de 10 % les flux de trafic liés à des conduites prisonnières d’une appréhension individuelle. Or une réduction de 10 %, ce sont des émissions de CO2 en moins.
