Dans les salles de conférence de Palo Alto, où les ingénieurs de Tesla passent des heures à analyser les données de collision collectées par les milliers de voitures qui roulent en mode semi-autonome sur les routes américaines, il y a un sujet qu’on aborde rarement de front. Pas parce qu’il n’est pas sérieux. Plutôt parce que la question elle-même est mal posée. « Si la voiture doit choisir entre écraser un enfant ou faire dévier le véhicule vers un mur, que doit-elle faire ? »
La version technologique du problème du tramway, formulée pour la première fois par la philosophe Philippa Foot en 1967, est devenue un marronnier des conférences sur l’éthique de l’IA. Sauf que les ingénieurs de Tesla vous diront, avec une franchise qui surprend parfois, que ce n’est pas vraiment la bonne question.
La vraie question est différente, et plus prosaïque : comment programmer un système qui conduit mieux qu’un humain distrait, fatigué, ou ivre ? Les accidents de voiture ne ressemblent pas à un problème de tramway. Ils surviennent en une fraction de seconde, dans des configurations que personne n’a anticipées, avec des variables que même un conducteur expérimenté ne peut traiter en temps réel. L’IA de Tesla ne consulte pas un arbre de décision éthique lorsqu’un obstacle surgit à trente mètres.
Elle exécute, à une vitesse et une précision qui dépassent les capacités humaines, une série de calculs de trajectoire visant à réduire la probabilité de collision, pas à désigner des victimes. C’est une distinction importante, même si elle est moins spectaculaire que le scénario « enfant contre personne âgée » que les médias affectionnent.
Là où le débat devient réellement inconfortable, c’est sur la question du paradoxe commercial révélé par le projet Moral Machine du MIT. Plus de 40 millions de personnes dans 233 pays ont répondu aux scénarios de l’enquête, et la conclusion est nette : en théorie, les gens pensent que les voitures autonomes devraient minimiser le nombre total de victimes, quelles qu’elles soient. Mais en pratique, ils refusent d’acheter un véhicule qui pourrait délibérément sacrifier son passager.
Ce n’est pas de l’hypocrisie. C’est une révélation sur la nature du contrat implicite qu’un conducteur passe avec son véhicule : il paie pour être protégé. Qu’il soit en tort ou non. Que la situation soit de sa faute ou non. Cette tension entre l’éthique collective et la préférence individuelle est peut-être l’obstacle le plus profond auquel sont confrontés les constructeurs, plus profond encore que les problèmes techniques.
Les législateurs ne savent pas encore quoi en faire. En France, la réglementation sur les véhicules autonomes avance prudemment, maintenant le conducteur comme responsable légal tant que le système n’est pas certifié pour une autonomie de Niveau 4. Aux États-Unis, la NHTSA a ouvert des centaines d’enquêtes sur des accidents impliquant le FSD de Tesla.
En Allemagne, le rapport de la commission d’éthique de 2017 sur la conduite automatisée a posé un principe qui reste la référence européenne : aucun système ne peut être programmé pour choisir délibérément de tuer une personne innocente, et aucune hiérarchie fondée sur l’âge, le sexe ou l’utilité sociale ne peut être intégrée dans le code. C’est une position philosophiquement solide. Elle ne dit pas pour autant ce qu’une voiture doit faire à l’instant précis où un accident devient inévitable.
Il est tentant, observant ce débat depuis quelques années, de conclure que la question éthique de fond n’est pas celle qu’on croit. Le vrai défi moral n’est peut-être pas de décider qui doit mourir dans un accident, mais d’assumer collectivement la responsabilité de déployer une technologie capable de réduire de manière significative le nombre d’accidents — quitte à accepter qu’elle ne soit jamais parfaite. 1,35 million de personnes meurent sur les routes chaque année dans le monde, selon l’OMS.
La grande majorité de ces morts sont imputables à des erreurs humaines. Si un système d’assistance à la conduite, même imparfait, en évite une fraction significative, l’arithmétique morale pencherait assez clairement pour son déploiement. Sauf que l’arithmétique, dans ce débat, n’a jamais suffi à convaincre un conducteur assis derrière un volant qui ne répond plus.
