Quelque part dans les dossiers judiciaires d’un tribunal fédéral américain, il y a une plainte pour diffamation qui commence d’une façon très ordinaire : un homme a découvert que son nom était associé à un crime grave. Des détails précis, des dates, un contexte circonstancié. Sauf que rien de tout cela ne s’était jamais produit. La source de ces informations n’était pas un journaliste, ni un rival, ni une rumeur de quartier. C’était un chatbot qui avait produit, avec sa confiance habituelle, un récit entièrement fabriqué sur une personne réelle.
Ce genre de cas multiplie depuis deux ans. Des avocats qui découvrent qu’un grand modèle de langage les accuse d’avoir détourné des fonds dans des affaires judiciaires inexistantes. Des professeurs d’université décrits comme auteurs de harcèlement jamais signalé. Des journalistes se voyant attribuer des articles qu’ils n’ont pas écrits, sur des événements qui ne se sont pas produits. Les hallucinations des modèles génératifs — ce phénomène par lequel un système d’IA produit des affirmations fausses avec une apparence de certitude — ne sont pas seulement un bug technique. Elles ont une cible. Et parfois, cette cible est une personne réelle avec une réputation à défendre.
Le premier obstacle juridique est aussi le plus fondamental : une IA ne peut pas être poursuivie en justice. Elle n’a pas de personnalité juridique. On ne cite pas ChatGPT à comparaître. La question qui occupe les avocats et, de plus en plus, les juges américains est donc celle du report de responsabilité — vers qui, vers quoi, et dans quelles conditions. Les deux cibles naturelles sont les développeurs des modèles et les utilisateurs qui les déploient. Et les cadres légaux existants ne répondent pas clairement à cette question.
La Section 230 du Communications Decency Act est au cœur du débat. Ce texte, adopté en 1996, protège les plateformes internet de toute responsabilité pour le contenu généré par des tiers — c’est ce qui permet à Twitter ou Facebook d’exister sans être poursuivis pour chaque message problématique de leurs utilisateurs. Mais les modèles génératifs ne hébergent pas du contenu tiers. Ils en créent. OpenAI ne fait pas que transmettre les propos de quelqu’un d’autre — son modèle génère lui-même le texte, à partir de processus probabilistes que ses ingénieurs ont conçus. Est-ce que la Section 230 couvre cela ? Les juristes sont profondément divisés. Et les premières décisions de tribunaux envoient des signaux contradictoires.
L’argument des plaignants est celui de la négligence dans la conception. Les développeurs, disent-ils, savent — ou devraient savoir — que leurs systèmes inventent des faits avec une régularité documentée. Concevoir et commercialiser des outils qui produisent de manière prévisible des affirmations fausses sur des personnes réelles, sans garde-fous suffisants, constitue une faute. Les entreprises opposent à cela leurs conditions d’utilisation et leurs avertissements — les disclaimers qui précisent que les réponses peuvent être inexactes. Aucune personne raisonnable, argumentent-elles, ne devrait traiter la sortie d’un chatbot comme un énoncé factuel vérifiable.
Pour les personnes publiques — politiciens, personnalités médiatiques, figures connues — le standard de l’« actual malice » hérité de l’arrêt New York Times v. Sullivan de 1964 complique encore les choses. Prouver qu’un développeur a agi avec un mépris délibéré de la vérité en produisant un modèle qui hallucine est juridiquement très difficile. L’algorithme n’a pas d’intention. Il a des paramètres. Et les juristes n’ont pas encore trouvé d’équivalent fonctionnel pour le standard de la faute intentionnelle quand l’auteur n’est pas un être humain.
