Il y a une scène qui devrait figurer dans toutes les brochures du secteur : un serveur de restaurant new-yorkais demande à chaque table, à l'arrivée, si quelqu'un a des allergies. Jusqu'ici, c'est du service. Depuis peu, c'est du bras de fer.
Madison — prénom d'emprunt, elle refuse de donner son nom complet pour éviter les retombées — raconte à The Verge que les choses virent au jeu dangereux. Un client annonce une allergie aux crustacés. Elle revient prendre la commande. Le client commande un plat de poisson, servi dans un bouillon à base de crustacés. Madison le lui signale. Le client sort son téléphone. « ChatGPT dit qu'il n'y a pas de crustacés. »
Voilà où on en est. Le discernement humain a été rétrogradé au rang de supposition, et un modèle de langage — qui n'a jamais vu la cuisine, ni la fiche technique de la recette, ni la bouteille de fond de poisson — est promu arbitre sanitaire.
« Hallucination » : le mot le plus menteur de la décennie
Arrêtons-nous sur ce vocable que l'industrie a imposé. Quand un modèle invente, on appelle ça une hallucination. Le mot est merveilleux : il transforme un bug en accident poétique, une erreur en état d'âme. Un perroquet statistique qui recrache une probabilité plausible n'hallucine pas — il fabrique. Et il fabrique avec une assurance qui ne faiblit jamais, parce que le doute n'est pas une fonctionnalité vendable.
Ce n'est pas un secret d'initié : les conditions d'utilisation d'OpenAI précisent noir sur blanc que les réponses peuvent être inexactes. Cette mise en garde existe, quelque part, en petits caractères gris clair que personne ne lit. Elle est là pour protéger l'entreprise. Pas la serveuse.
Qui encaisse : la hiérarchie des responsabilités
Suivons le préjudice. Si un client allergique mange le bouillon et termine aux urgences, qui paie ? Pas OpenAI. Pas le fabricant du modèle. Le restaurateur. Et si le restaurateur n'est pas assuré, la serveuse — celle qui avait prévenu, celle dont le pourboire constitue l'essentiel du salaire, celle qui n'a aucun pouvoir contractuel sur la chaîne de responsabilité.
Le client, lui, ne risque rien. Il a une excuse : « l'IA m'a dit ». C'est le fantasme parfait du consommateur-roi — l'autorité d'un expert sans la responsabilité d'un expert. Un avis médical sans diplôme. Une consultation juridique sans barreau. Une expertise culinaire sans jamais avoir porté un tablier.
Ce que ça dit vraiment de nous
Ne vous trompez pas sur le diagnostic. Ces clients n'ont pas été rendus stupides par ChatGPT : ils étaient déjà convaincus que leur confort primait sur la sécurité d'autrui. L'IA n'a pas créé l'arrogance. Elle lui a fourni un costume trois-pièces.
Avant, il fallait assumer en face : « je sais mieux que toi ». Désormais, il suffit de dire « une intelligence artificielle le confirme ». Le caprice a trouvé sa caution technologique. Et l'industrie — celle qui lève des milliards sur la promesse d'une vérité automatisée — n'a aucun intérêt à éteindre l'incendie. Chaque client qui brandit son chatbot est un ambassadeur involontaire, gratuit, de sa propre ubiquité.
Alors messieurs d'OpenAI et consorts : mettez donc un bandeau « peut raconter n'importe quoi, y compris sur votre santé » en haut de l'écran, pas en pied de page. Et vous, clients : la prochaine fois qu'un serveur vous sauve la vie contre l'avis d'un logiciel, laissez-lui 30 % de pourboire. C'est le tarif d'un avis médical rendu par un humain qui, lui, a vraiment vu la cuisine.