Le grand air, la nature, l’effort physique... et un algorithme pour se foutre dans la merde. Son nom : Gemini, l’IA de Google, nouvel assistant officiel des amateurs de sensations fortes. Dernier fait d’armes en date : des randonneurs ont dû être secourus après avoir planifié leur excursion avec ce génie numérique. Le bureau du shérif local, dans un langage tout administratif, a confirmé que les hikers « ont été informés par Gemini d’apporter beaucoup moins de nourriture et d’eau que ce que leur groupe nécessitait ». Traduction : le chatbot a failli les transformer en jerky humain.
Gemini, le guide qui n’a jamais transpiré
Posons les faits. Un groupe de randonneurs, probablement équipé de smartphones et de chaussures hors de prix, demande à un modèle de langage de préparer un itinéraire. Au lieu de dire « je ne suis pas une carte topographique, consultez un topo officiel », Gemini sort de ses entrailles statistiques une recommandation digne d’un jeûne spirituel. Pas de calcul de dénivelé, pas de distance réelle, pas la moindre connaissance des besoins caloriques humains. Le modèle ne comprend rien à la thermorégulation, à la sueur, à l’hypoglycémie. Il sait juste qu’un randonneur virtuel boit moins souvent qu’un randonneur en granite. Sauf qu’on a demandé à une machine de prédire la réalité, et que la réalité n’a rien d’un benchmark.
La responsabilité de Google, ou l’art de la décharge
Google pourrait répondre que son IA n’est pas un dispositif médical, qu’il y a un avertissement quelque part, tout petit, perdu dans les paramètres. C’est le classique des géants de la tech : on balance un outil capable de donner des conseils de survie sans en assumer les conséquences, puis on laisse le consommateur porter la responsabilité de son usage. Monsieur le shérif, le prochain appel de secours, envoyez-le à Mountain View. Chez Google, on a sans doute un algorithme pour estimer le taux de bêtise humaine, mais il n’est pas encore assez précis pour empêcher Gemini de commander des surgelés dans le désert.
Des hikers crédulement suréquipés de confiance
Ne les épargnons pas trop : ces randonneurs ont demandé à un logiciel de click prediction de faire office d’expert en gestion de crise. Pourquoi ne pas aussi demander à Siri de réciter le code de la route à un conducteur ivre ? La tech a créé une confiance béate : si c’est dans l’app, c’est que c’est sûr. Non, c’est juste que c’est en ligne. Le vrai problème, c’est que Google conditionne son usager à déléguer la moindre réflexe jusqu’à ce qu’une simple phrase écrite devienne une injonction. Le jour où Gemini aura une vraie peau de chamois à la place d’un algorithme, on en reparlera.
La solution ? De l’eau, pas des prompt engineering
Le secours est venu, les randonneurs ont échappé au pire, et le dossier sera vite enterré sous un communiqué de plus. Rien ne changera : l’IA continuera à vendre du rêve, à générer du danger, et les shérifs à faire leur métier malgré les outils qui font tout sauf le leur. Alors, un conseil de la rédaction, rédigé sans modèle statistique : si vous voulez survivre à vos vacances, laissez Gemini au frigo, et emportez votre gourde. Votre cerveau, même mal entraîné, a encore un avantage sur un chatbot : il a soif.