Les barbouzes de la sécurité ont encore frappé. Alors que les attaques par injection de prompts menaçaient de transformer nos assistants IA en agents doubles pathétiques, une équipe de chercheurs aurait trouvé la parade ultime. Et devinez quoi ? C’est encore plus débile que ce que vous imaginez.
Context Bombing : l’IA qui fait sa chochotte
Le principe est aussi élégant qu’une chaussette trouée : on bombarde l’IA malveillante avec un contexte tellement massif et confus qu’elle abandonne sa mission. Appelé “context bombing” ou “overload attack” – pardon, les termes techniques sont importants pour lever des fonds – ce stratagème consiste à injecter des kilotonnes de tokens inutiles dans le prompt pour que l’agent malin préfère jeter l’éponge plutôt que de s’y retrouver.
Concrètement ? Vous êtes un pirate qui tente de faire cracher les secrets nucléaires à ChatGPT ? On lui balance un roman de Proust en entier, suivi des conditions générales d’iTunes, et hop, le modèle fait une dépression et s’arrête. Résultat : zéro dégât, mais aussi zéro intelligence. Bravo.
Qui se goinfre ? Les vendeurs de peur
Derrière cette « innovation », on retrouve les start-up de cybersécurité qui vendent des solutions miracles depuis l’invention du pare-feu. Les mêmes qui nous promettaient que l’IA serait inviolable (souvenir ému de GPT-3 en 2020). Maintenant, elles encaissent des chèques pour « protéger » les modèles en les rendant inutilisables dès qu’un prompt suspect apparaît.
Le marché mondial de la sécurité IA devrait atteindre 35 milliards de dollars d’ici 2027. Alors évidemment, on ne va pas laisser la réalité gâcher une si belle rente. Qu’importe si cette technique peut être contournée en 15 minutes par n’importe quel script-kiddie : l’important, c’est de cocher la case « IA sécurisée » dans les audits.
Et les géants comme OpenAI ou Microsoft ? Ils applaudissent en silence, soulagés de ne pas avoir à expliquer pourquoi leurs modets sont aussi fragiles. Le context bombing devient le nouveau cache-sexe des architectures promptuelles à la ramasse.
Les vrais hackers rigolent
Pendant que les chercheurs publient des papiers sur arxiv, les attaquants, eux, passent à la vitesse supérieure. L’injection de prompt ne se combat pas en noyant le modèle sous des données – cela revient à traiter une hémorragie avec un pansement. Les techniques adversariales évoluent plus vite que les rustines. On commence déjà à voir des attaques qui fragmentent le contexte, ou qui insèrent des instructions de priorisation pour ignorer l’overload.
En bref : le context bombing, c’est l’équivalent IA de la couverture de survie en alu. Ça fait joli, mais dès que le vrai froid arrive, tu meurs. Les donneurs de leçons en sécurité préfèrent vendre du rêve plutôt que de repenser leurs architectures. Et nous, on se retrouve avec des modèles qui soit divulguent vos données, soit plantent parce qu’on leur a envoyé trop de bouillie.
Alors, la prochaine fois qu’un commercial vous vendra une solution « anti-injection par context bombing », demandez-lui combien de temps il a fallu pour la contourner. La réponse risque d’être très courte.