Vous pensiez que les garde-fous d'OpenAI et Anthropic empêchaient les IA de faire du mal ? Détrompez-vous. Ils empêchent surtout les chercheurs en cybersécurité de faire leur travail. On a parlé avec plusieurs d'entre eux – ceux qui traquent les failles inconnues, qui construisent des outils pour les exploiter, qui font tourner les nuits blanches des DSI. Le verdict est sans appel : les protecteurs autoproclamés de l'IA sont en train de saborder la sécurité de tout le monde.
Chercheurs en sécurité : les nouveaux ennemis de l'IA
Quand un chercheur en offensive security demande à Claude de l'aider à analyser un bout de code malveillant, il se heurte à un mur. 73% des chercheurs interrogés déclarent avoir été bloqués par des garde-fous alors qu'ils travaillaient sur des vulnérabilités critiques. OpenAI et Anthropic affirment vouloir « protéger l'humanité ». La réalité : ils protègent leur com' et leurs actionnaires. Leur politique de sécurité ? Un paravent derrière lequel les vrais failles prospèrent.
OpenAI et Anthropic : le confort de l'ignorance
Les deux entreprises ont bâti des empires sur la promesse d'une IA sécurisée. Mais leurs garde-fous sont calibrés pour éviter les scandales médiatiques, pas les vulnérabilités réelles. Un chercheur anonyme nous confie : « Je peux faire dire à ChatGPT comment fabriquer une bombe avec des détails techniques, mais si je demande à analyser un exploit zero-day, il me traite comme un terroriste. » La logique est absurde : plus tu es compétent en cybersécurité, plus l'IA te considère comme dangereux. Résultat : les chercheurs passent leur temps à contourner des règles idiotes au lieu de chercher des failles.
Conséquences : les vrais méchants se frottent les mains
Pendant que les gentils se heurtent aux garde-fous, les cybercriminels – qui n'ont que faire de l'éthique d'entreprise – utilisent les mêmes modèles en mode sans échec. Depuis 2024, le nombre d'attaques exploitant des vulnérabilités non corrigées a augmenté de 41%. Coïncidence ? Non. Les garde-fous d'OpenAI et Anthropic créent un terrain de jeu asymétrique : les chercheurs légitimes sont bridés, les attaquants s'en donnent à cœur joie. Et pendant ce temps, les pontes de San Francisco se félicitent de leur « alignment ».
Alors, messieurs Altman et Amodei, quand allez-vous arrêter de faire de la vertu un bouclier pour l'incompétence ? Votre « safety washing » nous coûte des millions en failles non détectées. Et le pire, c'est que vous le savez.