La sécurité, ce bouclier si pratique
Anthropic a sorti cette semaine le grand classique du labo d'IA : le modèle trop puissant pour être relâché. Leur nouveau joujou, Mythos, serait tellement doué pour trouver des failles de sécurité qu'il représente un danger pour l'internet mondial. Touchante sollicitude. Ou stratégie commerciale bien huilée.
Qui protège-t-on vraiment ?
Posons la question que personne dans les communiqués de presse ne pose : est-ce la sécurité du grand public qui inquiète Anthropic, ou la sécurité de sa propre position sur le marché ? Lâcher un modèle capable d'automatiser le pentesting à grande échelle, c'est effectivement dangereux. Mais c'est aussi potentiellement très disruptif pour toute une industrie de la cybersécurité — et pour les modèles concurrents qui ne font pas encore cette danse du 'trop puissant'.
Le jeu des frontières et des brevets
Anthropic se pare des plumes du responsable. Mais regardez le timing. Nous sommes en pleine course aux modèles frontières, ces systèmes aux capacités supposées si avancées qu'elles nécessitent une régulation... souvent proposée par les acteurs eux-mêmes. Contrôler la sortie, c'est contrôler le récit. C'est aussi garder la technologie sous clé le temps de verrouiller les brevets, les partenariats et les cas d'usage 'autorisés'. La sécurité est l'excuse parfaite pour un protectionnisme high-tech.
Le mythe de Mythos
Le nom est bien choisi : 'Mythos'. Un mythe, justement. Celui du bienveillant gardien de l'IA. Mais dans les couloirs, on murmure autre chose. Que Mythos n'est peut-être pas si 'mythique' que ça. Que ses limitations pourraient aussi cacher des instabilités, des coûts d'infrastructure prohibitifs, ou simplement une course aux benchmarks qui a produit un monstre incontrôlable. Dans ce cas, mieux vaut le vendre comme 'trop dangereux' que 'trop buggé'.
La vraie question qu'Anthropic évite
Si Mythos est si bon pour trouver des failles, que fait-il des failles qu'il trouve ? Les rapporte-t-il de manière responsable ? Ou les stocke-t-il dans une base de données privée, créant un arsenal de zero-days dont seul Anthropic a la clé ? Le labo parle de 'mesures de protection'. Mais dans le flou artistique des 'guardrails', tout est possible. Y compris la constitution du plus gros catalogue d'exploits jamais assemblé, sous couvert de recherche.
La prochaine fois qu'un labo vous parle de retenir un modèle par éthique, demandez-vous toujours : à qui profite le crime ? La réponse est rarement 'à l'humanité'.