Encore un rapport, encore des chiffres, encore des alertes. Cette fois, c'est SaferAI qui joue les rabat-joie en publiant une analyse au vitriol sur le GLM-5.2 de Z.ai. Verdict : le modèle open-weight talonne les géants du secteur, mais il est à peu près autant protégé qu'un magasin de munitions avec une porte en carton. On applaudit l'exploit technique, on pleure sur l'absence totale de garde-fous.
GLM-5.2 : le cheval de Troie de l'open-weight
Ne nous méprenons pas : le GLM-5.2 est un morceau de bravoure. Les équipes de Z.ai ont pondu un modèle dont les performances flirtent avec ce qu'on appelle pudiquement la « frontière ». Autrement dit, il est presque aussi intelligent que les mastodontes propriétaires. Presque. Et c'est bien là que le bât blesse : ce presque n'est pas compensé par un presque de sécurité. SaferAI égraine les manquements : pas de red-teaming sérieux, pas de restrictions d'usage, pas de mécanismes de désescalade. Rien. Un bijou, mais sans écrin, sans serrure, et avec un panneau « servez-vous ».
La sécurité, un concept pour les faibles
Pendant que les labos californiens jouent les vierges effarouchées avec leurs garde-fous hypocrites, l'open-weight s'épanouit dans le Far West. Z.ai savoure sa victoire médiatique pendant que SaferAI, comme tous les lanceurs d'alerte, se prépare à être ignoré poliment. Car disons les choses clairement : qui a écouté les rapports précédents ? Personne. Les gouvernements dorment, les régulateurs font des mots croisés, et les investisseurs continuent d'arroser les startups qui promettent de rendre l'open-weight encore plus puissant. La sécurité, dans cette économie, c'est un coût de production, pas une valeur.
Qui y gagne, qui y laisse des plumes
Z.ai gagne de la visibilité, des parts de marché, et une place de choix dans les benchmarks. Les développeurs célèbrent un outil gratuit et souple. Et pendant ce temps, qui se fait rouler ? Le grand public, encore une fois, qui devient cobaye d'une technologie sans ceinture, sans airbag, sans freins. Les utilisateurs finaux découvriront les dégâts quand il sera trop tard. Et les régulateurs, eux, publieront des rapports alarmants — toujours après coup — pour se donner bonne conscience. On connaît la chanson.
Alors oui, le GLM-5.2 est un exploit. Mais un exploit sans responsabilité, c'est un accident en devenir. SaferAI a fait son boulot. Quelqu'un a-t-il seulement prêté attention ? Nous, oui. Et nous vous le disons : l'open-weight est en train de damer le pion à la frontière, mais la frontière de la sécurité, elle, est restée dans les starting-blocks. Il est peut-être temps de rappeler que la puissance ne dispense pas de la prudence. Mais ne vous inquiétez pas, le marché va s'en charger. Comme toujours.