Alors que le monde de l'IA attendait sagement la prochaine génération de modèles, voilà que Kimi K3 débarque avec des performances qui font tourner les têtes. Et immédiatement, les langues se délient : est-ce que ça sent la distillation sauvage du dernier-né d'Anthropic, Fable ? Bien sûr que non, nous disent les experts. Un expert a même affirmé à TechCrunch : « Je ne pense pas qu'on obtienne un modèle aussi fort et aussi vite juste après Fable en faisant strictement de la distillation. » Ah, le fameux argument du « strictement ». Comme si la nuance sauvait l'honneur.
Qui croit encore aux miracles ?
Rappelons les faits : Fable est sorti il y a à peine trois mois. Kimi K3, de son côté, annonce des scores qui surpassent Fable de 12 % sur les benchmarks de raisonnement. Coïncidence ? Bien sûr. Et moi, je suis le pape. La distillation, c'est l'art de faire apprendre un petit modèle sur les sorties d'un gros. C'est rapide, c'est efficace, et c'est la méthode préférée des labos qui veulent griller les étapes. Mais alors pourquoi cet expert joue-t-il les vierges effarouchées ? Peut-être parce qu'il travaille pour le fonds qui a investi dans Kimi. Peut-être parce que la vérité dérange.
Fable : la vache à lait involontaire
Anthropic a dépensé des centaines de millions pour entraîner Fable. Pendant ce temps, Kimi K3 a probablement utilisé une armée de GPU pour aspirer chaque réponse de Fable via des APIs, puis a ajusté un modèle plus léger. C'est la méthode standard, presque avouée. Mais non, il faut un communiqué lénifiant : « Nous avons utilisé des techniques propriétaires innovantes. » Traduction : « Oui, on a pompé Fable, mais on ne le dira jamais. » Et le pire, c'est que ça marche. Les investisseurs applaudissent, les utilisateurs affluent, et Anthropic se retrouve avec la facture et le sentiment d'avoir été doublé.
L'argent, le vrai moteur
Suivons le cash. Kimi K3 a levé 200 millions en série B, valorisation 2 milliards. Les mêmes fonds qui hurlent à la propriété intellectuelle quand on touche à leurs brevets ferment les yeux quand leur poulain triche. Pendant ce temps, Anthropic doit justifier son budget R&D XXL sans pouvoir accuser directement – la preuve est trop difficile à apporter. Résultat : les gros gagnants sont les fonds de capital-risque qui empochent les profits des deux côtés, les perdants sont les chercheurs honnêtes et, in fine, les utilisateurs qui récolteront un écosystème de clones médiocres.
On ne nous la fait pas
Susanoo News n'achète pas cette histoire. Si Kimi K3 est si fort sans avoir pompé Fable, qu'ils publient les logs d'entraînement, les courbes de perte, les données de distillation – si, si, on sait qu'ils les ont. En attendant, ce scénario sent le réchauffé. OpenAI avec GPT-4, Meta avec Llama, maintenant Anthropic avec Fable. À chaque nouveau modèle, son parasite. Le cycle est aussi prévisible qu'un lever de soleil. Alors messieurs les experts, gardez vos démentis pour les gogos. Ici, on lit entre les lignes et on voit la distillation couler à flots.