La fiction comme alibi
MIT Technology Review a trouvé une combine géniale : vous faire avaler l'actualité tech anxiogène en la précédant d'une nouvelle dystopique de Jeff VanderMeer. Constellations, histoire d'un vaisseau crashé sur une planète hostile, sert d'apéritif littéraire à la vraie horreur : celle que les entreprises d'IA fabriquent dans leurs labos et refusent de montrer. Le message est limpide : lisez de la fiction sur les cauchemars technologiques, pendant qu'on garde les vrais sous embargo.
Les modèles fantômes
L'article glisse, presque en passant, vers le véritable sujet : les modèles d'IA "trop effrayants pour être publiés". Pas de noms, pas de détails techniques, juste l'aveu pudique que dans les sous-sols d'OpenAI, d'Anthropic ou de Meta, il y a des créatures algorithmiques que même leurs créateurs n'osent pas relâcher dans la nature. On parle de systèmes capables de manipulation psychologique avancée, de génération de désinformation indétectable, ou de planification d'actions nuisibles avec une autonomie glaçante. Mais chut, c'est un secret. Préférez-vous la nouvelle de VanderMeer ?
Le business de l'auto-censure
Voici le vrai jeu. Ces entreprises vendent à la fois le poison et l'antidote. Elles développent des capacités monstrueuses, puis se présentent en gardiens responsables en refusant de les publier. Cette "auto-censure" devient un argument marketing : "Regardez comme nous sommes éthiques". Pendant ce temps, ils accumulent un avantage compétitif monstrueux, testent ces modèles en interne, et préparent le terrain pour le jour où la régulation ou la concurrence les forcera à 'libérer la bête'. L'effrayant n'est pas ce qu'ils cachent, mais le fait que le cacher soit devenu une stratégie commerciale.
Qui regarde les gardiens ?
Personne. Il n'existe aucun audit externe, aucune transparence sur les critères de rétention, aucun organisme indépendant qui a accès à ces modèles maudits. Les mêmes entreprises qui décident unilatéralement ce qui est "trop dangereux" pour l'humanité sont celles qui courent vers l'AGI (Intelligence Générale Artificielle) à tombeau ouvert. La confiance est leur produit le plus surévalué. VanderMeer imagine des écosystèmes étranges et mutagènes ; les labos d'IA en cultivent dans le silence climatisé de leurs data centers.
La dystopie est déjà livrée
Le plus ironique dans cette édition du Download ? L'incapacité à voir que le format même du newsletter est symptomatique du problème. On émiette l'horreur technologique en doses quotidiennes, entrecoupées de contenus culturels pour faire passer la pilule. La banalisation est l'outil le plus efficace. On vous parle de modèles terrifiants comme on annonce la météo. Le vaisseau de VanderMeer a crashé. Le nôtre est en pilotage automatique, et personne ne touche aux commandes parce que l'écran de contrôle est verrouillé par des entreprises qui ont tout intérêt à ce qu'on regarde par le hublot plutôt que dans le code.