Quand Jennifer a décroché son poste de chercheuse en 2023, elle a eu la bonne idée de passer sa photo de profil professionnelle dans un logiciel de reconnaissance faciale. Elle voulait voir si son visage servait déjà à vendre des croquettes pour chien, ou pire. Mauvaise pioche : son corps — enfin, une version synthétique de son corps — était déjà en train de gesticuler sur un site de deepfake porno. Et ce n’était même pas le plus croustillant. L’IA qui avait généré cette obscénité avait aussi craché son numéro de téléphone personnel, histoire de faciliter les trucs. Bienvenue en 2024, où ton identité est une poubelle ouverte.
Le marché du corps volé : une économie florissante
Les chiffres donnent le tournis. Selon le rapport 2024 de Sensity AI, le nombre de deepfakes pornographiques a augmenté de 550% depuis 2019. Et dans 96% des cas, les victimes sont des femmes — souvent sans leur consentement, évidemment. Mais le nouveau filon, c’est la combinaison porno + données privées. Des plateformes comme « NudifyMe » ou « DeepSwap » proposent désormais des forfaits qui incluent la génération de vidéos hyperréalistes et l’extraction de numéros de téléphone, adresses, profils LinkedIn. Pour 19,99 $, tu peux ruiner la vie de quelqu’un. Une aubaine pour les harceleurs, une plaque tournante pour les arnaques.
Nice try. Mais qui est derrière ?
Les GAFAM ? Ils s’en lavent les mains comme des enfants qui viennent de faire caca dans la piscine. Meta a bien banni quelques comptes, mais ses algorithmes continuent de recommander des chaînes deepfake. Google a « démonétisé » — c’est ce qu’ils disent —, mais les annonces pour ces services pullulent toujours sur son réseau. Et puis il y a les startups « éthiques » qui lèvent des millions pour « détecter les deepfakes ». Sauf que leurs modèles sont entraînés sur… les mêmes datasets que les générateurs. C’est comme vendre à la fois le pistolet et l’antidote. Magouille, quand tu nous tiens.
Et les régulateurs dans tout ça ?
L’Union européenne a sorti son Digital Services Act en 2024, avec des amendes qui font sourire (jusqu’à 6% du chiffre d’affaires mondial). Sauf qu’appliquer la loi dans des serveurs situés au Kazakhstan ou au Vanuatu, c’est comme chasser des moucherons avec un bazooka : bruyant, inutile, et tu flingues le voisin. Aux États-Unis, la FTC a lancé une consultation en mars 2024 sur les deepfakes non consentis. Résultat : zéro plainte déposée parce que les plateformes invoquent le First Amendment. La liberté d’expression inclut-elle le droit de violer des corps numériques ? Apparemment oui, si t’as des bons avocats.
Jennifer n’est pas seule, mais ça suce quand même
Le cas de Jennifer n’est pas un accident. C’est la nouvelle normalité. Pendant que les VCs investissent des milliards dans l’IA générative, les faire-valoir humains deviennent de la matière première. Leur souffrance, leurs numéros, leurs photos — tout est bon à industrialiser. Et pendant ce temps, les « solutions » qu’on nous vend (filtres, signatures numériques, lois à la con) ne sont que des pansements sur une jambe de bois. Le vrai problème ? Un système qui permet à des sociétés de se faire de l’or sur le dos de gens qui n’ont rien demandé, et qui s’en sortent avec une tape sur les doigts.
Alors la prochaine fois qu’une startup vous vend « l’IA qui changera votre vie », demandez-vous quelle vie et celle de qui. Parce que la vôtre, elle est peut-être déjà en train d’être revendue au plus offrant.