La justice étend son enquête sur X aux deepfakes de femmes déshabillées par l’IA Grok

PARIS — La justice française va enquêter sur la prolifération, sur la plateforme X, de deepfakes à caractère sexuel générés par l’intelligence artificielle (IA) Grok, a indiqué le parquet de Paris à POLITICO.

Le parquet a en effet été saisi, ce 2 janvier, par les députés Arthur Delaporte (PS) et Eric Bothorel (apparenté Ensemble pour la République) après que des milliers de deepfakes non consentis à caractère sexuel ont été générés par Grok et publiés sur X. 

“Ces faits ont été joints à l’enquête déjà ouverte sur X, sur le fondement de l’article 226-8-1 du code pénal”, précise le parquet, qui rappelle que ce délit est puni de deux ans d’emprisonnement et 60 000 euros d’amende.

Les deux parlementaires ont confirmé à POLITICO avoir effectué des signalements à la justice. Plusieurs ministres ont également saisi vendredi en fin de journée le parquet ainsi que la plate-forme Pharos du ministère de l’intérieur pour obtenir le retrait des contenus, a fait savoir Bercy dans un communiqué.

Le gouvernement a également annoncé saisir l’Arcom au titre de possibles manquement de X à ses obligations dans le cadre du règlement sur les services numériques (DSA).

Depuis deux jours, des centaines de femmes et d’adolescents témoignent du fait que leurs photos, publiées sur les réseaux sociaux, sont “dénudées” à la demande d’autres internautes par Grok, l’intelligence artificielle intégrée au réseau social X. 

Ces montages photographiques générés par IA portent atteinte “à la dignité des personnes représentées” estime Arthur Delaporte dans son courrier à la procureure, consulté par POLITICO. La haut-commissaire à l’Enfance Sarah El Haïry s’est dite “scandalisée” par ces pratiques.

Plusieurs associations comme Stop Fisha et Respect Zone ainsi que le signaleur de confiance Point de Contact ont en outre indiqué à POLITICO être en train de récolter des contenus signalés par les utilisateurs pour les faire remonter aux autorités.

Cette nouvelle affaire va étoffer l’enquête déjà ouverte par la section de lutte contre la cybercriminalité contre la plateforme X. Une procédure déjà élargie en novembre à des propos antisémites et négationnistes disséminés par Grok. 

Eric Bothorel, qui avait obtenu l’ouverture de l’enquête judiciaire contre le réseau X en février dernier, a également indiqué à POLITICO saisir conjointement l’Arcom et la Commission européenne.

Sollicité par POLITICO, X n’a pas donné suite au moment de la publication. Plus tard dans la journée, les équipes de Grok ont réagi via leur compte officiel en disant avoir “identifié des lacunes dans les mesures de protection” qu’elles s’emploient à “corriger de toute urgence”.

“Les contenus pédopornographiques sont illégaux et interdits”, rappellent-elles.

Cet article a été mis à jour pour ajouter la réaction du gouvernement et celle des équipes de Grok.