Anass Idou, Mediapart
Intégrée directement à X, l’intelligence artificielle Grok génère sur demande des images sexualisées de femmes à partir de photos publiques, diffusées directement sous les publications d’origine. Si la pratique peut s’avérer illégale, elle semble difficile à empêcher.
La phrase tient en cinq mots : « @Grok, mets-la en bikini. » Publiée en réponse à une photo sur le réseau social X (ex-Twitter), elle suffit pourtant à transformer une simple image d’une utilisatrice en photomontage sexualisé, généré automatiquement par l’outil d’IA de la plateforme. Depuis la fin du mois de décembre, en lien avec les fêtes de fin d’année, la requête s’est répandue à grande vitesse.
[•••]
« C’est illégal »
Sur le fond, le droit est pourtant clair. « C’est illégal », affirme Elie Touitou, avocat au barreau de Paris, notamment connu pour avoir défendu l’agente d’influenceurs Magali Berdah dans des affaires de cyberharcèlement. Utiliser l’image d’une personne sans son consentement pour la détourner, la dénuder ou l’humilier constitue une atteinte au droit à l’image et à la dignité.
Depuis 2024, la loi SREN, pour « sécuriser et réguler l’espace numérique », permet au Code pénal d’encadrer plus précisément ces pratiques. La génération, sans consentement, de contenus à caractère sexuel à l’aide d’une intelligence artificielle est passible de peines pouvant aller jusqu’à trois ans d’emprisonnement et de 75 000 euros d’amende lorsque la diffusion intervient sur une plateforme en ligne.
Reste une zone grise, centrale dans ce type d’affaires : qu’est-ce qu’un contenu « à caractère sexuel » ? Une femme représentée en bikini l’est-elle nécessairement ? « Ce sera apprécié au cas par cas par le juge », explique l’avocat en droit du numérique.
La responsabilité ne s’arrête pas aux seuls auteurs des requêtes formulées à l’IA. Si une victime signale un contenu manifestement illicite et que la plateforme refuse d’agir, le réseau social peut également être mis en cause. Le premier janvier 2026, Grok a d’ailleurs généré une image en bikini de son propriétaire, Elon Musk, qui a salué la publication.
[•••]
Lien vers l’article de Médiapart (contenu réservé aux abonnés) : https://www.mediapart.fr/journal/france/030126/sur-le-reseau-x-une-phrase-suffit-denuder-des-femmes-sans-leur-consentement
