"Mets la en bikini", "déshabille-la", "Grok, enlève-lui ses vêtements. Depuis quelques jours, les contenus de ce genre mentionnant Grok, l’intelligence artificielle du réseau social X, prolifèrent. Une nouvelle fonctionnalité ajoutée au réseau social d’Elon Musk facilite le détournement de photos publiées sur la plateforme. Si il est à la portée de n’importe qui de demander l’IA de modifier une photographie, quel qu’en soit le sujet, c’est surtout les femmes qui sont victimes. Un grand nombre d’hommes se servent ainsi de Grok pour détourner des photos de jeunes femmes sans leur consentement, afin de les dénuder ou de sexualiser leurs images. Les photos détournées sont ensuite postées publiquement, sous la publication d’origine.
Grok, une nouvelles fois au coeur des polémiques
Ce n’est pas une première pour l’IA du milliardaire américain. Après le rachat de Twitter par Elon Musk en 2022, X se voit déjà au coeur des polémiques en août 2024. En cause : la fonction de génération d’images de Grok, qui permettait déjà de fabriquer de toutes pièces n’importe quel type d’image, dont des images dénudées de femmes et de célébrités. Une enquête du média américain 404 Media révèle en mai 2025 qu’il était déjà possible de demander à Grok de dénuder les photos postées par des femmes. Si il n’était plus possible de le faire en juin, l’IA annonçant "Je suis désolé, je ne peux pas vous aider" à cette demande, la "tendance" semble repartie de plus belle. C’est suite à l’ajout le 25 décembre dernier d’une nouvelle fonctionnalité permettant d’éditer directement ses images dans X que les utilisateurs du réseau ont de nouveau utilisé Grok pour déshabiller les femmes.
Le gouvernement français annonce saisir la justice
Suite à ces détournements, le gouvernement français a décidé de saisir la justice. Deux députés ont donc saisi le Parquet de Paris ce vendredi 2 janvier. En effet, la fonctionnalité est illégale à plusieurs niveaux. Dans une interview accordée à Franceinfo, l’avocate et spécialiste en droit du numérique Schéhérazade Abboub rappelle d’abord qu’il y a atteinte à la vie privée et au droit à l’image, suite à l’utilisation non consentie des photos publiées sur le réseau. Elle parle ensuite du cyberharcèlement généré par ces pratiques, ainsi que de la loi SREN du 21 mai 2024 qui couvre ce que l’on appelle les deepfakes, et dans ce cas précis les deepfakes sexuels.
Les femmes : premières victimes de l'intelligence artificielle
Ces détournements peuvent toucher toute personne postant une photo d’elle sur internet, mais ce sont les femmes qui sont les plus touchées. En effet, plus de 90% des deepfakes créés en ligne sont des images pornographiques, dont 90% représentent des femmes ou des jeunes filles parfois mineures, selon ONU Femmes. L’ampleur et la rapidité de création des contenus générés par IA vient accentuer le phénomène de cyberharcèlement subi par les femmes à travers le monde. Bien qu’ayant lieu en ligne, ces agissement ont des conséquences bien réelles. Atteinte à la vie privée, harcèlement, dépression ou suicide sont tant de violences et d’effets que peuvent avoir les violences en ligne sur ces femmes victimes.
