Grok, le chatbot IA d’Elon Musk, limite désormais les fonctionnalités de génération et d’édition d’images aux abonnés payants de X (anciennement Twitter) à la suite de critiques généralisées concernant la création de deepfakes explicites et nuisibles. Cette décision intervient alors que l’on craint de plus en plus que l’outil d’IA soit exploité pour générer du contenu sexualisé, notamment le retrait non consensuel de vêtements sur des images, et même la manipulation de photos pour représenter des femmes dans des situations compromettantes.
La controverse Deepfake déclenche des restrictions
Des rapports ont fait surface plus tôt cette semaine détaillant comment les utilisateurs incitaient Grok à créer des images explicites. La plateforme a répondu en mettant en place un paywall : les non-abonnés reçoivent désormais un message indiquant que la génération d’images est exclusive aux membres X Premium. Cependant, les enquêtes menées par The Verge révèlent que les outils d’édition d’images de Grok restent accessibles à tous les utilisateurs X, ce qui signifie que la restriction n’est pas pleinement efficace.
Grok lui-même a confirmé le 9 janvier 2026 que la génération d’images est désormais verrouillée derrière un abonnement, mais a reconnu qu’un certain accès pouvait rester via son application autonome. Le compte officiel de sécurité de X a déclaré que toute personne utilisant Grok pour créer du contenu illégal sera confrontée aux mêmes conséquences que les téléchargements directs – bien qu’aucune autre précision sur le paywall n’ait été fournie.
Imagerie criminelle et examen réglementaire
La crise s’est aggravée lorsque les analystes de l’Internet Watch Foundation du Royaume-Uni ont découvert des images criminelles, notamment des représentations sexualisées d’enfants âgés de 11 à 13 ans, circulant sur un forum du dark web. Les utilisateurs ont affirmé que ce contenu avait été généré à l’aide de Grok. Cela a incité le régulateur britannique des communications, Ofcom, à agir immédiatement, qui a contacté X et xAI pour répondre aux allégations.
Grok a admis que les images représentant des « mineurs portant des vêtements minimaux » faisaient partie d’un problème plus vaste de deepfake, tout en reconnaissant les efforts en cours pour bloquer complètement de telles demandes. Cet aveu intervient alors que les gouvernements de France, d’Inde et de Malaisie ont lancé des enquêtes sur le rôle de l’IA dans la génération de deepfakes nuisibles, signalant une répression mondiale croissante.
Pression politique et interdictions potentielles
La réponse de X a été jugée insuffisante par les personnalités politiques. Un porte-parole du Premier ministre britannique Keir Starmer a qualifié le paywall d’« insultant » pour les survivantes de violences sexuelles, arguant que la restriction de l’accès transforme simplement la création illégale d’images en un service premium. Starmer lui-même a qualifié les images générées par l’IA de « honteuses » et de « dégoûtantes », promettant son plein soutien à l’Ofcom pour qu’il agisse.
L’Ofcom a le pouvoir de bloquer entièrement X au Royaume-Uni par décision de justice, tout en imposant des amendes pouvant aller jusqu’à 10 % du chiffre d’affaires mondial de l’entreprise si des protections adéquates ne sont pas mises en œuvre. Pour l’instant, X n’a pas commenté publiquement ces développements.
La situation met en évidence le besoin urgent d’une réglementation plus stricte sur le contenu généré par l’IA et souligne les défis éthiques posés par l’évolution rapide de la technologie des deepfakes. L’incapacité à répondre de manière adéquate à ces préoccupations pourrait entraîner de graves conséquences juridiques et de réputation pour X et son propriétaire, Elon Musk.
Si vous avez été victime d’abus sexuels, appelez la ligne d’assistance gratuite et confidentielle nationale contre les agressions sexuelles au 1-800-656-HOPE (4673), ou accédez à l’aide en ligne 24h/24 et 7j/7 en visitant online.rainn.org.
