De AI-chatbot van Elon Musk, Grok, beperkt de functies voor het genereren en bewerken van afbeeldingen nu tot betalende abonnees van X (voorheen Twitter) na wijdverbreide kritiek op het creëren van expliciete en schadelijke deepfakes. Deze stap komt voort uit de groeiende bezorgdheid dat de AI-tool werd uitgebuit om geseksualiseerde inhoud te genereren, waaronder het zonder wederzijds goedvinden verwijderen van kleding uit afbeeldingen en zelfs de manipulatie van foto’s om vrouwen in compromitterende situaties af te beelden.
Deepfake-controverse leidt tot beperkingen
Eerder deze week doken er rapporten op waarin werd beschreven hoe gebruikers Grok aanspoorden om expliciete beelden te maken. Het platform reageerde door een betaalmuur te implementeren: niet-abonnees ontvangen nu een bericht waarin staat dat het genereren van afbeeldingen exclusief is voor X Premium-leden. Uit onderzoek van The Verge blijkt echter dat de beeldbewerkingstools van Grok toegankelijk blijven voor alle X-gebruikers, wat betekent dat de beperking niet volledig effectief is.
Grok bevestigde zelf op 9 januari 2026 dat het genereren van afbeeldingen nu is vergrendeld achter een abonnement, maar erkende dat er mogelijk enige toegang blijft via de zelfstandige app. In het officiële veiligheidsaccount van X stond dat iedereen die Grok gebruikt om illegale inhoud te maken, met dezelfde gevolgen te maken krijgt als directe uploads – hoewel er geen verdere verduidelijking over de betaalmuur werd gegeven.
Criminele inbeelding en toezicht op de regelgeving
De crisis verergerde toen analisten van de Britse Internet Watch Foundation criminele beelden ontdekten, waaronder geseksualiseerde afbeeldingen van kinderen tussen 11 en 13 jaar, die op een dark web-forum circuleerden. Gebruikers beweerden dat deze inhoud met Grok was gegenereerd. Dit leidde tot onmiddellijke actie van de Britse communicatieregulator Ofcom, die contact opnam met X en xAI om de beschuldigingen aan te pakken.
Grok gaf toe dat afbeeldingen van ‘minderjarigen in minimale kleding’ deel uitmaakten van een groter deepfake-probleem, terwijl hij de voortdurende inspanningen erkende om dergelijke verzoeken volledig te blokkeren. Deze bekentenis kwam toen regeringen in Frankrijk, India en Maleisië onderzoeken startten naar de rol van AI bij het genereren van schadelijke deepfakes, wat een signaal was van een groeiend mondiaal hardhandig optreden.
Politieke druk en mogelijke verboden
De reactie van X wordt door politieke figuren als ontoereikend beschouwd. Een woordvoerder van de Britse premier Keir Starmer noemde de betaalmuur ‘beledigend’ voor overlevenden van seksueel geweld, met het argument dat het beperken van de toegang het creëren van onwettige beelden alleen maar tot een premiumdienst maakt. Starmer zelf bestempelde de door AI gegenereerde beelden als ‘schandelijk’ en ‘walgelijk’ en beloofde Ofcom volledige steun te verlenen om actie te ondernemen.
Ofcom heeft de bevoegdheid om X binnen Groot-Brittannië via een gerechtelijk bevel volledig te blokkeren, naast het opleggen van boetes tot 10% van de wereldwijde omzet van het bedrijf als er geen adequate bescherming wordt geboden. Tot nu toe heeft X niet publiekelijk gereageerd op deze ontwikkelingen.
De situatie benadrukt de dringende behoefte aan strengere regelgeving voor door AI gegenereerde inhoud en onderstreept de ethische uitdagingen die de snel evoluerende deepfake-technologie met zich meebrengt. Het onvermogen om deze zorgen adequaat aan te pakken zou kunnen leiden tot ernstige juridische en reputatiegevolgen voor X en zijn eigenaar, Elon Musk.
Als u seksueel misbruik heeft meegemaakt, kunt u de gratis, vertrouwelijke National Sexual Assault hotline bellen op 1-800-656-HOPE (4673), of toegang krijgen tot de 24/7 online hulp door naar online.rainn.org te gaan.
