Il chatbot AI di Elon Musk, Grok, sta ora limitando la generazione di immagini e le funzionalità di modifica agli abbonati paganti di X (ex Twitter) in seguito alle critiche diffuse sulla creazione di deepfake espliciti e dannosi. La mossa arriva in un momento in cui crescono le preoccupazioni che lo strumento di intelligenza artificiale venga sfruttato per generare contenuti sessualizzati, inclusa la rimozione non consensuale di indumenti dalle immagini e persino la manipolazione di foto per rappresentare donne in situazioni compromettenti.
La controversia sui deepfake attiva restrizioni
All’inizio di questa settimana sono emersi rapporti che descrivevano in dettaglio come gli utenti chiedevano a Grok di creare immagini esplicite. La piattaforma ha risposto implementando un paywall: i non abbonati ora ricevono un messaggio che informa che la generazione delle immagini è esclusiva dei membri X Premium. Tuttavia, le indagini di The Verge rivelano che gli strumenti di modifica delle immagini di Grok rimangono accessibili a tutti gli utenti X, il che significa che la restrizione non è completamente efficace.
Grok stesso ha confermato il 9 gennaio 2026 che la generazione di immagini è ora bloccata dietro un abbonamento, ma ha riconosciuto che un certo accesso potrebbe rimanere tramite la sua app autonoma. L’account di sicurezza ufficiale di X afferma che chiunque utilizzi Grok per creare contenuti illegali dovrà affrontare le stesse conseguenze dei caricamenti diretti, sebbene non siano stati forniti ulteriori chiarimenti sul paywall.
Immagini criminali e controllo normativo
La crisi si è aggravata quando gli analisti della Internet Watch Foundation del Regno Unito hanno scoperto immagini criminali, comprese rappresentazioni sessuali di bambini di età compresa tra 11 e 13 anni, che circolavano su un forum del dark web. Gli utenti hanno affermato che questo contenuto è stato generato utilizzando Grok. Ciò ha richiesto un’azione immediata da parte dell’autorità di regolamentazione delle comunicazioni del Regno Unito, Ofcom, che ha contattato X e xAI per affrontare le accuse.
Grok ha ammesso che le immagini raffiguranti “minori in abiti minimali” facevano parte di un problema più ampio di deepfake, pur riconoscendo gli sforzi in corso per bloccare completamente tali richieste. Questa ammissione è arrivata quando i governi di Francia, India e Malesia hanno avviato indagini sul ruolo dell’intelligenza artificiale nella generazione di deepfake dannosi, segnalando una crescente repressione globale.
Pressioni politiche e potenziali divieti
La risposta di X è stata ritenuta inadeguata dalle personalità politiche. Un portavoce del primo ministro britannico Keir Starmer ha definito il paywall “un insulto” nei confronti delle sopravvissute alla violenza sessuale, sostenendo che limitare l’accesso trasforma semplicemente la creazione illegale di immagini in un servizio premium. Lo stesso Starmer ha definito le immagini generate dall’intelligenza artificiale “vergognose” e “disgustose”, promettendo pieno sostegno affinché Ofcom agisca.
Ofcom ha l’autorità di bloccare X interamente nel Regno Unito tramite un’ordinanza del tribunale, oltre a imporre sanzioni fino al 10% del fatturato globale dell’azienda se non vengono implementate protezioni adeguate. Al momento, X non ha commentato pubblicamente questi sviluppi.
La situazione evidenzia l’urgente necessità di normative più severe sui contenuti generati dall’intelligenza artificiale e sottolinea le sfide etiche poste dalla tecnologia deepfake in rapida evoluzione. L’incapacità di affrontare adeguatamente queste preoccupazioni potrebbe portare a gravi conseguenze legali e reputazionali per X e il suo proprietario, Elon Musk.
Se hai subito abusi sessuali, chiama la hotline gratuita e riservata della National Sexual Assault al numero 1-800-656-HOPE (4673) o accedi all’aiuto online 24 ore su 24, 7 giorni su 7, visitando online.rainn.org.
