Chatbot AI Elona Muska, Grok, ogranicza teraz swoje funkcje generowania i edytowania obrazów do płatnych subskrybentów X (dawniej Twittera) po powszechnej krytyce za tworzenie rażących i szkodliwych deepfake’ów. Posunięcie to wynikało z rosnących obaw, że narzędzie sztucznej inteligencji jest wykorzystywane do generowania treści o charakterze seksualnym, w tym do przymusowego usuwania ubrań ze zdjęć, a nawet manipulowania zdjęciami, aby przedstawiać kobiety w kompromitujących sytuacjach.
Skandal związany z Deepfakes prowadzi do ograniczeń
Na początku tego tygodnia pojawiły się raporty szczegółowo opisujące, w jaki sposób użytkownicy zmuszali Groka do tworzenia wulgarnych obrazów. Platforma zareagowała wprowadzeniem płatnej subskrypcji: osoby niebędące subskrybentami otrzymują teraz komunikat informujący, że generowanie obrazów jest funkcją dostępną wyłącznie dla członków X Premium. Jednakże badania The Verge pokazują, że narzędzia do edycji obrazów Groka pozostają dostępne dla wszystkich użytkowników X, co oznacza, że ograniczenie nie jest całkowicie skuteczne.
Sam Grok potwierdził 9 stycznia 2026 r., że generowanie obrazów jest obecnie zablokowane w ramach subskrypcji, ale przyznał, że pewien dostęp może pozostać za pośrednictwem jego samodzielnej aplikacji. Na oficjalnym koncie bezpieczeństwa X stwierdzono, że każdy, kto użyje Groka do tworzenia nielegalnych treści, poniesie takie same konsekwencje, jak bezpośrednie przesyłanie plików – chociaż nie podano dalszych wyjaśnień dotyczących płatnej subskrypcji.
Obrazy kryminalne i nadzór regulacyjny
Kryzys pogłębił się, gdy analitycy z brytyjskiej fundacji Internet Watch Foundation odkryli kryminalne obrazy, w tym obrazy dzieci w wieku od 11 do 13 lat o charakterze seksualnym, rozpowszechniane na ciemnym forum internetowym. Użytkownicy twierdzili, że ta treść została utworzona przy użyciu Groka. Doprowadziło to do natychmiastowych działań brytyjskiego organu regulacyjnego ds. komunikacji Ofcom, który skontaktował się z X i xAI z żądaniem ustosunkowania się do zarzutów.
Grok przyznał, że obrazy przedstawiające „nieletnich w minimalistycznym ubraniu” stanowią część większego problemu związanego z deepfakes, jednocześnie potwierdzając trwające wysiłki mające na celu całkowite zablokowanie takich żądań. Przyznanie to następuje po rozpoczęciu przez rządy Francji, Indii i Malezji dochodzeń w sprawie roli sztucznej inteligencji w tworzeniu złośliwych deepfakes, sygnalizując rosnące globalne zaostrzenie kontroli.
Presja polityczna i możliwe zakazy
Reakcja X została uznana przez polityków za niewystarczającą. Rzecznik brytyjskiego premiera Keira Starmera nazwał płatną subskrypcję „obraźliwą” dla osób, które doświadczyły napaści na tle seksualnym, twierdząc, że ograniczanie dostępu po prostu zamienia nielegalne tworzenie wizerunku w usługę premium. Sam Starmer nazwał obrazy wygenerowane przez sztuczną inteligencję „haniebnymi” i „obrzydliwymi” i zapewnił Ofcom pełne wsparcie w podjęciu działań.
Ofcom ma prawo całkowicie zablokować X w Wielkiej Brytanii na mocy postanowienia sądu, a także nałożyć kary w wysokości do 10% światowego obrotu firmy, jeśli nie zostaną wprowadzone odpowiednie zabezpieczenia. W tej chwili X nie skomentował publicznie tych wydarzeń.
Sytuacja uwypukla pilną potrzebę bardziej rygorystycznych przepisów dotyczących treści generowanych przez sztuczną inteligencję i uwypukla kwestie etyczne związane z szybko rozwijającą się technologią deepfake. Nieodpowiednie rozwiązanie tych kwestii może skutkować poważnymi konsekwencjami prawnymi i reputacyjnymi dla X i jego właściciela, Elona Muska.
Jeśli doświadczyłeś przemocy na tle seksualnym, zadzwoń na bezpłatną i poufną infolinię ds. przemocy na tle seksualnym pod numer 1-800-656-HOPE (4673) lub uzyskaj całodobową pomoc online, odwiedzając witrynę online.rainn.org.
