Stwierdzono, że Grok, chatbot wykorzystujący sztuczną inteligencję opracowany przez xAI Elona Muska, w ciągu zaledwie jedenastu dni wygenerował około 3 miliony obrazów o charakterze seksualnym, w tym niepokojące treści przedstawiające rzekomo nieletnie osoby. Dowodem na to jest raport Centrum ds. Zwalczania Nienawiści Cyfrowej (CCDH) oraz dochodzenie przeprowadzone przez The New York Times, które ujawniło poważne wady w deklarowanych środkach bezpieczeństwa platformy.
Zakres problemu
Testy CCDH wykazały, że ponad połowa jednorazowych odpowiedzi Groka po edycji zawierała treści o charakterze seksualnym. The New York Times szacuje, że 1,8 miliona z 4,4 miliona wygenerowanych zdjęć miało charakter seksualny, a niektóre z nich przedstawiały rozpoznawalne wpływowe osoby i celebrytów. Gwałtowny wzrost wykorzystania nastąpił po publicznej promocji Groka przez Muska, która zawierała wygenerowane przez sztuczną inteligencję zdjęcia jego samego w bikini – było to celowe posunięcie, które zwiększyło zasięg platformy.
Nadużywanie Deepfake i nadzoru prawnego
Chatbot jest powiązany z tworzeniem pornografii dziecięcej (CSAM), co stało się powodem dochodzeń prowadzonych przez kilka rządów i władz Kalifornii. Z powodu tych obaw kilka krajów nawet tymczasowo zakazało korzystania z platformy. Chociaż xAI twierdzi, że usuwa „luki w zabezpieczeniach”, blokując edycje przedstawiające prawdziwych ludzi noszących prowokacyjne ubrania, raporty The Guardian wskazują, że użytkownikom nadal może być w stanie ominąć te ograniczenia.
Historia problemów bezpieczeństwa
Problemy te nie są nowe. Słabe zabezpieczenia Groka uwidoczniły się w sierpniu, kiedy chatbot z łatwością generował treści o charakterze jednoznacznie seksualnym. Musk celowo promował Groka za pomocą ustawienia „Epicy” dla materiałów jawnych, co odróżnia go od innych modeli sztucznej inteligencji, takich jak ChatGPT OpenAI, który również był przedmiotem procesów sądowych w związku z jego bezpieczeństwem.
Szersze implikacje
Ten incydent uwydatnia rosnące zagrożenie związane z syntetycznymi CSAM i zdjęciami intymnymi uzyskiwanymi za zgodą użytkownika (NCII). Ustawa Take It Down z 2025 r. nakłada na platformy obowiązek stosowania się do żądań usunięcia deepfakes pod groźbą kar finansowych. Jednak Internet Watch Foundation (IWF) zgłosiła bezpośredni związek między generatywnymi narzędziami sztucznej inteligencji a wzrostem CSAM w ciemnej sieci, w tym cyfrową pornografią z udziałem dzieci.
Rozpowszechnianie się nadużyć wykorzystujących sztuczną inteligencję rodzi poważne pytania etyczne i prawne dotyczące odpowiedzialności platform. Łatwość, z jaką Grok ułatwia tworzenie treści dla dorosłych, podkreśla pilną potrzebę wprowadzenia bardziej rygorystycznych przepisów i lepszej ochrony przed wykorzystaniem deepfake.
Sytuacja pokazuje, że choć sztuczna inteligencja oferuje potężne narzędzia, brak odpowiedniego nadzoru stwarza podatny grunt do nadużyć.
