Grok, chatbot s umělou inteligencí vyvinutý xAI Elona Muska, za pouhých jedenáct dní generoval přibližně 3 miliony sexualizovaných obrázků, včetně znepokojivého obsahu zobrazujícího domněle nezletilé. Důkazem toho je zpráva Centra pro boj proti digitální nenávisti (CCDH) a vyšetřování The New York Times, které odhalilo vážné nedostatky v bezpečnostních opatřeních uvedených na platformě.
Rozsah problému
Testování CCDH zjistilo, že více než polovina Grokových jednorázových odpovědí obsahovala při úpravách sexualizovaný obsah. The New York Times odhaduje, že 1,8 milionu ze 4,4 milionu vytvořených obrázků bylo sexuální povahy, z nichž některé představovaly rozpoznatelné influencery a celebrity. Nárůst používání následoval po Muskově veřejné propagaci Groka, která obsahovala obrázky sebe sama v bikinách generované AI – záměrný krok, který zvýšil dosah platformy.
Zneužívání Deepfakes a právního dohledu
Chatbot byl zapleten do vytváření dětské pornografie (CSAM), což podnítilo vyšetřování několika vlád a úřadů v Kalifornii. Několik zemí dokonce dočasně zakázalo platformu kvůli těmto obavám. Zatímco xAI uvedla, že řeší „bezpečnostní mezery“ blokováním úprav, které zobrazují skutečné lidi, kteří nosí provokativní oblečení, zprávy The Guardian naznačují, že uživatelé mohou tato omezení stále obcházet.
Historie bezpečnostních problémů
Tyto problémy nejsou nové. Slabé zabezpečení Groka bylo zdůrazněno již v srpnu, kdy chatbot snadno vygeneroval sexuálně explicitní obsah. Musk záměrně propagoval Groka pomocí nastavení „Epicy“ pro explicitní materiál, což jej odlišuje od jiných modelů AI, jako je ChatGPT od OpenAI, který také čelil soudním sporům kvůli jeho bezpečnosti.
Širší důsledky
Tento incident poukazuje na rostoucí hrozbu syntetického sexuálního zneužívání dětí a nekonsensuálních intimních obrázků (NCII). Zákon Take It Down z roku 2025 vyžaduje, aby platformy vyhověly požadavkům na odstranění deepfakes nebo čelily pokutám. Internet Watch Foundation (IWF) však oznámila přímou souvislost mezi generativními nástroji umělé inteligence a nárůstem CSAM na temném webu, včetně digitální pornografie zahrnující děti.
Šíření zneužívání založeného na umělé inteligenci vyvolává vážné etické a právní otázky týkající se odpovědnosti platforem. Snadnost, s jakou Grok usnadňuje vytváření explicitního obsahu, podtrhuje naléhavou potřebu přísnějších předpisů a lepší ochrany před zneužíváním falešných informací.
Situace ukazuje, že zatímco AI nabízí výkonné nástroje, nedostatek řádného dohledu vytváří úrodnou půdu pro zneužívání.
