AI chatbot Elona Muska, Grok, nyní omezuje své funkce generování a úprav obrázků na placené předplatitele X (dříve Twitter) po rozsáhlé kritice za vytváření do očí bijících a škodlivých deepfakes. Tento krok následoval rostoucí obavy, že nástroj umělé inteligence byl používán k vytváření sexualizovaného obsahu, včetně násilného odstraňování oblečení z obrázků a dokonce manipulace s fotografiemi, aby zobrazovaly ženy v kompromitujících situacích.
Skandál Deepfakes vede k omezením
Na začátku tohoto týdne se objevily zprávy, které podrobně popisují, jak uživatelé nutili Groka k vytváření explicitních obrázků. Platforma reagovala zavedením placeného předplatného: Nepředplatitelé nyní dostávají zprávu, že generování obrázků je exkluzivní funkcí pro členy X Premium. Vyšetřování The Verge však ukazuje, že nástroje pro úpravu obrázků Groku zůstávají dostupné všem uživatelům X, což znamená, že omezení není zcela účinné.
Grok sám potvrdil 9. ledna 2026, že generování obrázků je nyní uzamčeno za předplatné, ale uznal, že určitý přístup může zůstat prostřednictvím jeho samostatné aplikace. Oficiální bezpečnostní účet X uvedl, že každý, kdo použije Grok k vytvoření nelegálního obsahu, bude čelit stejným následkům jako přímé nahrávání – ačkoli nebylo poskytnuto žádné další vysvětlení ohledně placeného předplatného.
Kriminální obrázky a regulační dohled
Krize se prohloubila, když analytici z britské Internet Watch Foundation objevili kriminální obrázky, včetně sexualizovaných obrázků dětí ve věku 11 až 13 let, které kolovaly na temném webovém fóru. Uživatelé tvrdili, že tento obsah byl vytvořen pomocí Groku. To vedlo k okamžitému zásahu britského regulátora komunikace Ofcom, který kontaktoval X a xAI s žádostí o vyřešení obvinění.
Grok uznal, že obrázky zobrazující „nezletilé v minimálním oblečení“ jsou součástí většího problému s deepfakes, a zároveň uznal pokračující snahy takové požadavky zcela blokovat. Přiznání přichází v době, kdy vlády Francie, Indie a Malajsie zahájily vyšetřování role umělé inteligence při vytváření škodlivých deepfake, což signalizuje rostoucí globální zpřísňování kontrol.
Politický tlak a možné zákazy
Reakci X považovali politici za nedostatečnou. Mluvčí britského premiéra Keira Starmera nazval placené předplatné „urážlivým“ pro osoby, které přežily sexuální napadení, a uvedl, že omezení přístupu jednoduše změní nelegální vytváření obrázků na prémiovou službu. Sám Starmer označil obrázky vytvořené umělou inteligencí za „hanebné“ a „hnusné“ a přislíbil plnou podporu Ofcomu, aby podnikl kroky.
Ofcom má pravomoc zcela zablokovat X ve Spojeném království na základě soudního příkazu a také udělit pokuty až do výše 10 % globálního obratu společnosti, pokud nebudou zavedena odpovídající ochranná opatření. V tuto chvíli X tyto události veřejně nekomentoval.
Situace zdůrazňuje naléhavou potřebu přísnější regulace obsahu generovaného umělou inteligencí a upozorňuje na etické problémy související s rychle se vyvíjející technologií deepfake. Neschopnost adekvátně tyto problémy řešit může mít vážné právní následky a důsledky pro pověst společnosti X a jejího vlastníka Elona Muska.
Pokud jste byli sexuálně napadeni, zavolejte na bezplatnou a důvěrnou linku National Sexual Assault Hotline na čísle 1-800-656-HOPE (4673) nebo získejte 24hodinovou pomoc online na webu online.rainn.org.
