Elon Musks KI-Chatbot Grok beschränkt die Bildgenerierungs- und Bearbeitungsfunktionen nun auf zahlende Abonnenten von X (ehemals Twitter), nachdem weit verbreitete Kritik an der Erstellung expliziter und schädlicher Deepfakes besteht. Der Schritt erfolgt vor dem Hintergrund wachsender Bedenken, dass das KI-Tool zur Generierung sexualisierter Inhalte missbraucht wird, einschließlich der nicht einvernehmlichen Entfernung von Kleidung aus Bildern und sogar der Manipulation von Fotos, um Frauen in kompromittierenden Situationen darzustellen.
Deepfake-Kontroverse löst Einschränkungen aus
Anfang dieser Woche tauchten Berichte auf, in denen detailliert beschrieben wurde, wie Benutzer Grok dazu aufforderten, explizite Bilder zu erstellen. Die Plattform reagierte mit der Einführung einer Paywall: Nicht-Abonnenten erhalten nun eine Nachricht, dass die Bilderzeugung ausschließlich X Premium-Mitgliedern vorbehalten ist. Untersuchungen von The Verge zeigen jedoch, dass die Bildbearbeitungstools von Grok weiterhin für alle X-Benutzer zugänglich sind, sodass die Einschränkung nicht vollständig wirksam ist.
Grok selbst bestätigte am 9. Januar 2026, dass die Bilderzeugung nun an ein Abonnement gebunden ist, räumte jedoch ein, dass ein gewisser Zugriff möglicherweise weiterhin über seine eigenständige App besteht. Im offiziellen Sicherheitskonto von
Kriminelle Bilder und behördliche Kontrolle
Die Krise verschärfte sich, als Analysten der britischen Internet Watch Foundation kriminelle Bilder entdeckten, darunter sexualisierte Darstellungen von Kindern im Alter von 11 bis 13 Jahren, die in einem Dark-Web-Forum kursierten. Benutzer behaupteten, dieser Inhalt sei mit Grok generiert worden. Dies veranlasste die britische Kommunikationsregulierungsbehörde Ofcom zu sofortigen Maßnahmen, die X und xAI kontaktierten, um die Vorwürfe zu klären.
Grok gab zu, dass Bilder, die „Minderjährige in Minimalkleidung“ zeigten, Teil eines größeren Deepfake-Problems seien, würdigte aber gleichzeitig die laufenden Bemühungen, solche Anfragen gänzlich zu blockieren. Dieses Eingeständnis erfolgte, als Regierungen in Frankreich, Indien und Malaysia Untersuchungen zur Rolle der KI bei der Generierung schädlicher Deepfakes einleiteten, was auf ein zunehmendes weltweites Vorgehen hindeutete.
Politischer Druck und mögliche Verbote
Die Reaktion von X wurde von politischen Persönlichkeiten als unzureichend erachtet. Ein Sprecher des britischen Premierministers Keir Starmer bezeichnete die Paywall als „beleidigend“ für Überlebende sexueller Gewalt und argumentierte, dass die Beschränkung des Zugangs die illegale Erstellung von Bildern lediglich zu einem Premiumdienst mache. Starmer selbst bezeichnete die von der KI erzeugten Bilder als „schändlich“ und „ekelhaft“ und versprach Ofcom seine volle Unterstützung, Maßnahmen zu ergreifen.
Ofcom ist befugt, X per Gerichtsbeschluss vollständig im Vereinigten Königreich zu sperren und Geldstrafen in Höhe von bis zu 10 % des weltweiten Umsatzes des Unternehmens zu erheben, wenn keine angemessenen Schutzmaßnahmen umgesetzt werden. Bisher hat X diese Entwicklungen nicht öffentlich kommentiert.
Die Situation verdeutlicht die dringende Notwendigkeit strengerer Vorschriften für KI-generierte Inhalte und unterstreicht die ethischen Herausforderungen, die sich aus der sich schnell entwickelnden Deepfake-Technologie ergeben. Das Versäumnis, diese Bedenken angemessen auszuräumen, könnte zu schwerwiegenden rechtlichen und rufschädigenden Konsequenzen für X und seinen Eigentümer Elon Musk führen.
Wenn Sie sexuellen Missbrauch erlebt haben, rufen Sie die kostenlose, vertrauliche National Sexual Assault-Hotline unter 1-800-656-HOPE (4673) an oder greifen Sie online auf online.rainn.org zu, um rund um die Uhr Hilfe zu erhalten.
