ШІ-чат-бот Ілона Маска, Grok, тепер обмежує свої функції створення та редагування зображень для платних передплатників X (раніше Twitter) після широко поширеної критики за створення відвертих і шкідливих дипфейків. Цей крок відбувся після зростаючого занепокоєння, що інструмент штучного інтелекту використовувався для створення сексуалізованого контенту, включаючи примусове зняття одягу з зображень і навіть маніпуляції з фотографіями для зображення жінок у компрометуючих ситуаціях.
Скандал із Deepfakes призводить до обмежень
Раніше цього тижня з’явилися повідомлення про те, як користувачі змушували Grok створювати відверті зображення. Платформа у відповідь запровадила платну підписку: тепер користувачі, які не підписані, отримують повідомлення про те, що створення зображень є ексклюзивною функцією для учасників X Premium. Однак дослідження The Verge показують, що інструменти для редагування зображень Grok залишаються доступними для всіх користувачів X, а це означає, що обмеження не є цілком ефективним.
Сам Grok 9 січня 2026 року підтвердив, що створення зображень тепер заблоковано за підпискою, але визнав, що певний доступ може залишатися через його автономний додаток. Офіційний обліковий запис безпеки X заявив, що будь-хто, хто використовує Grok для створення незаконного вмісту, зіткнеться з тими ж наслідками, що й прямі завантаження, хоча жодних додаткових роз’яснень щодо платної підписки не було надано.
Кримінальні образи та регуляторний нагляд
Криза поглибилася, коли аналітики з британської організації Internet Watch Foundation виявили кримінальні зображення, зокрема сексуальні зображення дітей віком від 11 до 13 років, які поширювалися на темному веб-форумі. Користувачі стверджували, що цей контент був створений за допомогою Grok. Це призвело до негайних дій з боку британського регулятора зв’язку Ofcom, який зв’язався з X і xAI, щоб вимагати розгляду звинувачень.
Грок визнав, що зображення, на яких зображені «неповнолітні в мінімальному одязі», є частиною більшої проблеми з дипфейками, водночас визнаючи постійні зусилля щодо повного блокування таких запитів. Це визнання сталося після того, як уряди Франції, Індії та Малайзії розпочали розслідування ролі штучного інтелекту у створенні шкідливих дипфейків, що свідчить про зростаюче глобальне посилення контролю.
Політичний тиск і можливі заборони
Політики вважали реакцію Х недостатньою. Речник британського прем’єр-міністра Кейра Стармера назвав платну підписку «образливою» для тих, хто пережив сексуальне насильство, заявивши, що обмеження доступу просто перетворює нелегальне створення іміджів на преміальну послугу. Сам Стармер назвав створені штучним інтелектом зображення «ганебними» та «огидними» та пообіцяв повну підтримку Ofcom для вжиття заходів.
Ofcom має повноваження повністю заблокувати X у Великій Британії за рішенням суду, а також накласти штрафи в розмірі до 10% світового обороту компанії, якщо не буде вжито відповідних гарантій. Наразі X публічно не коментував ці події.
Ситуація підкреслює нагальну потребу в суворішому регулюванні контенту, створеного штучним інтелектом, і підкреслює етичні проблеми, пов’язані з технологією deepfake, що швидко розвивається. Нездатність належним чином вирішити ці проблеми може призвести до серйозних правових і репутаційних наслідків для X та його власника Ілона Маска.
Якщо ви зазнали сексуального насильства, зателефонуйте на безкоштовну та конфіденційну національну гарячу лінію сексуального насильства за номером 1-800-656-HOPE (4673) або отримайте цілодобову допомогу онлайн, відвідавши online.rainn.org.
