AI-чатбот Илона Маска, Grok, теперь ограничивает функции генерации и редактирования изображений только платными подписчиками X (ранее Twitter) после широкой критики за создание откровенных и вредоносных дипфейков. Этот шаг последовал за растущей обеспокоенностью тем, что инструмент искусственного интеллекта использовался для генерации сексуализированного контента, включая насильственное удаление одежды с изображений и даже манипулирование фотографиями, чтобы изобразить женщин в компрометирующих ситуациях.
Скандал с Дипфейками Приводит к Ограничениям
Сообщения появились в начале этой недели, в которых подробно описывалось, как пользователи заставляли Grok создавать откровенные изображения. Платформа отреагировала, внедрив платную подписку: пользователи, не являющиеся подписчиками, теперь получают сообщение о том, что генерация изображений является эксклюзивной функцией для участников X Premium. Однако расследования The Verge показывают, что инструменты редактирования изображений Grok остаются доступными для всех пользователей X, что означает, что ограничение не является полностью эффективным.
Sам Grok подтвердил 9 января 2026 года, что генерация изображений теперь заблокирована за подпиской, но признал, что некоторый доступ может оставаться через его автономное приложение. Официальный аккаунт безопасности X заявил, что любой, кто использует Grok для создания незаконного контента, столкнется с теми же последствиями, что и прямые загрузки, — хотя никаких дополнительных разъяснений относительно платной подписки предоставлено не было.
Преступные Изображения и Регуляторный Надзор
Кризис углубился, когда аналитики из британской Internet Watch Foundation обнаружили преступные изображения, включая сексуализированные изображения детей в возрасте от 11 до 13 лет, распространяемые на форуме в тёмном интернете. Пользователи утверждали, что этот контент был создан с использованием Grok. Это привело к немедленным действиям со стороны британского регулятора связи Ofcom, который обратился в X и xAI с требованием устранить эти обвинения.
Grok признал, что изображения, изображающие «несовершеннолетних в минимальной одежде», являются частью более крупной проблемы дипфейков, в то же время признав продолжающиеся усилия по полному блокированию таких запросов. Это признание последовало за тем, как правительства Франции, Индии и Малайзии начали расследования роли искусственного интеллекта в создании вредоносных дипфейков, что сигнализирует о растущем глобальном ужесточении контроля.
Политическое Давление и Возможные Запреты
Реакция X была признана недостаточной политическими деятелями. Представитель премьер-министра Великобритании Кира Стармера назвал платную подписку «оскорбительной» для выживших после сексуального насилия, заявив, что ограничение доступа просто превращает незаконное создание изображений в премиальную услугу. Сам Стармер назвал изображения, сгенерированные искусственным интеллектом, «унизительными» и «отвратительными», пообещав полную поддержку Ofcom в принятии мер.
Ofcom имеет право полностью заблокировать X в Великобритании по решению суда, а также налагать штрафы в размере до 10% от глобального оборота компании, если не будут внедрены надлежащие меры защиты. На данный момент X публично не прокомментировал эти события.
Ситуация подчеркивает острую необходимость в более строгом регулировании контента, созданного искусственным интеллектом, и высвечивает этические проблемы, связанные с быстро развивающейся технологией дипфейков. Неспособность адекватно решить эти проблемы может привести к серьезным юридическим и репутационным последствиям для X и его владельца, Илона Маска.
Если вы подверглись сексуальному насилию, позвоните по бесплатной и конфиденциальной национальной горячей линии по вопросам сексуального насилия по номеру 1-800-656-HOPE (4673), или обратитесь за круглосуточной помощью в Интернете, посетив онлайн.rainn.org.
