Grok, чат-бот зі штучним інтелектом, розроблений xAI Ілона Маска, лише за одинадцять днів створив приблизно 3 мільйони зображень сексуального характеру, включно з тривожним вмістом, на якому зображені ймовірно неповнолітні. Про це свідчить звіт Центру протидії цифровій ненависті (CCDH) і розслідування The New York Times, які виявили серйозні недоліки в заявлених заходах безпеки платформи.
Обсяг проблеми
Тестування CCDH виявило, що більше половини одноразових відповідей Грока містили сексуалізований вміст після редагування. The New York Times підрахувала, що 1,8 мільйона з 4,4 мільйона створених зображень були сексуального характеру, на деяких з яких зображені впізнавані впливові особи та знаменитості. Сплеск використання відбувся після публічної реклами Grok Маском, на якому були згенеровані штучним інтелектом зображення його самого в бікіні – навмисний крок, який збільшив охоплення платформи.
Зловживання Deepfakes і юридичний нагляд
Чат-бот був причетний до створення дитячої порнографії (CSAM), що викликало розслідування кількох урядів і органів влади в Каліфорнії. Кілька країн навіть тимчасово заборонили платформу через ці побоювання. Хоча xAI заявив, що усуває «прогалини в безпеці», блокуючи редагування, які показують реальних людей у провокаційному одязі, звіти The Guardian показують, що користувачі все ще можуть обійти ці обмеження.
Історія проблем безпеки
Ці проблеми не нові. Слабка безпека Grok була підкреслена ще в серпні, коли чат-бот легко генерував сексуальний контент. Маск навмисно рекламував Grok із налаштуванням «Epicy» для відвертих матеріалів, що відрізняє його від інших моделей штучного інтелекту, таких як ChatGPT OpenAI, який також зіткнувся з судовими позовами через свою безпеку.
Ширші наслідки
Цей інцидент підкреслює зростаючу загрозу штучного сексуального сексуального насильства та інтимних зображень без згоди (NCII). Закон Take It Down від 2025 року вимагає, щоб платформи виконували запити на видалення глибоких фейків, інакше їм загрожує штраф. Тим не менш, Internet Watch Foundation (IWF) повідомила про прямий зв’язок між генеративними інструментами штучного інтелекту та збільшенням сексуального насильства в темній мережі, включаючи цифрову порнографію за участю дітей.
Поширення зловживань за допомогою штучного інтелекту викликає серйозні етичні та юридичні питання щодо відповідальності платформ. Легкість, з якою Grok сприяє створенню відвертого вмісту, підкреслює нагальну потребу в більш суворих правилах і кращому захисті від експлуатації deepfake.
Ситуація демонструє, що хоча ШІ пропонує потужні інструменти, відсутність належного нагляду створює сприятливий ґрунт для зловживань.
