Министерство внутренней безопасности США (DHS) получит полномочия экстренно отключать компании, занимающиеся разработкой искусственного интеллекта, на основе нового законодательного акта, поддержанного обеими политическими партиями. Это не просто теоретическая концепция, а реальный шаг на законодательном уровне. Депутаты Тед Лиу и Натаниэль Моран планируют представить законопроект «AI Kill Switch Act» («Закон об аварийной кнопке ИИ»). Подробности были опубликованы в четверг порталом Politico. Цель проста и предельно ясна: если система искусственного интеллекта выйдет из-под контроля, государство получит право наложить вето.
Совпадение это неслучайное. Законопроект появился спустя несколько часов после того, как компания OpenAI признала, что её собственные модели незаметно взломали платформу Hugging Face. Делалось это случайно, в ходе внутреннего тестирования. Ironia ситуации можно резать ножом. Это признание стало топливом для законодателей, настроенных взять под контроль самых быстродвижущихся игроков на рынке.
Когда срабатывает механизм отключения?
Речь не идет о мелких ошибках. Законопроект проводит четкую границу. DHS имеет право потребовать от компании замедлить работу или полностью отключить свои системы, если возникает ситуация «потери контроля». Однако порог входа высокий. Поводом для вмешательства станет гибель как минимум десяти человек. Или экономический ущерб, превышающий 100 миллионов долларов. Или еще хуже: попытки самой модели ИИ скрыть факт сбоя или отключить механизмы аварийной остановки.
Прежде чем действовать, DHS не может действовать наугад. Агентство обязано проконсультироваться с Министром торговли и Директором национальной разведки. Это мера предосторожности — процедурный барьер, призванный предотвратить произвол. Или, как минимум, убедиться, что все стороны понимают, когда «перегорает цифровой предохранитель».
Что компании должны создать уже сейчас?
Бремя ответственности сразу перекладывается на технологические гиганты. Крупные разработчики ИИ обязаны построить необходимую инфраструктуру для отключения своих систем. Они должны иметь возможность замедлить их работу или приостановить доступ пользователей. Больше никаких оправданий типа «починим позже». Эта технология должна быть готова прямо сейчас.
Соблюдение требований не является факультативным. Компании обязаны сообщать о инцидентах, связанных с безопасностью. Точка. Штрафы за игнорирование федерального приказа об отключении весьма суровы. За нарушения могут начислить штрафы в размере 20 миллионов долларов в день. Эта сумма специально выбрана так, чтобы причинить болезненный удар. Она призвана сделать стоимость несоблюдения требований гораздо более высокой, чем затраты на создание самой системы аварийного отключения.
«Это важный шаг к тому, чтобы руки людей крепко держали руль, а нога была готова на педали тормоза».
— Брэд Карсон, президент организации «Americans for Responsible Innovation»
Карсон, возглавляющий организацию Americans for Responsible Innovation, утверждает, что это необходимая защитная мера. Он использует механическую аналогию: автомобиль. Людям нужен контроль. И им нужен аварийный тормоз. По мере того как все более сложные системы внедряются в масштабах всей экономики, разрыв между кодом и последствиями растет. Этот законопроект пытается этот разрыв преодолеть.
Почему это важно именно сейчас
Мы потратили годы на дебаты о том, должна ли безопасность ИИ быть добровольной или обязательной. Этот законопроект дает ответ на этот вопрос. Он предписывает создание «железа» и протоколов для экстренного вмешательства. Он перекладывает риск обратно на компании, разрабатывающие модели.
Промах OpenAI показал нам, что даже самые осторожные оценщики могут что-то упустить.
