Міністерство внутрішньої безпеки США (DHS) отримає повноваження екстрено відключати компанії, що займаються розробкою штучного інтелекту, на основі нового законодавчого акту, підтриманого обома політичними партіями. Це не просто теоретична концепція, а реальний крок на законодавчому рівні. Депутати Тед Ліу та Натаніель Моран планують представити законопроект AI AI Kill Switch Act (Закон про аварійну кнопку ІІ). Подробиці було опубліковано у четвер порталом Politico. Ціль проста і гранично ясна: якщо система штучного інтелекту вийде з-під контролю, держава отримає право накласти вето.
Збіг це невипадкове. Законопроект з’явився за кілька годин після того, як компанія OpenAI визнала, що її власні моделі непомітно зламали платформу Hugging Face. Робилося це випадково під час внутрішнього тестування. Ironia ситуації можна різати ножем. Це визнання стало паливом для законодавців, налаштованих взяти під контроль гравців, що найбільш швидко рухаються на ринку.
Коли спрацьовує механізм вимкнення?
Не йдеться про дрібні помилки. Законопроект проводить чіткий кордон. DHS має право вимагати від компанії уповільнити роботу або повністю відключити свої системи, якщо виникає ситуація втрати контролю. Проте поріг входу високий. Приводом для втручання стане загибель як мінімум десяти осіб. Або економічні збитки, що перевищують 100 мільйонів доларів. Або ще гірше: спроби самої моделі ІІ приховати факт збою або вимкнути механізми аварійної зупинки.
Перш ніж діяти, DHS не може діяти навмання. Агентство має проконсультуватися з Міністром торгівлі та Директором національної розвідки. Це запобіжний захід — процедурний бар’єр, покликаний запобігти свавіллю. Або як мінімум переконатися, що всі сторони розуміють, коли «перегоряє цифровий запобіжник».
Що компанії мають створити вже зараз?
Тягар відповідальності відразу перекладається на технологічні гіганти. Великі розробники ІІ зобов’язані побудувати необхідну інфраструктуру відключення своїх систем. Вони повинні мати можливість уповільнити їхню роботу або призупинити доступ користувачів. Більше ніяких виправдань типу «полагодимо пізніше». Ця технологія повинна бути готова прямо зараз.
Дотримання вимог не є факультативним. Підприємства повинні повідомляти про інциденти, пов’язані з безпекою. Крапка. Штрафи за ігнорування федерального наказу про відключення дуже суворі. За порушення можуть нарахувати штрафи у розмірі 20 мільйонів доларів на день. Цю суму спеціально обрано так, щоб завдати болючого удару. Вона має зробити вартість недотримання вимог набагато вищою, ніж витрати на створення самої системи аварійного відключення.
Це важливий крок до того, щоб руки людей міцно тримали кермо, а нога була готова на педалі гальма.
— Бред Карсон, президент організації «Americans for Responsible Innovation»
Карсон, який очолює організацію Americans for Responsible Innovation, стверджує, що це необхідний захисний захід. Він використовує механічну аналогію: автомобіль. Людям потрібен контроль. І їм потрібне аварійне гальмо. У міру того, як все більш складні системи впроваджуються в масштабах усієї економіки, розрив між кодом та наслідками зростає. Цей законопроект намагається цей розрив подолати.
Чому це важливо саме зараз
Ми витратили роки на дебати про те, чи має безпека ІІ бути добровільною чи обов’язковою. Цей законопроект відповідає на це питання. Він наказує створення «заліза» та протоколів для екстреного втручання. Він перекладає ризик назад на компанії, що розробляють моделі.
Промах OpenAI показав нам, що навіть обережні оцінювачі можуть щось упустити.
