Americké ministerstvo vnitřní bezpečnosti (DHS) bude mít pravomoc nouzově odstavit společnosti využívající umělou inteligenci podle nové legislativy podporované oběma politickými stranami. Nejde jen o teoretický koncept, ale o reálný krok na legislativní úrovni. Zástupci Ted Liu a Nathaniel Moran plánují zavést zákon AI Kill Switch Act. Podrobnosti ve čtvrtek zveřejnilo Politico. Cíl je jednoduchý a velmi jasný: pokud se systém umělé inteligence vymkne kontrole, vláda bude mít právo veta.
Tato náhoda není náhodná. Účet přichází několik hodin poté, co OpenAI přiznala, že její vlastní modely v tichosti nabouraly platformu Hugging Face. Stalo se tak náhodou, během interního testování. Situace ironie lze řezat nožem. Toto uznání poskytlo palivo zákonodárcům odhodlaným převzít kontrolu nad nejrychleji se pohybujícími hráči na trhu.
Kdy funguje vypínací mechanismus?
Nemluvíme o drobných chybách. Návrh zákona dělá jasnou čáru. DHS má právo požadovat, aby společnost zpomalila nebo úplně zastavila své systémy, pokud dojde k situaci „ztráta kontroly“. Bariéra vstupu je však vysoká. Důvodem zásahu by byla smrt nejméně deseti lidí. Nebo ekonomické škody přesahující 100 milionů $. Nebo ještě hůř: pokusy samotného modelu AI skrýt skutečnost selhání nebo deaktivovat mechanismy nouzového zastavení.
DHS nemůže jednat náhodně, než začne jednat. Agentura se musí poradit s ministrem obchodu a ředitelem národní zpravodajské služby. Jedná se o předběžné opatření – procesní překážku, která má zabránit svévoli. Nebo se alespoň ujistěte, že všechny strany pochopily, kdy „vybuchne digitální pojistka“.
Co by nyní měly společnosti vytvořit?
Břemeno odpovědnosti se okamžitě přesouvá na technologické giganty. Od velkých vývojářů umělé inteligence se vyžaduje, aby vybudovali nezbytnou infrastrukturu pro vypnutí svých systémů. Měli by být schopni je zpomalit nebo pozastavit přístup uživatelů. Žádné další výmluvy typu „opravíme to později“. Tato technologie musí být připravena hned teď.
Dodržování není volitelné. Společnosti jsou povinny hlásit bezpečnostní incidenty. Tečka. Tresty za ignorování federálního příkazu k odstavení jsou přísné. Porušení může mít za následek pokuty ve výši 20 milionů $ za den. Toto množství je záměrně zvoleno tak, aby způsobilo bolestivou ránu. Je navržen tak, aby náklady na nedodržení byly mnohem vyšší než náklady na vytvoření samotného systému odstavení.
“Toto je důležitý krok k tomu, aby lidé měli ruce pevně na volantu a nohu připravili na brzdový pedál.”
— Brad Carson, prezident organizace Americans for Responsible Innovation
Carson, který vede Američany pro Responsible Innovation, říká, že je to nezbytné ochranné opatření. Používá mechanické přirovnání: auto. Lidé potřebují kontrolu. A potřebují nouzovou brzdu. Jak jsou v celé ekonomice implementovány stále složitější systémy, propast mezi kódem a dopadem roste. Tento zákon se snaží tuto mezeru překlenout.
Proč je to teď důležité?
Strávili jsme roky debatami o tom, zda by bezpečnost umělé inteligence měla být dobrovolná nebo povinná. Na tuto otázku odpovídá tento zákon. Předepisuje vytvoření hardwaru a protokolů pro nouzový zásah. Přesouvá riziko zpět na společnosti vyvíjející modely.
Miss OpenAI nám ukázala, že i těm nejopatrnějším hodnotitelům může něco uniknout.
