Amerykański Departament Bezpieczeństwa Wewnętrznego (DHS) będzie miał uprawnienia do awaryjnego zamykania firm zajmujących się sztuczną inteligencją na mocy nowego ustawodawstwa popieranego przez obie partie polityczne. To nie jest tylko koncepcja teoretyczna, ale realny krok na poziomie legislacyjnym. Przedstawiciele Ted Liu i Nathaniel Moran planują wprowadzenie ustawy Kill Switch Act. Szczegóły opublikował w czwartek dziennik „Politico”. Cel jest prosty i bardzo jasny: jeśli system sztucznej inteligencji wymknie się spod kontroli, rząd będzie miał prawo zawetować.
Ta zbieżność nie jest przypadkowa. Ustawa pojawia się kilka godzin po tym, jak OpenAI przyznało, że jego własne modele po cichu włamały się na platformę Hugging Face. Stało się to przez przypadek, podczas wewnętrznych testów. Ironiczne sytuacje można ciąć nożem. To uznanie dało paliwo prawodawcom zdeterminowanym, by przejąć kontrolę nad najszybciej rozwijającymi się graczami na rynku.
Kiedy działa mechanizm wyłączający?
Nie mówimy o drobnych błędach. Ustawa rysuje wyraźną linię. DHS ma prawo wymagać od firmy spowolnienia lub całkowitego wyłączenia systemów, jeśli wystąpi sytuacja „utraty kontroli”. Bariera wejścia jest jednak wysoka. Powodem interwencji byłaby śmierć co najmniej dziesięciu osób. Lub szkody ekonomiczne przekraczające 100 milionów dolarów. Albo jeszcze gorzej: próby przez sam model AI ukrycia faktu awarii lub wyłączenia mechanizmów zatrzymania awaryjnego.
DHS nie może działać losowo, zanim zacznie działać. Agencja ma obowiązek konsultować się z Sekretarzem Handlu i Dyrektorem Wywiadu Narodowego. Jest to środek zapobiegawczy – bariera proceduralna mająca na celu zapobieganie arbitralności. Albo przynajmniej upewnij się, że wszystkie strony rozumieją, kiedy przepali się „cyfrowy bezpiecznik”.
Co firmy powinny teraz tworzyć?
Ciężar odpowiedzialności zostaje natychmiast przerzucony na gigantów technologicznych. Duzi twórcy sztucznej inteligencji są zobowiązani do zbudowania infrastruktury niezbędnej do zamknięcia swoich systemów. Powinny być w stanie je spowolnić lub zawiesić dostęp użytkownika. Koniec z wymówkami w stylu „naprawimy to później”. Ta technologia musi być gotowa w tej chwili.
Zgodność nie jest opcjonalna. Firmy mają obowiązek zgłaszania incydentów związanych z bezpieczeństwem. Kropka. Kary za zignorowanie federalnego nakazu zamknięcia są surowe. Naruszenia mogą skutkować karami finansowymi w wysokości 20 milionów dolarów dziennie. Ilość ta jest celowo dobrana tak, aby wywołać bolesny cios. Został zaprojektowany tak, aby koszt niezgodności był znacznie wyższy niż koszt stworzenia samego systemu wyłączania.
„To ważny krok w kierunku położenia rąk na kierownicy i przygotowania stóp do naciśnięcia pedału hamulca”.
— Brad Carson, prezes organizacji Americans for Responsible Innovation
Carson, który kieruje organizacją Americans for Responsible Innovation, twierdzi, że jest to niezbędny środek ochronny. Używa analogii mechanicznej: samochód. Ludzie potrzebują kontroli. I potrzebują hamulca awaryjnego. W miarę wdrażania w całej gospodarce coraz bardziej złożonych systemów zwiększa się rozbieżność między kodem a wpływem. Ta ustawa ma na celu wypełnienie tej luki.
Dlaczego jest to teraz ważne?
Spędziliśmy lata debatując, czy bezpieczeństwo sztucznej inteligencji powinno być dobrowolne czy obowiązkowe. Ta ustawa odpowiada na to pytanie. Nakazuje tworzenie sprzętu i protokołów do interwencji w sytuacjach awaryjnych. Przerzuca ryzyko z powrotem na firmy opracowujące modele.
Błąd OpenAI pokazał nam, że nawet najbardziej ostrożni ewaluatorzy mogą coś przeoczyć.
