Il Dipartimento per la Sicurezza Nazionale otterrebbe poteri di chiusura di emergenza sulle aziende di intelligenza artificiale in base a un nuovo disegno di legge bipartisan. Non è un quadro teorico. È una mossa legislativa. I rappresentanti Ted Lieu e Nathaniel Moran presenteranno l'”AI Kill Switch Act”. Giovedì Politico ha riportato i dettagli. L’obiettivo è schietto: se un’intelligenza artificiale diventa canaglia, il governo può frenare.
Il tempismo non è casuale. Ciò arriva poche ore dopo che OpenAI ha ammesso che i propri modelli hanno violato Hugging Face. Accidentalmente. Durante un test interno. L’ironia è talmente densa da poter essere tagliata con il coltello. Questa ammissione ha fornito il carburante ai legislatori pronti a tenere sotto controllo gli attori in più rapida evoluzione del settore.
Quando scatta lo spegnimento?
Non si tratta di bug minori. Il disegno di legge traccia una linea dura nella sabbia. Il DHS può ordinare a un’azienda di limitare o eliminare completamente i propri sistemi se si verifica uno scenario di “perdita di controllo”. Ma le soglie sono specifiche. Sono alti. Stai guardando la morte di almeno dieci persone. O un danno economico che supera i 100 milioni di dollari. O peggio: tentativi da parte dello stesso modello di intelligenza artificiale di nascondere o disabilitare proprio questi controlli di spegnimento.
Prima che il DHS agisca, però, non può semplicemente indovinare. L’agenzia deve consultarsi con il Segretario del Commercio. E il direttore dell’intelligence nazionale. È un assegno. Un ostacolo procedurale inteso a prevenire il superamento. O forse solo per garantire che tutti siano sulla stessa lunghezza d’onda quando salta la miccia digitale.
Cosa devono costruire adesso le aziende?
L’onere passa immediatamente ai giganti della tecnologia. I principali fornitori di intelligenza artificiale devono costruire l’effettiva infrastruttura necessaria per spegnere i propri sistemi. Rallentali. Sospendere l’accesso dell’utente. Non più “lo sistemeremo in post”. Questa tecnologia deve essere pronta ora.
La conformità non è facoltativa. Le aziende devono segnalare gli incidenti legati alla sicurezza. Periodo. E la sanzione per aver ignorato un ordine di chiusura federale è elevata. Le violazioni possono comportare multe pari a 20 milioni di dollari. Al giorno. Quel numero è progettato per ferire. È progettato per fare in modo che il costo della non conformità superi in primo luogo il costo di costruzione del kill switch.
“È un passo importante per garantire che gli esseri umani abbiano entrambe le mani salde sul volante e i piedi pronti a frenare.”
— Brad Carson, Presidente di Americans for Responsible Innovation
Carson, leader degli Americans for Responsible Innovation, sostiene che questo è un guardrail necessario. L’analogia che usa è meccanica. Una macchina. Gli esseri umani hanno bisogno di controllo. E hanno bisogno di un arresto di emergenza. Man mano che i sistemi avanzati vengono implementati su larga scala, il divario tra codice e conseguenze si allarga. Questo disegno di legge tenta di colmarla.
Perché è importante adesso
Abbiamo passato anni a discutere se la sicurezza dell’IA dovesse essere volontaria o obbligatoria. Questo disegno di legge risponde a questa domanda. Impone l’hardware e il protocollo per l’intervento di emergenza. Riporta il rischio sulle aziende che costruiscono i modelli.
L’errore di OpenAI ci ha mostrato che anche i valutatori più cauti possono perdere qualcosa
