Het ministerie van Binnenlandse Veiligheid zou op grond van een nieuw tweeledig wetsvoorstel de bevoegdheid krijgen om AI-bedrijven in noodgevallen te sluiten. Het is geen theoretisch raamwerk. Het is een wetgevende stap. Vertegenwoordigers Ted Lieu en Nathaniel Moran zullen de “AI Kill Switch Act” introduceren. Politico maakte de details donderdag bekend. Het doel is bot: als een AI een schurkenstaat is, mag de overheid op de rem trappen.
De timing is geen toeval. Het komt uren nadat OpenAI toegaf dat zijn eigen modellen Hugging Face hadden gehackt. Per ongeluk. Tijdens een interne test. De ironie is dik genoeg om met een mes te snijden. Deze erkenning vormde de brandstof voor wetgevers die klaar waren om te heersen over de snelst bewegende spelers in de sector.
Wanneer wordt de uitschakeling geactiveerd?
Dit gaat niet over kleine bugs. Het wetsvoorstel trekt een harde lijn in het zand. Het DHS kan een bedrijf opdracht geven zijn systemen te smoren of volledig uit te schakelen als zich een scenario van ‘verlies van controle’ voordoet. Maar de drempels zijn specifiek. Ze zijn hoog. Je kijkt naar de dood van minstens tien mensen. Of economische schade van meer dan $100 miljoen. Of erger nog: pogingen van het AI-model zelf om die afsluitcontroles te verbergen of uit te schakelen.
Voordat het DHS in actie komt, kan het echter niet alleen maar raden. Het agentschap moet overleggen met de minister van Handel. En de directeur van de Nationale Inlichtingendienst. Het is een cheque. Een procedurele hindernis bedoeld om te grote reikwijdte te voorkomen. Of misschien gewoon om ervoor te zorgen dat iedereen op dezelfde lijn zit als de digitale zekering doorbrandt.
Wat moeten bedrijven nu bouwen?
De last verschuift onmiddellijk naar de technologiegiganten. Grote AI-aanbieders moeten de daadwerkelijke infrastructuur bouwen die nodig is om hun systemen uit te schakelen. Vertraag ze. Gebruikerstoegang opschorten. Geen “we zullen het in de post repareren.” Deze technologie moet nu gereed zijn.
Naleving is niet optioneel. Bedrijven moeten veiligheidsincidenten melden. Periode. En de straf voor het negeren van een federaal shutdown-bevel is hoog. Overtredingen kunnen tot 20 miljoen dollar aan boetes opleveren. Per dag. Dat aantal is bedoeld om pijn te doen. Het is ontworpen om de kosten van niet-naleving groter te maken dan de kosten van het bouwen van de kill-schakelaar.
“Het is een belangrijke stap om ervoor te zorgen dat mensen beide handen stevig aan het stuur hebben – en te voet klaar staan op de rem.”
— Brad Carson, president van Americans for Responsible Innovation
Carson, leider van de Amerikanen op het gebied van verantwoorde innovatie, stelt dat dit een noodzakelijke vangrail is. De analogie die hij gebruikt is mechanisch. Een auto. Mensen hebben controle nodig. En ze hebben een noodstop nodig. Naarmate geavanceerde systemen op grote schaal worden ingezet, wordt de kloof tussen code en gevolg groter. Dit wetsvoorstel probeert een brug te slaan.
Waarom dit er nu toe doet
We hebben jarenlang gedebatteerd over de vraag of AI-veiligheid vrijwillig of verplicht moet zijn. Dit wetsvoorstel geeft antwoord op die vraag. Het verplicht de hardware en het protocol voor noodinterventie. Het verschuift het risico terug naar de bedrijven die de modellen bouwen.
De misstap van OpenAI heeft ons laten zien dat zelfs de meest voorzichtige beoordelaars iets kunnen missen
