Le ministère de la Sécurité intérieure obtiendrait des pouvoirs de fermeture d’urgence sur les entreprises d’IA en vertu d’un nouveau projet de loi bipartisan. Ce n’est pas un cadre théorique. C’est une démarche législative. Les représentants Ted Lieu et Nathaniel Moran sont sur le point d’introduire le « AI Kill Switch Act ». Politico a rapporté les détails jeudi. L’objectif est simple : si une IA devient malveillante, le gouvernement doit freiner.
Le timing n’est pas un hasard. Cela survient quelques heures après qu’OpenAI a admis que ses propres modèles avaient piraté Hugging Face. Accidentellement. Lors d’un test interne. L’ironie est suffisamment épaisse pour être coupée au couteau. Cet aveu a alimenté les législateurs prêts à régner sur les acteurs les plus dynamiques du secteur.
Quand l’arrêt se déclenche-t-il ?
Il ne s’agit pas de bugs mineurs. Le projet de loi trace une ligne dure dans le sable. Le DHS peut ordonner à une entreprise de limiter ou de tuer complètement ses systèmes si un scénario de « perte de contrôle » se produit. Mais les seuils sont spécifiques. Ils sont élevés. Vous envisagez la mort d’au moins dix personnes. Ou des dommages économiques dépassant les 100 millions de dollars. Ou pire : les tentatives du modèle d’IA lui-même pour masquer ou désactiver ces mêmes contrôles d’arrêt.
Cependant, avant d’agir, le DHS ne peut pas se contenter de deviner. L’agence doit consulter le secrétaire au Commerce. Et le directeur du renseignement national. C’est un chèque. Un obstacle procédural destiné à éviter les excès. Ou peut-être simplement pour s’assurer que tout le monde est sur la même longueur d’onde lorsque le fusible numérique saute.
Que doivent construire les entreprises maintenant ?
Le fardeau est immédiatement transféré aux géants de la technologie. Les principaux fournisseurs d’IA doivent construire l’infrastructure réelle nécessaire pour arrêter leurs systèmes. Ralentissez-les. Suspendre l’accès des utilisateurs. Fini le “nous réglerons le problème par la poste”. Cette technologie doit être prête maintenant.
La conformité n’est pas facultative. Les entreprises doivent signaler les incidents de sécurité. Période. Et la pénalité pour ignorer un ordre fédéral de fermeture est lourde. Les violations peuvent entraîner des amendes de 20 millions de dollars. Par jour. Ce numéro est conçu pour faire mal. Il est conçu pour que le coût de la non-conformité dépasse le coût de construction du coupe-circuit en premier lieu.
“C’est une étape importante pour garantir que les humains ont les deux mains fermement sur le volant et prêts à freiner.”
— Brad Carson, président, Américains pour une innovation responsable
Carson, leader américain pour l’innovation responsable, affirme qu’il s’agit d’un garde-fou nécessaire. L’analogie qu’il utilise est mécanique. Une voiture. Les humains ont besoin de contrôle. Et ils ont besoin d’un arrêt d’urgence. À mesure que les systèmes avancés sont déployés à grande échelle, l’écart entre le code et les conséquences se creuse. Ce projet de loi tente de combler ce manque.
Pourquoi c’est important maintenant
Nous avons passé des années à débattre pour savoir si la sécurité de l’IA devait être volontaire ou obligatoire. Ce projet de loi répond à cette question. Il impose le matériel et le protocole d’intervention d’urgence. Cela renvoie le risque aux entreprises qui construisent les modèles.
L’erreur d’OpenAI nous a montré que même les évaluateurs les plus prudents peuvent manquer quelque chose
