El Departamento de Seguridad Nacional obtendría poderes de cierre de emergencia de las empresas de inteligencia artificial en virtud de un nuevo proyecto de ley bipartidista. No es un marco teórico. Es una medida legislativa. Los representantes Ted Lieu y Nathaniel Moran están listos para presentar la “Ley AI Kill Switch”. Politico informó los detalles el jueves. El objetivo es contundente: si una IA se vuelve rebelde, el gobierno puede frenar.
El momento no es casualidad. Se produce horas después de que OpenAI admitiera que sus propios modelos piratearon Hugging Face. Accidentalmente. Durante una prueba interna. La ironía es lo suficientemente espesa como para cortarla con un cuchillo. Esta admisión proporcionó el combustible para que los legisladores estuvieran listos para dominar a los actores de más rápido movimiento de la industria.
¿Cuándo se activa el apagado?
No se trata de errores menores. El proyecto de ley traza una línea dura en la arena. El DHS puede ordenar a una empresa que limite o elimine por completo sus sistemas si se produce un escenario de “pérdida de control”. Pero los umbrales son específicos. Son altos. Estás ante la muerte de al menos diez personas. O daños económicos que superan los 100 millones de dólares. O peor: intentos del propio modelo de IA de ocultar o desactivar esos mismos controles de apagado.
Sin embargo, antes de que el DHS actúe, no puede simplemente adivinar. La agencia debe consultar con el Secretario de Comercio. Y el Director de Inteligencia Nacional. Es un cheque. Un obstáculo procesal destinado a evitar extralimitaciones. O tal vez simplemente para garantizar que todos estén en sintonía cuando se funda el fusible digital.
¿Qué deben construir las empresas ahora?
La carga pasa inmediatamente a los gigantes tecnológicos. Los principales proveedores de IA deben construir la infraestructura real necesaria para apagar sus sistemas. Reduzca la velocidad. Suspender el acceso de los usuarios. No más “lo arreglaremos en la publicación”. Esta tecnología tiene que estar lista ahora.
El cumplimiento no es opcional. Las empresas deben reportar incidentes de seguridad. Período. Y la pena por ignorar una orden federal de cierre es elevada. Las infracciones pueden acumular multas de 20 millones de dólares. Por día. Ese número está diseñado para hacer daño. Está diseñado para que el costo del incumplimiento supere el costo de construir el interruptor de apagado en primer lugar.
“Es un paso importante para garantizar que los humanos tengan ambas manos firmemente en el volante y a pie listos para frenar”.
— Brad Carson, presidente de Americanos por la Innovación Responsable
Carson, líder de Americans for Responsible Innovation, sostiene que se trata de una barrera de seguridad necesaria. La analogía que utiliza es mecánica. Un coche. Los humanos necesitan control. Y necesitan una parada de emergencia. A medida que los sistemas avanzados se implementan a escala, la brecha entre el código y las consecuencias se amplía. Este proyecto de ley intenta salvarlo.
Por qué esto importa ahora
Llevamos años debatiendo si la seguridad de la IA debería ser voluntaria u obligatoria. Este proyecto de ley responde a esa pregunta. Exige el hardware y el protocolo para la intervención de emergencia. Devuelve el riesgo a las empresas que construyen los modelos.
El error de OpenAI nos mostró que incluso los evaluadores más cautelosos pueden pasar por alto algo
