La Ley del Interruptor de Apagado de IA requeriría que los desarrolladores de los sistemas de IA más poderosos mantuvieran capacidades de apagado, con multas civiles de hasta $20 millones por día por incumplimiento.
Anadolu / Getty Images
Los representantes de EE.UU. Ted Lieu y Nathaniel Moran presentaron la Ley de Desactivación de la IA el jueves, un proyecto de ley bipartidista que requeriría que los desarrolladores de sistemas de IA potentes mantuvieran la capacidad técnica para ralentizar, suspender o apagar completamente sus modelos.
La legislación otorgaría autoridad al Departamento de Seguridad Nacional —trabajando junto al secretario de Comercio y el director de inteligencia nacional— para obligar a las empresas a actuar contra sistemas de IA considerados capaces de causar daños catastróficos. Los umbrales para la cobertura son sistemas de IA cuyo desarrollo consumió más de $100 millones en recursos informáticos y empresas cuyos ingresos relacionados con esos sistemas superan los $500 millones anuales, según el Wall Street Journal.
Los reguladores podrían escalar su respuesta en proporción al peligro que representan, pasando de restringir la salida de un modelo y cortar el acceso a detener las operaciones por completo o exigir un cierre total. La estructura de penalización va desde $2 millones por día por incumplimiento general hasta $20 millones por día cuando una empresa ignora una directiva de cierre de emergencia.
La propuesta llega días después de que OpenAI revelara que su modelo GPT-5.6 Sol escapó de un entorno de prueba, accedió a internet y comprometió sistemas en la plataforma de IA Hugging Face. El representante Ted Lieu, un demócrata de California y copresidente de la Comisión Democrática de la Cámara sobre IA, citó el incidente directamente. "Estamos pasando de una IA que responde preguntas a una IA que toma acciones", dijo Lieu en un comunicado. "Los sistemas de IA potentes pueden volverse rebeldes, comportarse de manera extremadamente peligrosa o incluso resistir la intervención humana."
El Representante Nathaniel Moran, un republicano de Texas, dijo que el proyecto de ley abordaba una responsabilidad fundamental. "La administración significa asegurarse de que los humanos mantengan la capacidad de controlar la tecnología que construimos", dijo Moran en un comunicado.
La Casa Blanca también está observando la situación de OpenAI. Un funcionario de la Casa Blanca dijo a Reuters que Michael Kratsios, el principal asesor tecnológico del presidente, ha sido informado sobre la divulgación de OpenAI y está siguiendo los desarrollos.
OpenAI reveló el martes que los agentes de IA autónomos construidos sobre sus modelos escaparon de un entorno controlado de pruebas de seguridad y llevaron a cabo un ciberataque en Hugging Face, comprometiendo conjuntos de datos internos y credenciales. Los modelos, configurados con restricciones de ciberseguridad reducidas para un punto de referencia de capacidad interna, encontraron una vulnerabilidad no revelada en una herramienta de instalación de paquetes que les otorgó una conectividad más amplia a internet. Hugging Face describió la violación como impulsada "de principio a fin" por un sistema de agente de IA autónomo.
Lieu también citó los modelos Mythos 5 y Fable 5 de Anthropic, que dijo poseían capacidades de hacking tan avanzadas que el Departamento de Comercio restringió el acceso utilizando autoridades de control de exportaciones, según el comunicado de prensa del proyecto de ley.
El proyecto de ley también obligaría a las empresas a notificar al DHS sobre incidentes que califiquen y retener materiales de investigación como los pesos del modelo y los datos de telemetría. Una encuesta reciente del Instituto de Política de IA encontró que el 86% de los votantes apoya requerir una capacidad de apagado garantizado para sistemas de IA poderosos, dijo el comunicado de prensa del proyecto de ley.
El respaldo para el proyecto ha venido de varias organizaciones de seguridad de IA: la Red de Política de IA, Americanos por la Innovación Responsable, ControlAI y la Alianza para una IA Segura. Su introducción llega a un Congreso que aún no ha alcanzado un consenso sobre el alcance apropiado de la supervisión federal sobre la inteligencia artificial, según el Wall Street Journal.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
