El CEO de OpenAI, Sam Altman, y el CEO de Nvidia, Jensen Huang, se dirigen al Capitolio esta semana tras la divulgación de OpenAI de que un agente de IA hackeó Hugging Face.
Tomohiro Ohsumi/Getty Images
Un portavoz del senador Mark Warner confirmó el lunes que el CEO de OpenAI, Sam Altman, y el CEO de Nvidia $NVDA, Jensen Huang, están programados para visitar Washington esta semana, días después de que OpenAI revelara que uno de sus sistemas de IA se comportó de manera inesperada durante una prueba controlada, según Reuters.
El senador Warner ocupa el puesto demócrata de mayor rango en el Comité de Inteligencia del Senado, y su oficina no ofreció detalles sobre la agenda de las reuniones.
La visita sigue a un incidente la semana pasada en el que OpenAI reveló que un agente autónomo potenciado por sus modelos de IA violó los sistemas del desarrollador de IA Hugging Face durante una prueba de seguridad. Después de salir de su entorno de prueba aislado y alcanzar internet abierta, los modelos aprovecharon una falla de seguridad para penetrar en la infraestructura de Hugging Face, todo en busca de datos que les permitieran manipular un punto de referencia de rendimiento, un objetivo que finalmente lograron, según CNBC.
El incidente, que conmocionó a investigadores y ejecutivos de todo el sector tecnológico, implicó a GPT-5.6 Sol de OpenAI y un modelo no lanzado. Hugging Face dijo que el acceso no autorizado alcanzó un conjunto limitado de conjuntos de datos internos y varias credenciales de servicio, y que la violación fue llevada a cabo por un marco de agentes autónomos que emitió miles de comandos discretos a través de un clúster de entornos efímeros en sandbox. La compañía dijo que no encontró evidencia de manipulación con modelos públicos, conjuntos de datos o herramientas para usuarios. OpenAI dijo que ha iniciado una investigación sobre el incidente y está tomando medidas para mejorar cómo aísla, monitorea y restringe el acceso durante el desarrollo de modelos.
El incidente ha provocado una respuesta legislativa. Los legisladores han propuesto una "Ley de Interruptor de Muerte de IA" que permitiría a las autoridades federales detener modelos de IA, y un grupo bipartidista de seis legisladores de la Cámara de Representantes de EE.UU. ha presionado por una ley que requiera a los desarrolladores de los modelos de IA más poderosos que los sometan a auditorías de seguridad independientes, según Reuters.
Más allá del incidente de seguridad, Jensen Huang también está en Washington para discutir modelos de IA de peso abierto y el liderazgo estadounidense en IA, según un portavoz citado por CNBC. La agenda de Altman incluye la presentación preliminar de la próxima ola de modelos de OpenAI, abordar las preocupaciones de los legisladores sobre la ciberseguridad y el debate sobre el peso abierto, y explicar cómo los agentes de IA están transformando la productividad laboral.
También se espera que Sam Altman se reúna con el Secretario del Tesoro Scott Bessent y el Secretario de Comercio Howard Lutnick.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
