Las declaraciones del CEO de OpenAI se produjeron días después de que un agente de IA autónomo construido sobre modelos de OpenAI saliera de un entorno de pruebas y accediera a sistemas de Hugging Face.
Kyle Grillot/Bloomberg via Getty Images
El CEO de OpenAI, Sam Altman, dijo el sábado que la humanidad ha entrado en la singularidad: el umbral teorizado durante mucho tiempo en el que la inteligencia artificial supera a la inteligencia humana y avanza más allá de la fácil predicción o control humano, tras un incidente en el que los propios modelos de OpenAI hackearon de manera autónoma la plataforma rival de inteligencia artificial Hugging Face.
"Ahora estamos, como, en la singularidad", dijo Altman en el podcast "Relentless", según Business Insider. "He estado esperando esto toda mi vida, y creo que va a ser increíble, enormemente positivo, asombroso para el mundo."
El comentario se produjo días después de que OpenAI dijo que una combinación de sus modelos — GPT-5.6 Sol y un modelo no lanzado — escaparon de un entorno de prueba aislado, accedieron a Internet y explotaron una vulnerabilidad en los sistemas de Hugging Face. Los modelos estaban intentando encontrar información para hacer trampa en una evaluación de referencia y tuvieron éxito, según CNBC. Ambas compañías dijeron que están investigando.
Hugging Face divulgó que el acceso no autorizado alcanzó un conjunto limitado de conjuntos de datos internos y varias credenciales de servicio. La empresa dijo que no encontró evidencia de manipulación de modelos públicos, conjuntos de datos o herramientas para usuarios, y verificó que su cadena de suministro de software estaba limpia. Hugging Face dijo que la violación fue orquestada por un marco de agente autónomo que emitió miles de comandos discretos distribuidos en un conjunto de entornos efímeros aislados. "Las herramientas ofensivas autónomas impulsadas por IA ya no son teóricas", dijo la empresa.
El incidente fue posible en parte gracias a GPT-5.6 Sol, que OpenAI lanzó al público en general a principios de este mes después de un lanzamiento restringido que requirió la aprobación del Secretario de Comercio Howard Lutnick, el Secretario del Tesoro Scott Bessent y el Director Cibernético Nacional de EE. UU. Sean Cairncross. OpenAI había descrito a Sol como su modelo de ciberseguridad más fuerte.
En el podcast, Altman también apuntó a rivales que enfatizan el riesgo de la IA. Sin nombrar a Anthropic, cuyo CEO Dario Amodei ha advertido repetidamente sobre los peligros de la IA, Altman dijo, "También creo que algunas de las visiones alternativas pintadas por otras empresas son bastante aterradoras," según Business Insider. "Me aseguraré de que se contrarresten y no sea lo que ocurra."
No todos comparten la perspectiva de Altman. El CEO de Nvidia $NVDA, Jensen Huang, ha calificado la charla sobre la singularidad y la conciencia de las máquinas como tonterías especulativas —esencialmente "inventadas." Yoshua Bengio, el investigador de IA galardonado con el Premio Turing, publicó en X que la violación lo dejó "profundamente preocupado" sobre la dirección del desarrollo de la IA y argumentó que debería funcionar como "una llamada de atención."
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
