Anthropic está expandiendo Project Glasswing, su iniciativa de ciberseguridad de IA restringida, a aproximadamente 200 organizaciones asociadas en total después de lanzar el programa en abril con aproximadamente 50 miembros.
La empresa dijo que los socios que utilizan su modelo Claude Mythos Preview ya han encontrado más de 10,000 fallos de seguridad altos o críticos.
NurPhoto / Getty Images
Anthropic está expandiendo Project Glasswing, su iniciativa de ciberseguridad de IA restringida, a aproximadamente 200 organizaciones asociadas en total después de lanzar el programa en abril con aproximadamente 50 miembros.
Claude Mythos Preview, el modelo de IA que impulsa Project Glasswing, estará disponible para alrededor de 150 organizaciones adicionales como parte de la expansión, dijo Anthropic. El acceso requiere cumplir con un conjunto de criterios de seguridad establecidos por Anthropic. Los nuevos socios operan en más de 15 países y brindan cobertura a sectores —entre ellos energía, servicios de agua, atención médica, comunicaciones y hardware— que tenían representación limitada cuando el programa se lanzó por primera vez.
Al preparar el lanzamiento, Anthropic trabajó junto con el gobierno de los EE. UU., la industria de seguridad en general, los mantenedores de software de código abierto y las organizaciones que ya están dentro del programa, dijo la compañía. La expansión también incluye organizaciones gubernamentales, según Reuters. Anthropic se negó a nombrar a los nuevos socios, aunque la plataforma de gestión de datos en la nube Rubrik dijo que estaba entre el nuevo grupo, según CNBC.
En todas las organizaciones del programa desde su debut en abril, se han descubierto más de 10,000 vulnerabilidades calificadas como de alta o crítica gravedad, según Anthropic. Si un ciberataque importante golpeara el ecosistema de socios, la empresa estima que el número de personas afectadas podría superar los 100 millones.
Anthropic ha revisado las reglas de divulgación del programa en las últimas semanas, permitiendo a los socios compartir hallazgos de vulnerabilidades con terceros, incluidos reguladores, grupos de la industria, mantenedores de código abierto y el público, siempre que se observen estándares de divulgación responsable. La política anterior requería que los socios mantuvieran los hallazgos dentro del programa.
La expansión sigue a un período de amplia preocupación por las capacidades de Mythos. Como Quartz ha informado anteriormente, los principales bancos estadounidenses con acceso al modelo se apresuraron a abordar una ola de vulnerabilidades que surgieron, compartiendo hallazgos con bancos comunitarios y regionales que no tenían acceso directo. El Secretario del Tesoro Scott Bessent y el entonces presidente de la Reserva Federal Jerome Powell convocaron una reunión con CEOs de bancos para discutir los riesgos de ciberseguridad que planteaba el modelo.
Es probable que otros proveedores de IA alcancen niveles de capacidad comparables en aproximadamente seis a doce meses, advirtió Anthropic, y no hay garantía de que esos modelos futuros tengan protecciones equivalentes contra el uso indebido. La compañía dijo que planea expandir aún más el Proyecto Glasswing, con futuras incorporaciones para priorizar a los proveedores de infraestructura esencial, mantenedores de software crítico de código abierto y evaluadores de seguridad. Anthropic también dijo que está trabajando para hacer que las capacidades de clase Mythos estén disponibles de manera más amplia, a la espera del desarrollo de salvaguardias más fuertes.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.