Anthropic dice que Claude Mythos puede encontrar y explotar vulnerabilidades de software de manera autónoma a un nivel que supera a todos excepto a los investigadores de seguridad más hábiles.
NurPhoto / Getty Images
Anthropic anunció el Proyecto Glasswing el martes, una iniciativa de ciberseguridad que compromete hasta $100 millones en créditos de uso para Claude Mythos Preview, un modelo de frontera no lanzado que la compañía dice puede encontrar y explotar vulnerabilidades de software de manera autónoma a un nivel que supera a todos menos a los investigadores de seguridad humana más capacitados.
En lugar de un lanzamiento público, Anthropic ha restringido Claude Mythos Preview a 12 socios de lanzamiento — entre ellos Amazon $AMZN Web Services, Apple $AAPL, Broadcom $AVGO, Cisco $CSCO, CrowdStrike $CRWD, Google $GOOGL, JPMorganChase, la Fundación Linux, Microsoft $MSFT, Nvidia $NVDA y Palo Alto Networks $PANW — todos ellos lo desplegarán exclusivamente para fines de seguridad defensiva. Más de 40 organizaciones adicionales que construyen o mantienen infraestructura de software crítica también recibirán acceso.
En las últimas semanas, Anthropic utilizó Mythos Preview para identificar miles de vulnerabilidades de día cero en todos los principales sistemas operativos y navegadores web, dijo la empresa. Los descubrimientos específicos incluyeron un fallo que data de hace 27 años en OpenBSD y una vulnerabilidad separada en la biblioteca de procesamiento de video FFmpeg, una que había pasado desapercibida en cinco millones de pruebas por herramientas de prueba automatizadas a pesar de tener aproximadamente 16 años. El modelo también encadenó múltiples vulnerabilidades del núcleo de Linux para lograr el control total de una máquina desde una cuenta de usuario ordinaria.
No se recibió capacitación especializada en ciberseguridad al construir Mythos Preview, señaló Anthropic: la capacidad del modelo para sondear el software en busca de debilidades es un subproducto de los mismos avances generales en codificación y razonamiento que lo definen en otros dominios, lo que significa que los atributos que lo ayudan a corregir fallos son inseparables de aquellos que podrían usarse para explotarlos.
Anthropic está contribuyendo con $4 millones en donaciones directas junto con los créditos de uso, incluyendo $2.5 millones a Alpha-Omega y la Open Source Security Foundation a través de la Linux Foundation, y $1.5 millones a la Apache Software Foundation. Los socios que agoten el grupo de créditos de uso pagarán $25 por cada millón de tokens de entrada y $125 por cada millón de tokens de salida. El modelo es accesible a través de la API de Claude, Amazon Bedrock, Google Cloud Vertex AI y Microsoft Foundry.
"Los peligros de equivocarse en esto son obvios, pero si lo hacemos bien, hay una oportunidad real de crear un internet y un mundo fundamentalmente más seguros de lo que teníamos antes del advenimiento de las capacidades cibernéticas impulsadas por IA," dijo el CEO Dario Amodei en una publicación en X $TWTR, según CNBC.
En declaraciones escritas publicadas junto al anuncio de Anthropic, el CTO de CrowdStrike, Elia Zaitsev, ofreció una advertencia clara: el modelo "demuestra lo que ahora es posible para los defensores a escala, y los adversarios inevitablemente buscarán explotar las mismas capacidades," y las tareas que antes requerían meses de trabajo "ahora suceden en minutos con IA," según The New York Times.
Anthropic dijo que ha estado en discusiones continuas con funcionarios del gobierno de EE. UU., incluida la Agencia de Seguridad de Infraestructura y Ciberseguridad, sobre las capacidades del modelo. Dentro de 90 días, la compañía dijo que planea publicar un informe público sobre vulnerabilidades encontradas y corregidas, así como recomendaciones sobre cómo deberían evolucionar las prácticas de seguridad.
La existencia del modelo ya había salido a la luz públicamente después de que materiales internos aparecieran en un lugar no seguro en los servidores de Anthropic; la empresa rastreó la exposición a una mala configuración en una herramienta de gestión de contenido de terceros. El modelo fue referido en esos documentos por el nombre en clave "Capybara."
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
