Dario Amodei dijo que los modelos de IA chinos están de 6 a 12 meses detrás de Mythos, estableciendo un plazo para corregir decenas de miles de vulnerabilidades.
NurPhoto / Getty Images
CEO de Anthropic Dario Amodei advirtió el martes que la diferencia entre el modelo de IA más poderoso de su empresa y los sistemas comparables de los competidores chinos le da al mundo aproximadamente de seis a doce meses para corregir decenas de miles de vulnerabilidades de software que el modelo ha descubierto.
El CEO de JPMorgan $JPM Chase, Jamie Dimon, se unió a Amodei en el escenario en un evento de Anthropic en Nueva York. Amodei explicó que los modelos de IA chinos están aproximadamente de seis a doce meses detrás de Mythos, por lo que los defensores tienen ese tiempo para actuar antes de que otros adquieran habilidades similares.
La escala de lo que Mythos ha encontrado es significativa. Para ilustrar cuán dramáticamente ha crecido la amenaza, Amodei señaló a Firefox: donde un modelo anterior de Anthropic detectó alrededor de 20 fallos, Mythos descubrió cerca de 300 solo en ese navegador — y en todo el software, el conteo acumulado ahora alcanza las decenas de miles. Revelar detalles sobre los fallos antes de que existan parches daría a los criminales un mapa, advirtió Amodei, razón por la cual la gran mayoría se han mantenido fuera del dominio público.
Ninguno de los ejecutivos trató la amenaza como permanente. Amodei invocó un horizonte finito — "Sólo hay tantos fallos por encontrar" — mientras enmarca el tramo actual como un "momento de peligro" que, si se maneja bien, conduce a algo mejor. Dimon compartió esa perspectiva, llamando al riesgo de ciberseguridad impulsado por IA un "período transitorio".
Anthropic ha limitado Mythos a un grupo restringido de socios debido a preocupaciones sobre un uso indebido a nivel criminal o estatal. Como Quartz informó previamente, la empresa lanzó el Proyecto Glasswing, comprometiendo hasta $100 millones en créditos de uso para desplegar Mythos exclusivamente para trabajos de seguridad defensiva entre 12 socios de lanzamiento — incluyendo Amazon $AMZN Web Services, Apple $AAPL, Microsoft $MSFT, Google $GOOGL, JPMorgan y Palo Alto Networks $PANW — junto con más de 40 organizaciones adicionales que construyen o mantienen infraestructura crítica de software.
Durante las pruebas, Anthropic utilizó Mythos para encontrar miles de vulnerabilidades de día cero en sistemas operativos y navegadores importantes, incluyendo una falla en OpenBSD que data de hace 27 años y una vulnerabilidad separada en la biblioteca de procesamiento de video FFmpeg que había sobrevivido a cinco millones de pasadas por herramientas de prueba automatizadas. Notablemente, Anthropic dijo que no se realizó ningún entrenamiento especializado en ciberseguridad en el modelo — su capacidad para encontrar vulnerabilidades es un subproducto de avances generales en codificación y razonamiento.
La amenaza provocó una respuesta de los reguladores financieros de EE. UU. La Secretaria del Tesoro Scott Bessent y el Presidente de la Reserva Federal Jerome Powell convocaron a los CEOs de bancos — incluyendo los jefes de Citigroup $C, Morgan Stanley $MS, Bank of America $BAC, Wells Fargo $WFC y Goldman Sachs $GS — para discutir lo que Mythos y modelos comparables podrían significar para su exposición a ataques.
También se mencionó la regulación, con Amodei tomando la industria automotriz como su analogía preferida: controles de seguridad significativos, argumentó, no tienen que darse a expensas de un mercado funcional y competitivo. "No puedes simplemente comenzar una empresa de automóviles sin '¿Hay frenos en esta cosa?'" dijo, según CNBC.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
