Un pequeño grupo accedió al modelo el día que se anunció, utilizando una combinación de tácticas, incluidas credenciales de un contratista externo.
NurPhoto / Getty Images
El modelo de ciberseguridad Mythos AI de Anthropic —que la compañía describe como capaz de identificar y explotar vulnerabilidades en todos los sistemas operativos principales y navegadores web— fue accedido por un pequeño grupo de usuarios no autorizados, ha informado Bloomberg.
Anthropic dijo que está investigando el informe. "Estamos investigando un informe que afirma acceso no autorizado a Claude Mythos Preview a través de uno de nuestros entornos de proveedores externos," dijo un portavoz de la compañía en una declaración a Bloomberg. La compañía agregó que no había encontrado ninguna indicación de que el incidente hubiera alcanzado su propia infraestructura o se hubiera extendido fuera del entorno del proveedor externo.
Según Bloomberg, la brecha ocurrió el mismo día en que Anthropic hizo pública su anuncio del modelo. Los métodos de los usuarios incluyeron utilizar el acceso al sistema que un miembro había adquirido a través de trabajo de evaluación de contratos realizado para un proveedor de Anthropic, así como el despliegue de herramientas de reconocimiento típicamente encontradas en un kit de herramientas de un investigador de ciberseguridad. El conocimiento de cómo Anthropic estructura sus puntos finales del modelo —información que supuestamente se había expuesto cuando Mercor, una startup de entrenamiento de IA, sufrió una brecha de datos— permitió al grupo localizar Mythos en línea.
Bloomberg informa que los individuos están conectados a través de una comunidad privada de Discord dedicada a descubrir información sobre modelos de IA antes de su lanzamiento público, con bots automatizados desplegados para barrer plataformas no aseguradas como GitHub en busca de detalles relevantes. Aunque el grupo ha continuado usando Mythos regularmente, la fuente dijo a Bloomberg que ha evitado consultas relacionadas con la seguridad, optando en su lugar por tareas benignas como el desarrollo web básico con la esperanza de mantenerse fuera del radar de Anthropic. Bloomberg también citó a la fuente diciendo que el grupo tiene acceso a otros modelos no lanzados de Anthropic.
A través de un programa de lanzamiento controlado conocido como Project Glasswing, Anthropic hizo Mythos disponible para un grupo selecto de socios que incluye Apple $AAPL, Amazon $AMZN y Cisco $CSCO, entre otros. Anthropic estructuró el lanzamiento solo por invitación debido a preocupaciones de que las capacidades ofensivas de la herramienta —que podrían volverse contra la infraestructura de seguridad empresarial en lugar de usarse para defenderla— hacían que la distribución amplia fuera demasiado arriesgada. Amazon también ofrece Mythos a través de su plataforma Bedrock a una lista seleccionada de organizaciones.
La brecha destaca la dificultad de controlar el acceso a herramientas de IA poderosas incluso cuando la distribución está estrictamente restringida. Bloomberg también señala que bancos y organismos gubernamentales de ambos lados del Atlántico han estado presionando para ser incluidos en el programa de acceso temprano, con la esperanza de usar la herramienta para explorar sus propios sistemas en busca de debilidades.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
