Algunas herramientas de IA se están convirtiendo en operadores autónomos capaces de ejecutar ataques a velocidades y escalas que los hackers humanos simplemente no pueden igualar.
Joan Cros/NurPhoto via Getty Images
Una versión de este artículo apareció originalmente en el boletín de IA y Tecnología de Quartz. Regístrate aquí para recibir las últimas noticias, análisis y perspectivas de IA y tecnología directamente en tu bandeja de entrada.
Durante años, los investigadores de seguridad advirtieron que la inteligencia artificial eventualmente transformaría los ciberataques. Han llegado los primeros ejemplos reales.
En los últimos dos meses, un grupo de hackers patrocinado por el estado chino utilizó contra aproximadamente 30 objetivos globales, incluidas importantes empresas de tecnología, instituciones financieras y agencias gubernamentales. Hackers pro-ucranianos infiltrar contratistas de defensa rusos. Y un experimento en Stanford encontró que un sistema de IA llamado Artemis al encontrar vulnerabilidades en la red de ingeniería de la universidad.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
El hilo común es que las herramientas de IA han cruzado un umbral. Ya no son solo asistentes útiles para escribir correos electrónicos de phishing o generar fragmentos de código. Se están convirtiendo en operadores autónomos capaces de ejecutar ataques a velocidades y escalas que los hackers humanos simplemente no pueden igualar.
El ataque de Anthropic, revelado a mediados de noviembre, ilustra la nueva realidad. Los hackers chinos manipularon Claude Code, una herramienta de IA agentic diseñada para el desarrollo de software legítimo, para realizar la mayor parte del trabajo tradicionalmente hecho por humanos. La IA realizó reconocimiento en sistemas objetivos, identificó vulnerabilidades de seguridad, escribió código de explotación personalizado, recolectó credenciales y exfiltró datos. Según el análisis de Anthropic, los atacantes pudieron automatizar el 80-90% de la campaña, requiriendo intervención humana solo en un puñado de puntos de decisión críticos.
En el pico del ataque, la IA realizó miles de solicitudes, a menudo múltiples por segundo. Esa es una velocidad que ningún equipo de hackers podría sostener.
Testificando ante el Comité de Seguridad Nacional de la Cámara este mes, un ejecutivo de Anthropic lo llamó una prueba de concepto que preocupa sobre La piratería impulsada por IA ya no es hipotética. Kevin Mandia, el fundador de Mandiant, una empresa de ciberseguridad que Google $GOOGL gastó $5.4 mil millones para adquirir, y ahora de una nueva startup de seguridad centrada en IA llamada Armadin, ofreció una predicción más directa. "La ofensiva será completamente IA en menos de dos años," le dijo a The Wall Street Journal.
Para ser claros, la mayoría de los hackeos todavía no requieren nada cercano a este nivel de sofisticación. Millones de personas todavía usan "contraseña" como su contraseña. Los correos electrónicos de phishing funcionan porque alguien hace clic en el enlace. La gente da información bancaria a extraños que los llaman y se la piden. La gran mayoría de las violaciones explotan el error humano, no la IA de última generación.
Pero para los atacantes de estados-nación y grupos criminales bien financiados que apuntan a sistemas endurecidos, la IA representa un multiplicador de fuerza que cambia el cálculo de lo que es posible.
Los ataques impulsados por IA de hoy todavía necesitan llamar a casa. El malware habla con un servicio de IA en la nube, recibe instrucciones y actúa en consecuencia. Pero los investigadores de seguridad ya están explorando qué sucede cuando eso ya no es necesario.
Dreadnode, una firma de investigación de seguridad, ha prototipado un malware que utiliza la IA ya instalada en la computadora de la víctima. No se requiere conexión a Internet, ni un servidor que los defensores puedan rastrear y apagar. Su experimento aprovechó el hecho de que Microsoft $MSFT ahora envía CoPilot+ PC con modelos de IA preinstalados.
En su prueba de concepto, Dreadnode creó un malware que usa la propia IA en el dispositivo de la víctima para tomar decisiones sobre qué hacer a continuación, eliminando la necesidad de la comunicación tradicional entre el malware y el servidor de un hacker. La IA evalúa el entorno local, decide qué acciones tomar y adapta su comportamiento en consecuencia.
El experimento requirió más orientación de la que los investigadores esperaban inicialmente. Los modelos de IA actuales pequeños carecen de la sofisticación de los sistemas de vanguardia, y la mayoría de las computadoras no tienen el hardware especializado para ejecutar inferencias de IA sin detenerse por completo. Dreadnode aún quedó convencido de que construir malware autónomo sin infraestructura externa “no solo es posible, sino que es bastante sencillo de implementar”.
A medida que el hardware de IA se vuelve más común y los modelos en el dispositivo más capaces, esta técnica podría volverse práctica a gran escala.
El ritmo de mejora es lo que más preocupa a los investigadores. Hace solo 18 meses, los modelos de IA tenían dificultades con la lógica básica y tenían habilidades de codificación limitadas. Hoy en día, pueden ejecutar secuencias de ataque complejas de varios pasos con una supervisión humana mínima. Las firmas de seguridad que prueban modelos de vanguardia informan un creciente evidencia de que los sistemas de IA están mejorando en encontrar debilidades y conectarlas en ataques.
Los ataques de IA totalmente autónomos aún están fuera de alcance por ahora. Los hackers chinos que usan Claude aún necesitan liberar el modelo y aprobar sus acciones en puntos clave.
Pero las mismas capacidades que ayudan a las personas a escribir código y automatizar su trabajo pueden ser utilizadas para irrumpir en los sistemas. Las herramientas no se preocupan de qué lado estás.
