Mientras que la IA puede impulsar la productividad en el lugar de trabajoTambién puede representar una amenaza para las empresas que se defienden de los ciberatacantes.
Al igual que los equipos de negocios, los ciberatacantes utilizan modelos en lenguaje grande (LLM, por sus siglas en inglés) para ser más productivos, Vasu Jakkal, vicepresidente corporativo de seguridad, El cumplimiento, la identidad y la gestión en Microsoft le dijeron a Quartz. Esa “productividad” incluye hacer reconocimientos de personas y empresas para encontrar vulnerabilidades, así como como aprender a codificar.
“Básicamente, se reduce a encontrar información y lanzar directamente estos ataques para fortalecer sus propias posiciones de influencia y obtener ventajas económicas”, Jakkal dijo sobre los estados-nación y los actores de delitos financieros que apuntan a las empresas en ciberataques. Agregó que los ciberatacantes también pueden usar LLM para mejorar las contraseñas esfuerzos de cracking, hacer deepfakes y difundir información errónea.
En febrero, Microsoft y OpenAI dijeron que encontrar y cerrar cuentas de OpenAI pertenecen a “cinco actores maliciosos afiliados al estado” que utilizan herramientas de inteligencia artificial, incluido ChatGPT, para llevar a cabo ciberataques. Las cuentas estaban asociadas con -Tifón de carbón (CROMIO) y Tifón de Salmón (SODIO), Tormenta de arena carmesí (CURIUM ), afiliado a Irán, aguanieve esmeralda (TALIO ), afiliada a Corea del Norte, y Forest Blizzard (STRONTIUM), filial de Rusia, según Abierto AI y Inteligencia de amenazas de Microsoft.
Como dijo Jakkal, los actores de amenazas utilizaron los servicios de OpenAI para buscar información de código abierto, traducir, encontrar errores de codificación y otros tareas de codificación, encontraron las empresas. un informe de Microsoft, Emerald Sleet utilizó sus LLM para investigar a think tanks y expertos en Corea del Norte y para crear contenido para campañas de phishing. Mientras tanto, Microsoft Encontró que Charcoal Typhoon ha utilizado LLM para encontrar investigaciones sobre tecnologías, plataformas y vulnerabilidades específicas en la recopilación de información. Jakkal dijo que la investigación de Microsoft con OpenAI No encontré ninguna técnica novedosa.
Además de los riesgos de ciberataques relacionados con la IA, Jakkal dijo que el “campo de batalla de la seguridad” reside en la identidad. Según Jakkal, se rociaron 4.000 contraseñas Los ataques ocurren por segundo, a medida que los ciberatacantes intentan ingresar a las organizaciones y utilizan información relacionada con la identidad para acceder a más información. Las empresas también enfrentan Los riesgos de ciberataque en torno a la seguridad de los datos, porque la información puede filtrarse si no tiene el etiquetado de sensibilidad adecuado o debido a información privilegiada. -riesgo, donde alguien dentro de la organización involuntariamente o intencionalmente filtra información.
“Lo que nos hace humanos es nuestra vulnerabilidad, nuestra curiosidad”, dijo Jakkal. “Todo lo que nos hace humanos nos hace vulnerables a estos ataques de phishing. “Ataques, así que seguimos viendo esos ataques, que son bastante prominentes”.
Después de que los sistemas de correo electrónico corporativo de Microsoft fueran atacado por hackers rusos en enero, la compañía dijo la semana pasada que ha visto evidencia los hackers están usando la información que robó para acceder u obtener acceso a los “repositorios de código fuente y sistemas internos de la empresa.»
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.