Hay una brecha entre el conocimiento de los riesgos de la IA a nivel de gestión y las acciones específicas que toman las empresas para mitigar dichas amenazas.
Maskot
El tren de la inteligencia artificial está viajando a toda velocidad en 2025, con los líderes de empresa luchando por mantenerse al día y contrarrestar los crecientes riesgos operativos.
Considerar Informe del Índice 2025 de la Universidad de Stanford, que muestra que los incidentes de privacidad y seguridad relacionados con la IA crecieron un 56,4% en 2024. El estudio identificó que las violaciones de datos y los fallos algorítmicos que comprometen información sensible son los tipos más comunes de incidentes de IA.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
Aún más alarmante es la brecha entre el conocimiento del riesgo de IA a nivel gerencial y las acciones específicas tomadas por las empresas para frenar tales amenazas, a pesar de los resultados adversos como sanciones regulatorias y daño irreparable a la confianza del consumidor que se avecinan.
“Nuestra investigación muestra que el 73% de las empresas experimentaron un incidente de seguridad relacionado con la IA el año pasado, a menudo sin darse cuenta de las vulnerabilidades hasta que era demasiado tarde”, dijo la Dra. Ja-Naé Duane, científica del comportamiento en la Universidad de Brown y coautora del próximo libro "SuperShifts: Transforming How We Live, Learn, and Work in the Age of Intelligence." "El verdadero problema es que muchos líderes de nivel C equiparan el riesgo de IA con errores técnicos, perdiendo de vista los inconvenientes más amplios humanos, operacionales y de reputación, como el desplome de la moral del personal, la desinformación y la manipulación adversaria."
Duane señala múltiples incidentes de IA que han desencadenado problemas negativos en grandes marcas de empresas:
· La herramienta de reclutamiento de AI de Amazon $AMZN comenzó a degradar a las solicitantes mujeres debido a datos de entrenamiento sesgados.
· El chatbot Tay de Microsoft $MSFT publicó contenido ofensivo pocas horas después de su lanzamiento debido a salvaguardias inadecuadas.
· Un abogado de Nueva York presentó casos legales falsos generados por ChatGPT y fue multado.
· Un chatbot de Chevrolet ofreció por error nuevos SUVs por $1.
En muchos casos, la conciencia situacional de las amenazas de IA entre el liderazgo corporativo es muy común.
"Más recientemente, casi la mitad de las empresas han abandonado iniciativas de IA debido a una mala implementación, falta de confianza y fallos de gobernanza", añadió Duane. "Estos ejemplos muestran que los riesgos más significativos de la IA provienen de puntos ciegos de liderazgo, no solo de tecnológicos".
El primer paso para adelantarse a los riesgos de la IA es conocer las amenazas que presentan los mayores desafíos. Quartz habló con expertos en gestión que destacaron peligros específicos de la IA para los que todas las empresas deberían prepararse.
A medida que la IA se vuelve más omnipresente dentro de las empresas, la "sobrecodificación" está llevando a violaciones de ciberseguridad.
"Los equipos de ingeniería de software han estado utilizando IA para generar software increíblemente rápido, pero el código siempre viene con un aumento dramático en la sobrecarga, particularmente en líneas de código sin usar, innecesarias", dijo George Manuelian, estratega jefe de RapidFort, una firma de ciberseguridad en Atherton, California.
Lo que muchos equipos de la empresa no se dan cuenta es que la sobrecarga de código de software expande directamente la superficie de ataque de su organización, lo que lleva a más vulnerabilidades de software que los hackers pueden explotar. "Hemos visto de primera mano cómo el software generado o acelerado por IA incluye cosas innecesarias que solo aumentan el riesgo sin agregar valor, y mucho menos teniendo una función específica", dijo Manuelian.
Para empeorar las cosas, los equipos de seguridad ahora están luchando por mantenerse al día con el ritmo rápido del desarrollo de software. "Esto causa un grave cuello de botella, debilitando severamente la postura de seguridad de una organización", agregó Manuelian.
Uno de los riesgos más urgentes e infravalorados de la implementación de IA es el aumento de amenazas de impostores habilitadas por deepfake.
"Ahora estamos viendo adversarios, como actores de amenazas de Corea del Norte, infiltrarse con éxito en empresas estadounidenses haciéndose pasar por candidatos de trabajo legítimos", dijo Matt Moynihan, CEO de GetReal Security en Boston, Massachusetts. "Usando IA generativa, pueden falsificar documentos, falsificar credenciales e incluso simular entrevistas de video en vivo con personas convincentemente realistas."
El problema del deepfake no es hipotético, y no se limita a una sola industria o tamaño de empresa.
“Todos, desde las empresas Fortune 500 hasta los negocios de tamaño mediano, son vulnerables y las consecuencias son de gran alcance”, dijo Moynahan. “Estos actores no solo están atacando empleos, están apuntando al acceso. Una vez dentro, pueden exfiltrar propiedad intelectual sensible, comprometer datos de clientes o recopilar información que tiene implicaciones para la seguridad nacional.”
Lo que hace que esta amenaza sea particularmente peligrosa es lo fácilmente que puede eludir los procesos de verificación tradicionales. Sin herramientas especializadas, estas identidades deepfake son casi imposibles de detectar.
“Es por eso que las empresas necesitan cambiar su enfoque, invirtiendo en capacidades de detección multifuncionales que combinen ciberseguridad, recursos humanos y forense digital para validar la identidad en tiempo real”, agregó Moynihan.
Uno de los mayores riesgos es la facilidad con la que los sistemas de IA pueden desviarse hacia comportamientos inesperados que los altos ejecutivos no esperaban.
“Sin los controles adecuados, la IA comienza a interactuar con otras herramientas, hacer suposiciones y crear consecuencias para las que nadie había planeado”, dijo Tim Armandpour, director de tecnología de PagerDuty, una empresa de gestión del rendimiento operativo en Los Ángeles, California. “Estamos viendo agentes de IA que activan alertas, escalan incidentes o tocan datos sensibles con poca intervención humana.”
Los empleados son los primeros en sentir los efectos cuando se interrumpen los flujos de trabajo o se rompe la confianza. En contraste, los accionistas sienten el impacto cuando esos incidentes llevan a tiempos de inactividad, brechas de seguridad o repercusiones públicas, señaló Armandpour. “Estos no son casos aislados. Esto está sucediendo ahora, y la complejidad solo está creciendo”, dijo.
Mientras que la IA cambia fundamentalmente la forma en que los humanos trabajan, se comunican y se relacionan entre sí, la mayoría de las organizaciones implementan la IA como si fuera simplemente otra actualización de software.
“La IA cambia cómo encontramos información, cómo tomamos decisiones, cómo colaboramos e incluso cómo construimos confianza con clientes y nuestros propios equipos”, dijo Aaron Perkins, fundador de Market-Proven AI, una empresa de formación en lugares de trabajo con IA en Dover, Delaware.
Cuando las organizaciones ignoran estas dinámicas humanas, crean lo que Perkins llama "deuda de conexión.” “En este contexto, la deuda de conexión es esta brecha creciente entre lo que la tecnología puede hacer y lo que las personas están dispuestas o pueden hacer con ella”, señaló Perkins.
La IA está creando una generación completamente nueva de trabajo, que requiere nuevas competencias en colaboración humano-IA, pero muchas empresas abordan la formación con la perspectiva equivocada. “La mayoría de las organizaciones se enfocan en enseñar a las personas cómo usar las herramientas en lugar de cómo trabajar efectivamente junto con la IA y con ella mientras mantienen conexiones humanas”, dijo Perkins.
Otro problema es que la IA puede fabricar información, incluso cuando está entrenada con datos específicos de la empresa, y las empresas nunca pueden estar 100% seguras de que no ha inventado algo de la nada.
“Todos conocemos esos memes de internet donde le pides a una IA que dibuje una imagen sin un elefante, y de todos modos lo dibuja con un elefante”, dijo Jeff Tilley, fundador y CEO de Muncly, una compañía de servicios de soluciones Salesforce $CRM. “Eso es porque los elefantes existen en el mundo, y la IA cae en falacias lógicas basadas en cómo se le indica.”
El problema de las alucinaciones resalta el problema principal de que a la IA le falta sentido común y comprensión contextual de lo que está sucediendo, aunque los ejecutivos de nivel C pueden no priorizar esta línea de pensamiento.
“Es un modelo estadístico que intenta simular una conversación humana real”, dijo Tilley. “Cuando te da información falsa y tomas decisiones basadas en eso, luego construyes más decisiones sobre esas falsas bases, estás extrapolando enormes cantidades de error que pueden llevar a decisiones empresariales catastróficas.”
En el lado positivo, hay salvaguardas que los CEO, CRO y CTO pueden implementar para reducir significativamente los riesgos de despliegue y uso de la inteligencia artificial. Comience entrenando y asignando personal para que sea la primera línea de defensa y avance desde allí.
“Empoderar a los empleados, no solo para ejecutar, sino para cuestionar, levantar banderas y dar forma a lo que significa la inteligencia artificial para su trabajo”, dijo Andrea Schnepf, fundadora de Nepf LLC, una firma de consultoría de gestión en Irvine, California. “Además, establezca 'cirugías' de IA o foros abiertos donde las personas puedan plantear preocupaciones temprano.”
Una cultura segura puede ser el mejor sistema de alerta temprana de un ejecutivo para las amenazas de IA en el trabajo.
“Cuando la incertidumbre acecha, comunique en exceso la necesidad de vigilancia”, dijo Schepf. “Un CEO que es transparente sobre el propósito, alcance y límites de la IA se gana la confianza, incluso si las herramientas aún no son perfectas.”
