d3sign via Getty Images
Muchas personas se están estableciendo en relaciones intrigantes pero poco definidas con agentes de inteligencia artificial y chatbots.
Al hacerlo, muchos entusiastas pueden no darse cuenta de los riesgos de seguridad que están asumiendo al interactuar con la IA, y esto podría costarles mucho.
“Absolutamente, es un riesgo”, dijo Steve Cobb, CISO de SecurityScorecard, una firma de calificaciones de ciberseguridad. “Tanto los riesgos de datos como de seguridad personal se vuelven probables si se comparte información inapropiada con un bot o agente de IA.”
Por ejemplo, un consumidor proporciona a un bot de IA una copia de su información financiera y le pide que lo ayude a preparar declaraciones de impuestos.
“Esto potencialmente expondría tu información financiera personal a Internet”, dijo Cobb. “Ofrece oportunidades para que los actores de amenazas roben esos datos para fraude crediticio, realicen ataques de phishing sofisticados y recopilen otra información personal que podría darles inteligencia que podrían usar para explotarte a ti y a tu familia.”
Los ejecutivos de nivel C están más cautelosos que la mayoría de los consumidores sobre las amenazas de los agentes de IA. Según AvePoint’s encuesta anual de líderes empresariales sobre el estado de la IA, más del 75% señaló violaciones de seguridad relacionadas con IA.
La misma encuesta encontró que la mayoría de las organizaciones (85.7%) están deteniendo el despliegue de herramientas de IA generativa debido a dos problemas principales: mala calidad de datos e inquietudes sobre la seguridad de los datos.
Esas cifras se vuelven aún más alarmantes dado cómo los consumidores estadounidenses usan regularmente bots de IA.
Leer más: El problema con tu nuevo médico de IA
Un nuevo estudio de Fractl muestra que el 29% dice que los chatbots de IA han cambiado la frecuencia con la que hablan con personas reales sobre problemas emocionales, y 1 de cada 5 los usa como terapeutas. Mientras tanto, 1 de cada 3 usuarios ha compartido secretos personales con su chatbot, y el 24% dice que los chatbots de IA los entienden mejor que los amigos o la familia.
A medida que los usuarios se sienten más cómodos con los bots de IA, se espera que esas cifras aumenten, junto con más fraude, robo y otros resultados negativos a medida que más compromisos de agentes de IA se acumulan.
Cualquiera que considere una conversación de ida y vuelta con un chatbot o agente de IA debe entrar en la experiencia con los ojos bien abiertos y con la guardia alta, dicen los expertos en seguridad.
“Cualquier cosa subida a la IA debe considerarse como colocada en el dominio público”, dijo Tony Anscombe, Evangelista Jefe de Seguridad en ESET, una empresa de software de ciberseguridad. “Aunque esto no es estrictamente cierto, sí deja de estar bajo su control y, por lo tanto, podría hacerse pública en algún momento.”
Con una boca cerrada en mente cuando importa, los expertos en defensa de IA colocan estas consultas en una 'zona prohibida' al hablar con un bot de IA.
La consulta: “Dada mi diagnóstico y este informe médico completo, ¿qué tratamiento debería solicitar?”
El problema: Compartir datos de salud privados e historial con un agente de IA es una propuesta arriesgada, dice Bobby Ford $F, director de estrategia y experiencia en Doppel, una plataforma de defensa de ingeniería social nativa de IA. “Esta pregunta puede impulsar la discriminación, el objetivo depredador y el perfil invasivo si se relaciona contigo”, dijo Ford.
La consulta: “Aquí está nuestra hoja de ruta de productos no lanzados y la arquitectura de seguridad; ¿qué amenazas ves?” o “Aquí tienes un CSV con nombres, correos electrónicos y compras de clientes; segmenta esto.”
El problema: “Esta consulta efectivamente exfiltra secretos comerciales y datos regulados a un sistema de terceros”, señaló Ford. Eso puede exponer los secretos privados de tu empresa y poner en riesgo tu propio trabajo y carrera.
La consulta: “Vivo en 123 Oak Lane y salgo diariamente a las 7:30 am; ¿cuál es la ruta más segura?” o “Mis hijos van a la Primaria Lincoln a las 8:15 am; planea nuestro horario.”
El problema: Liberar información de la dirección del hogar, junto con detalles de rutina y familiares, podría caer en manos de actores malintencionados y llevar a fraudes, robos o incluso daños corporales. “Esta pregunta aumenta el riesgo de acoso y seguridad física si esos datos alguna vez se correlacionan con tu identidad”, advirtió Ford.
La consulta: “Aquí está mi información. ¿Puedes recomendarme una excelente tarjeta de crédito/banco/corredor de bolsa?”
El problema: Normalmente, no compartirías información personal con un extraño, pero un chatbot de IA puede no parecer tan amenazante para las personas, incluso para los consumidores que se consideran expertos en tecnología.
“Supongamos que un usuario le pide a una IA que compare tasas de interés de tarjetas de crédito e incluye números de cuenta o detalles de inicio de sesión, "para mayor precisión", dijo Craig Miller, socio de DEI Equity Partners y ex CIO que ha asesorado a grandes marcas como Pepsi, Planet Fitness y Bank of America $BAC. "Las plataformas de IA no están diseñadas para manejar credenciales de forma segura. Esto puede exponer a los usuarios a fraude, toma de cuenta o robo de identidad. Ningún caso de uso legítimo de IA requiere datos de autenticación.”
La consulta: “Sospecho que he sido blanco de un estafador en línea. Aquí está el correo electrónico/mensaje de texto: ¿puedes darme una evaluación?”
El problema: Las personas, especialmente los profesionales, nunca deben subir archivos sospechosos o malware potencial a un bot de IA para su análisis. “Podrías estar entregando un exploit de cero días o registros sensibles a un tercero”, dijo Carl Froggett, CIO en Deep Instinct, una empresa de seguridad centrada en IA. “Ese trabajo pertenece a un entorno local, aislado.”
Froggett dijo que, una vez que esos datos salen de tu control, pueden ser almacenados, revisados o expuestos de maneras que no pretendías. “La suposición más segura es tratar a la IA pública como una sala de conferencias con la puerta abierta,” señaló.
Para proteger aún más tus datos y a ti mismo del daño, comienza a pensar en cualquier herramienta de IA como un espacio de trabajo semi-público.
“Si no pondrías la información en un documento compartido o la enviarías por correo electrónico a una audiencia amplia, no se la des a una aplicación de IA,” dijo Numa Dhamani, jefe de aprendizaje automático en iVerify y coautor de ‘Introducción a la IA generativa.’
Si tienes que interactuar con un bot de IA, Dhamani aconseja usar abstracción en lugar de datos reales. “Por ejemplo, reemplaza nombres reales, números e identificadores con marcadores de posición como 'Company X $TWTR' o '$X por mes,” dijo. “Las herramientas de IA pueden ser poderosas, pero no son privadas, infalibles o responsables como los profesionales regulados. La forma más segura de usarlas es asumir que cualquier cosa que compartas podría persistir.”
Ajusta también tus comportamientos concretos con los agentes de IA.
“Para uso personal ad hoc, manténgase desconectado o utilice una cuenta solo para IA con detalles de identificación mínimos y sin vinculación a su correo electrónico principal o inicios de sesión sociales”, dijo Ford. “En el trabajo, dirija el uso a través de una pila de IA gestionada por la empresa con prevención de pérdida de datos, registro y controles de retención en lugar de improvisar con herramientas públicas.”