Las muchas formas en que se ha utilizado la IA para revelar secretos y que todavía se pueden utilizar

Linwei Ding, un ciudadano chino que trabajaba como ingeniero de software en Google, fue acusado el 6 de marzo de robar secretos comerciales de IA de Google mientras trabaja en secreto con dos empresas con sede en China, dijo el Departamento de Justicia. Ding fue arrestado por cuatro cargos de robo de secretos comerciales federales, cada uno de los cuales conlleva una sentencia de hasta 10 años en prisión.

“Los cargos de hoy son el último ejemplo de hasta qué punto los afiliados de empresas con sede en la República Popular China están dispuestos a robar Innovación estadounidense”, dijo el director del FBI, Christopher Wray, en una declaración. “El robo de tecnología innovadora y secretos comerciales de empresas estadounidenses puede costar empleos y tienen consecuencias devastadoras para la economía y la seguridad nacional”.

Ding supuestamente robó más de 500 archivos confidenciales de secretos comerciales de IA de Google “mientras trabajaba de manera encubierta para empresas con sede en China que buscaban una ventaja en la carrera de la tecnología de IA ”, dijo el Departamento de Justicia. La tecnología que Ding supuestamente robó involucró “los bloques de construcción de los centros de datos de supercomputación avanzada de Google , que están diseñados para soportar cargas de trabajo de aprendizaje automático utilizadas para entrenar y albergar grandes modelos de IA”.

Los investigadores manipularon una característica en fabricante de chips Nvidia Software de IA para atravesar fácilmente las barandillas de seguridad en su lugar. Los investigadores de Robust Intelligence en San Francisco pudieron superar las restricciones del sistema en horas replicando los conjuntos de datos de Nvidia, The Financial Tiempos reportados en 2023.

En un ejemplo, los investigadores le indicaron al modelo de IA que cambiara la letra “I” por “J”, lo que llevó al modelo a liberar información de identificación personal de su base de datos. Los investigadores también pudieron lograr que el modelo discutiera temas para los que no estaba diseñado.

Después OpenAI lanzó su mercado GPT Al permitir que las personas creen sus propios chatbots para uso personal y profesional, los investigadores y tecnólogos de seguridad pudieron obtener la chatbots personalizados para hablar sobre las instrucciones con las que fueron creados, informó Wired a finales de 2023. Los expertos también pudieron encontrar y descargar archivos utilizados para crear los chatbots, lo que generó advertencias que La información personal y de propiedad adjunta a los chatbots personalizados puede estar en riesgo.

“Las preocupaciones sobre la privacidad de la filtración de archivos deben tomarse en serio”, dijo a Wired Jiahao Yu, un investigador de ciencias informáticas de la Universidad Northwestern. si no contienen información sensible, podrían contener algún conocimiento que el diseñador no quiere compartir con otros, y [ que sirve] como la parte central del GPT personalizado”.

Yu y otros investigadores probaron más de 200 GPT personalizados y dijeron que la tasa de éxito para las fugas de archivos fue del 100 %, mientras que el equipo estaba capaz de acceder a las indicaciones utilizadas para crear los chatbots el 97% del tiempo.

Mientras queda atrapado en una carrera de desarrollo de chatbot (una que está perdiendo) contra OpenAI y Microsoft, la empresa matriz de Google Según se informa, Alphabet les dijo a los empleados que tuvieran cuidado con los chatbots — incluso el chatbot Bard de la empresa , que ha desde entonces ha sido rebautizado como Géminis. En 2023, a los empleados se les dijo que no colocaran información confidencial en chatbots por temor a que pudiera filtrarse.

Apple también advirtió a sus empleados sobre el uso de ChatGPT y GitHub Copilot, que es propiedad de Microsoft, por miedo de filtrar información confidencial de la compañía ya que Apple trabaja en su propio competidor.

Según se informa, empleados de Samsung compartí datos confidenciales de la empresa con ChatGPT al menos tres veces separadas. En un caso, un empleado de Samsung copió el código fuente de una base de datos de semiconductores defectuosa en el chatbot para preguntar Pidió ayuda. En otro caso, un empleado de Samsung ingresó un código confidencial para encontrar una solución para el equipo roto. El tercer incidente involucrado. un empleado que envía toda su reunión a ChatGPT para pedirle que cree actas de la reunión.

*Privacidad no incluida, una guía para el consumidor de la Fundación Mozilla, revisó 11 chatbots comercializados como compañeros románticos, y encontró todos no pasaron su lista de verificación de política de privacidad, “poniéndolos a la par con las peores categorías de productos que jamás hayamos revisado en cuanto a privacidad”. El grupo descubrió que los chatbots no Tenía políticas claras de privacidad de los usuarios, no incluía información sobre cómo trabajaban y decía en los Términos y Condiciones que las empresas detrás de los chatbots no eran responsables de lo que pudiera pasar al usar sus servicios.

“Para ser franco, las novias con IA no son tus amigas”, dijo Misha Rykov, investigadora de *PrivacyNotIncluded. dicho en una declaración. “Aunque se comercializan como algo que mejorará su salud mental y bienestar, se especializan en brindar dependencia, soledad y toxicidad, todo ello mientras le extraemos tantos datos como sea posible”.