El CEO de OpenAI quiere que se otorguen las mismas protecciones de privacidad que se dan a los médicos y abogados para proteger los datos de los usuarios de ChatGPT de demandas.
Kyle Grillot/Bloomberg via Getty Images
Los usuarios semanales de ChatGPT constituyen el 10% de la población adulta mundial, y Sam Altman quiere que sus conversaciones con chatbots permanezcan privadas. El CEO de OpenAI ha dicho repetidamente que quiere las mismas protecciones de privacidad para los chatbots de IA que las que se conceden normalmente a médicos, abogados y terapeutas, para evitar tener que entregar datos de usuarios comprometedores a los tribunales.
En una reciente publicación de blog sobre la vista previa de ChatGPT para adolescentes, Altman reiteró su postura sobre las protecciones de privacidad de la IA: “La gente habla con la IA sobre cosas cada vez más personales; es diferente de las generaciones anteriores de tecnología, y creemos que pueden ser una de las cuentas personalmente más sensibles que jamás tendrás.”
“Si hablas con un médico sobre tu historial médico o con un abogado sobre una situación legal, hemos decidido que es en el mejor interés de la sociedad que esa información sea privilegiada y se le brinden niveles más altos de protección”, escribió Altman. “Creemos que el mismo nivel de protección debe aplicarse a las conversaciones con la IA a las que la gente recurre cada vez más para preguntas sensibles y preocupaciones privadas.”
Pero no existen tales protecciones legales para los usuarios de chatbots hasta la fecha; en una entrevista de julio con el podcaster Theo Von, Altman advirtió que los tribunales podrían obligar a OpenAI a compartir las conversaciones privadas de sus usuarios. Ya, OpenAI ha sido ordenado por un tribunal federal a conserva registros de chat privados, y eso pone a OpenAI en riesgo tanto de alienar a los usuarios como de enredarse en batallas legales.
Eso depende de a quién le preguntes y qué quieran.
“Las empresas siempre prefieren tener reglas que los protejan de la responsabilidad, y los defensores siempre quieren tener acceso a la información que pueden usar para hacer cumplir los problemas”, dijo Peter Swire, profesor de derecho en el Scheller College of Business del Georgia Tech con un enfoque en privacidad y ciberseguridad. “Eso ocurre en todos los sectores todo el tiempo.”
El camino hacia las protecciones de privacidad de la IA no será fácil. Solo en los últimos meses, las empresas de IA han lidiado con demandas, represión estatal en la terapia de IA, un estudio de Stanford llamando la atención sobre los riesgos de usar chatbots de terapia, y audiencias en el Congreso sobre los daños más amplios de la IA. Mientras tanto, OpenAI está activamente empujando los límites alrededor de su acceso a datos sensibles de los usuarios. Los defensores a favor de las regulaciones de IA tienen una larga lista de razones para restringir hasta dónde pueden llegar las empresas de IA, potencialmente empujando el escenario ideal de Altman aún más lejos.
Existen protecciones de privacidad estrictas para médicos, abogados y terapeutas porque "es tan importante que las personas hablen honestamente con esas personas", dijo Swire. En cuanto a que los chatbots adquieran esos mismos privilegios, Swire explicó que podría imaginar un sistema donde se extiendan privilegios en "circunstancias limitadas", donde haya un "anuncio claro" de que el chatbot va a actuar como abogado o médico. Pero esta es una "propuesta muy diferente" a tratar cada interacción con un chatbot "como la conversación psiquiátrica más sensible", dijo.
.
“Si el chatbot va a actuar en el papel de un médico o un abogado, entonces vale la pena explorar tener la protección privilegiada en esas circunstancias específicas”, dijo Swire.
Según Mayu Tobin-Miyaji, un investigador de derecho especializado en IA y derechos humanos en el Centro de Información de Privacidad Electrónica sin fines de lucro, las protecciones de privacidad podrían posiblemente extenderse a LLM verificados bajo la supervisión de médicos, entre otros, “que están licenciados y calificados.” Tobin-Miyaji piensa que los chatbots de hoy no obtendrán tales protecciones, pero aquellos que “supervisen ese proceso” podrían.
Sin embargo, los defensores de la salud mental parecen estar empujando a los legisladores en otra dirección por completo.
Mitch Prinstein, jefe de estrategia e integración de psicología en la Asociación Americana de Psicología, instó al Congreso durante una audiencia reciente a prohibir que la IA “se haga pasar por psicólogos o terapeutas” y “mandar” divulgaciones que “los usuarios están interactuando” con un bot.
“[Las preocupaciones de seguridad] no van a desaparecer si hay protecciones de confidencialidad vigentes”, dijo Tobin-Miyaji.
“Debería haber más mecanismos de transparencia y responsabilidad para que el público entienda cuándo están introduciendo datos, cómo se están utilizando esos datos, a dónde se están compartiendo, [y] cómo eso puede impactar los derechos de privacidad y autonomía de las personas”, continuó.
Si los usuarios de chatbots piensan que sus conversaciones privadas podrían convertirse en evidencia judicial, ¿seguirán sintiéndose cómodos compartiendo tanto? Algunos usuarios ya parecen inquietos.
Un mayo orden judicial obligó a OpenAI a guardar indefinidamente las conversaciones de ChatGPT, incluso las eliminadas. OpenAI dijo que los datos solo pueden ser accedidos bajo 'estrictos protocolos legales' y que está impugnando la orden, pero los usuarios inmediatamente comenzaron a expresar sus preocupaciones en Reddit $RDDT, mostrando cuán rápidamente puede cambiar la percepción pública de ChatGPT.
“Incluso si nunca llega a ver la luz del día, el hecho de que un abogado individual potencialmente tendría que revisar los chats temporales de las personas parece un daño a la privacidad en sí mismo,” un usuario de Reddit escribió.
Otro advirtió que los usuarios deberían "asumir que todo lo que publiques en línea será público de alguna forma u otra." un tercero dijo: "Nunca. Confíes. En. Corporaciones. Con. Datos. Sensibles."
Un estudio reciente sobre los usuarios de ChatGPT de investigadores de OpenAI y Harvard encontró que aproximadamente el 77% de las conversaciones giran en torno a la orientación práctica, la escritura y la búsqueda de información, mientras que solo el 1,9% de los mensajes analizados están relacionados con relaciones y "problemas socioemocionales". Aunque este es un pequeño porcentaje de cómo los usuarios pasan su tiempo actualmente con el chatbot, OpenAI dice que los chats sensibles están en aumento; la falta de protecciones y la creciente conciencia de que los registros de chat podrían ser utilizados en batallas legales pueden cambiar cómo los usuarios interactúan finalmente con ChatGPT, asestando un golpe a la narrativa de privacidad que OpenAI, y Altman, están defendiendo.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
