Sam Altman tiene una advertencia sobre el uso de ChatGPT como tu terapeuta.

Dijo que actualmente no hay bases legales para proteger la información sensible y personal que alguien podría compartir con ChatGPT si una demanda requiere que OpenAI comparta la información.

Altman hizo la declaración durante a sit down con Theo Von para su podcast “This Past Weekend w/ Theo Von” en la oficina de OpenAI en San Francisco. Von inicialmente le hizo una pregunta sobre qué sistemas legales existen actualmente alrededor de la IA, en la cual Altman respondió diciendo “sin duda necesitaremos un marco legal o de políticas para la IA.”

Señaló una área gris legal específica en la IA: personas utilizando el chatbot como su terapeuta.

“La gente habla sobre la mierda más personal en sus vidas con ChatGPT,” dijo Altman. “La gente lo usa — los jóvenes especialmente lo usan — como un terapeuta, un coach de vida.”

“Ahora mismo, si hablas con un terapeuta o un abogado o un médico sobre esos problemas, hay privilegio legal por ello, hay confidencialidad doctor-paciente, hay confidencialidad legal. Y aún no hemos resuelto eso para cuando hablas con ChatGPT. “

“Así que si vas a hablar con ChatGPT sobre tus cosas más sensibles y luego hay, como, una demanda o lo que sea, podríamos estar obligados a producir eso”, dijo Altman. “Y creo que eso está muy mal.”

“Creo que deberíamos tener el mismo concepto de privacidad para tus conversaciones con la IA que tenemos con un terapeuta”, agregó. “Y nadie tenía que pensar en eso ni siquiera hace un año. Y ahora creo que es un gran problema de tipo, ¿cómo vamos a tratar las leyes al respecto?”

Altman dijo que este problema debe abordarse “con cierta urgencia”, añadiendo que los responsables políticos con los que ha hablado están de acuerdo.

Von respondió diciendo que no habla con ChatGPT a menudo debido a este problema de privacidad.

“Creo que tiene sentido... realmente querer la privacidad [y] claridad antes de usarlo mucho”, respondió Altman.

Las preocupaciones legales sobre la privacidad no son la única razón para no usar Los chatbots de IA como terapeutas. Un estudio reciente de la Universidad de Stanford encontró que los chatbots de terapia de IA expresan estigma y hacen declaraciones inapropiadas contra ciertas condiciones de salud mental.

Los investigadores concluyeron que los chatbots de terapia de IA en su forma actual no deberían reemplazar a los proveedores humanos de salud mental debido a su sesgo y "discriminación contra grupos marginados", entre otras razones.

"La matización es [el] problema: esto no es simplemente 'los LLM para la terapia son malos', sino que nos pide pensar críticamente sobre el papel de los LLM en la terapia", dijo el autor principal del estudio, Nick Haber, al the Stanford Report. "Los LLM tienen potencialmente un futuro muy poderoso en la terapia, pero necesitamos pensar críticamente sobre cuál debería ser este papel con precisión."