El abogado de una familia que demanda a OpenAI por la muerte de su hijo de 16 años dice que la respuesta de la compañía no es suficiente.
Jay Edelson, quien representa a los padres, acusó al CEO de OpenAI, Sam Altman, de "esconderse detrás del blog de la compañía".
Getty Images / KIRILL KUDRYAVTSEV
El abogado de una familia que demanda a OpenAI por la muerte de su hijo de 16 años dice que la respuesta de la compañía no es suficiente.
Las herramientas, presentadas en una publicación de blog el martes publicación, permitirán a los padres conectar su cuenta de ChatGPT con la de su hijo, desactivar ciertas funciones como la memoria y el historial de chats, y les alertará si la plataforma cree que un joven usuario está en “angustia aguda.”
El despliegue siguió a las acusaciones de la familia de que ChatGPT jugó un papel en que su hijo se quitara la vida. Pero Jay Edelson, el abogado que los representa, criticó las medidas en un comunicado el miércoles.
“En lugar de tomar medidas inmediatas para remover un producto que creemos presenta riesgos claros, OpenAI ha respondido con promesas vagas y relaciones públicas”, dijo Edelson.
Junto con la presentación de nuevas herramientas, OpenAI también dijo que a principios de este año comenzó a reunir un “consejo de expertos en desarrollo juvenil, salud mental e interacción humano-computadora” para crear un marco “de cómo la IA puede apoyar el bienestar de las personas y ayudarlas a prosperar.” También reiteró que ChatGPT está diseñado para animar a los usuarios en crisis a buscar ayuda profesional: “Hemos visto a personas recurrir a él en los momentos más difíciles.”
Pero Edelson no está convencido. “OpenAI no necesita un panel de expertos para decirle que ChatGPT 4o es peligroso”, dijo.
El demanda, filed last week by Matt and Maria Raine in the superior court of the state of California for the county of San Francisco, accuses OpenAI and its chief executive and co-founder, Sam Altman, of negligence and wrongful death. They allege that the version of ChatGPT at that time, known as 4o, was “rushed to market … despite clear safety issues”.
Su hijo, Adam, murió en abril, después de lo que Edelson llamó 'meses de aliento de ChatGPT'. Presentaciones judiciales revelaron conversaciones que supuestamente tuvo con el chatbot donde reveló pensamientos suicidas. La familia alega que Adam recibió respuestas que reforzaron sus ideas 'más dañinas y autodestructivas'.
El adolescente discutió un método de suicidio en numerosas ocasiones, incluso poco antes de quitarse la vida. Según la presentación, el modelo de IA lo guió sobre la eficacia de su método elegido.
Edelson también usó la declaración del miércoles para señalar a Altman por 'esconderse detrás del blog de la compañía'. Cree que el CEO debería 'decir inequívocamente que cree que ChatGPT es seguro o retirarlo inmediatamente del mercado.'
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.