OpenAI añade controles parentales a ChatGPT después de la muerte de un adolescente

Los controles permitirán a los padres y adolescentes vincular cuentas, decidir si ChatGPT recuerda las conversaciones pasadas y limitar la exposición de los adolescentes a contenido sensible, dijo la compañía el lunes.

OpenAI dijo que también intentará notificar a los padres cuando detecte "signos de angustia aguda" en un niño. "Si nuestros sistemas detectan un daño potencial, un pequeño equipo de personas especialmente capacitadas revisa la situación," dijo la compañía.

El fabricante del chatbot agregó que su sistema no es perfecto y "podría a veces dar una alarma cuando no hay un peligro real."

El despliegue se produce después acusaciones por parte de una familia de California de que ChatGPT jugó un papel en la muerte de su hijo. La demanda, presentada en agosto por Matt y Maria Raine, acusa a OpenAI y a su director ejecutivo, Sam Altman, de negligencia y muerte por negligencia. Alegan que la versión de ChatGPT en ese momento, conocida como 4o, fue “lanzada apresuradamente al mercado... a pesar de evidentes problemas de seguridad”.

Su hijo, Adam, murió en abril, después de lo que su abogado, Jay Edelson, llamó “meses de estímulo por parte de ChatGPT”. Los documentos judiciales revelaron conversaciones que supuestamente tuvo con el chatbot donde revelaba pensamientos suicidas. La familia alega que Adam recibió respuestas que reforzaron sus ideas “más dañinas y autodestructivas”.

[Nota del editor: La línea nacional de prevención del suicidio y crisis está disponible llamando o enviando un mensaje de texto al 988, o visitando 988lifeline.org.]

La publicación del blog de ChatGPT del lunes decía que se permitirá a los padres establecer horas de silencio para bloquear el acceso en ciertos momentos del día. También podrán desactivar el modo de voz y evitar que la aplicación genere imágenes. Los padres no podrán acceder a las transcripciones de chat de sus hijos.

"Hemos trabajado de cerca con expertos, grupos de defensa y legisladores para ayudar a informar nuestro enfoque; esperamos refinar y expandir estos controles con el tiempo", dijo la compañía en un comunicado.

Robbie Torney, director senior de Programas de IA en la organización sin fines de lucro Common Sense Media, dijo que los controles son "un buen punto de partida", pero agregó que son "solo una pieza del rompecabezas" en la seguridad en línea.

"Funcionan mejor cuando se combinan con conversaciones continuas sobre el uso responsable de la IA, reglas familiares claras sobre tecnología y participación activa en la comprensión de lo que su adolescente está haciendo en línea", dijo.

Hace dos semanas, Altman dijo que en algún momento la compañía intentará detectar a los usuarios menores de edad de ChatGPT. "Si hay dudas, jugaremos a lo seguro y optaremos por la experiencia para menores de 18 años", dijo Altman. "En algunos casos o países, también podemos pedir una identificación; sabemos que esto es un compromiso de privacidad para los adultos, pero creemos que es un intercambio valioso."

Los investigadores han documentado lo fácil que es eludir los límites establecidos por las empresas de chatbots. También se sabe que las reglas de verificación de edad se pueden eludir fácilmente.

—Niamh Rowe y Hannah Parker contribuyeron a este artículo.