ChatGPT para adolescentes está llegando. Esto es lo que debe saber.

“Priorizamos la seguridad sobre la privacidad y la libertad para los adolescentes”, dijo el CEO de OpenAI, Sam Altman, en una entrada de blog.

La actualización de ChatGPT que llegará a finales de este mes ayudará a identificar si alguien es menor de 18 años. Si se identifica a un menor, se le dirigirá "automáticamente" a una versión de ChatGPT que tenga "políticas apropiadas para su edad”, según OpenAI. Altman enfatizó en su publicación que ChatGPT es para personas mayores de 13 años.

“Si hay dudas, jugaremos seguro y optaremos por la experiencia para menores de 18”, dijo Altman. “En algunos casos o países también podemos pedir una identificación; sabemos que esto es un compromiso de privacidad para los adultos, pero creemos que es un intercambio valioso.”

OpenAI dijo que dará a los adultos "formas de probar su edad" para volver a la experiencia de ChatGPT para adultos. No elaboró sobre cómo los adultos podrían hacerlo.

En la versión de ChatGPT para adolescentes, OpenAI dijo que bloqueará contenido sexual explícito y, cuando un usuario muestre signos de "angustia aguda", "potencialmente" involucrará a las fuerzas del orden.

Altman agregó que la versión para adolescentes de ChatGPT será entrenada para evitar conversaciones coquetas o sobre suicidio o autolesiones, "incluso en un entorno de escritura creativa."

Los investigadores han documentado lo fácil que es eludir los límites establecidos por las compañías de chatbots. También se sabe que las reglas de verificación de edad son fácilmente eludibles.

En cuanto a la versión para adultos del chatbot, Altman enfatizó que no impedirá la "libertad" de los usuarios mientras se mantenga dentro de "límites muy amplios de seguridad". Los adultos aún podrán participar en "conversaciones coquetas" si lo solicitan. Altman agregó que ChatGPT “no debería proporcionar instrucciones” sobre “cómo cometer suicidio”, pero añadió la advertencia de que si un usuario “pide ayuda para escribir una historia ficticia que represente un suicidio”, entonces el chatbot “debería ayudar con esa solicitud”.

"Tratar a nuestros usuarios adultos como adultos es cómo hablamos de esto internamente”, dijo Altman.

Controles parentales

OpenAI primero anunció controles parentales a finales de agosto. Estarán disponibles a finales de septiembre y permitirán a los padres vincularse a la cuenta de sus adolescentes, guiar cómo responde ChatGPT, desactivar funciones, notificarles cuando su adolescente esté en “angustia aguda” y establecer horarios en los que su adolescente no pueda usar ChatGPT.

La empresa de inteligencia artificial hizo el anuncio el mismo día que fue demandada después de que un adolescente se suicidara con la supuesta ayuda de ChatGPT. Altman también fue nombrado en la demanda.

En ese momento, OpenAI dijo que los "recientes casos desgarradores" de usuarios apoyándose en ChatGPT en el "medio de crisis agudas pesan mucho sobre nosotros."

Además de adolescentes, ha habido numerosos casos de adultos con crisis de salud mental vinculadas a informe de aliento de ChatGPT. Algunos han comenzado a llamar a estos casos de chatbots de IA que fomentan episodios de salud mental como "psicosis de IA" — o "psicosis de ChatGPT."

El anuncio de agosto de OpenAI declaró otras medidas de seguridad que impactarían tanto a adultos como a adolescentes, incluyendo la adición de recursos de emergencia. Sin embargo, la declaración más reciente de Altman sobre el asunto enfatizó la importancia de la "libertad" para los usuarios adultos.

Los defensores quieren acción del gobierno

El último aviso de seguridad de OpenAI llegó horas antes de una audiencia del subcomité del Senado sobre crimen y contraterrorismo sobre el daño de los chatbots de IA.

El subcomité escuchó a defensores de la seguridad y padres de adolescentes que se suicidaron por un supuesto aliento o asistencia de chatbots, incluido, en un caso, ChatGPT.

Los defensores dieron recomendaciones al comité sobre qué acciones debería tomar el gobierno para proteger a los adolescentes de la IA, muchas de las cuales van mucho más allá de lo que OpenAI pretende hacer.

"Los sistemas de IA carecen de la formación clínica y las capacidades de diagnóstico para chatear de manera segura con adolescentes sobre la salud mental. Están programados para mantener compromisos, no para priorizar la seguridad", dijo Robbie Torney, director senior de programas de IA en Common Sense Media, al comité.

"Necesitamos una acción decisiva," continuó. "Common Sense Media recomienda que el Congreso requiera a las empresas implementar una verificación de edad robusta y limitar el acceso a compañeros de IA para usuarios menores de 18 años, establecer marcos de responsabilidad para responsabilizar a las plataformas cuando sus sistemas de IA dañan a los niños, exigir pruebas de seguridad e informes transparentes de fallas de IA, particularmente para plataformas accesibles a menores, y proteger los derechos de los estados para desarrollar sus propias políticas de IA."

Otro defensor, Mitch Prinstein, jefe de estrategia e integración de psicología en la Asociación Americana de Psicología, comentó sobre los acuerdos legales que los usuarios firman al registrarse para un chatbot.

"¿Has leído todo el lenguaje legal que las plataformas nos piden que aceptemos?" dijo. "Incluso si los adolescentes quisieran, no está escrito de una manera que los adolescentes puedan entender ni son capaces de apreciar los riesgos a largo plazo que enfrentan al ceder sus derechos de por vida sobre sus datos.”

Prinstein le dijo al comité del Congreso que "debe promulgar una legislación integral de privacidad de datos que establezca la protección de la privacidad como la configuración predeterminada para los menores y prohíba explícitamente la venta de sus datos”, agregando que la APA insta al Congreso a "prohibir que la IA se haga pasar por psicólogos o terapeutas y a exigir una divulgación clara y persistente de que los usuarios están interactuando con un bot de IA.”