Instagram permitirá que los padres bloqueen a sus hijos para que no hablen con 'personajes de IA'.

La nueva actualización permitirá a los padres bloquear algunos personajes de IA o cerrar el acceso por completo a la cuenta de su adolescente. Pero incluso si los padres optan por bloquear todo el acceso a personajes de IA, su adolescente seguirá teniendo acceso al asistente de IA de Meta. Meta dijo que esta función tendrá "protecciones predeterminadas apropiadas para la edad". La actualización se implementará primero en Instagram a principios del próximo año, dijo el gigante tecnológico el viernes.

La última actualización de Meta sobre protecciones para adolescentes llega solo unos meses después de que un informe de Reuters encontrara que un documento de política interna en la empresa permitía que sus chatbots de IA participaran en conversaciones románticas con niños.

En respuesta a este informe, los fiscales generales de 42 estados y dos territorios enviaron una carta a 13 empresas que utilizan inteligencia artificial, incluyendo Meta, diciendo que usarían "todas las facetas de nuestra autoridad para proteger a los niños de la explotación por productos de inteligencia artificial depredadores."

Meta no es la única empresa poniéndose al día en protecciones para adolescentes. OpenAI, la empresa detrás de ChatGPT, lanzó una serie de controles parentales en septiembre, incluyendo una versión para adolescentes de ChatGPT.

Además de la actualización del viernes, Meta anunció el martes que actualizó las "experiencias de IA" para que los usuarios adolescentes sigan la orientación de las clasificaciones PG-13. Dijo que esto significa que "las IAs no deben dar respuestas inapropiadas para la edad que se sentirían fuera de lugar en una película PG-13."

“Además de nuestras políticas de larga data —que ya ocultan o prohíben la recomendación de contenido sexualmente sugestivo, imágenes gráficas o perturbadoras, y contenido para adultos como ventas de tabaco o alcohol a adolescentes—, nuestras políticas actualizadas ahora irán aún más lejos”, dijo Meta.

Los padres tendrán la opción de agregar configuraciones aún más estrictas a la cuenta de su hijo, lo que filtraría “aún más contenido” que la versión PG-13. La actualización se está implementando en EE. UU., Reino Unido, Canadá y Australia en inglés. Meta dijo que sus personajes de IA ya "están diseñados" para no discutir autolesiones, suicidio o trastornos alimenticios con adolescentes.

Meta dijo que los padres pueden acceder a "informes" sobre los temas que su hijo está hablando con personajes de IA y el asistente de IA. La empresa de tecnología no especificó más concretamente qué incluirían estos informes.

Los usuarios que Meta cree que podrían ser adolescentes tendrán estas restricciones de edad en sus cuentas. Sin embargo, los investigadores han documentado lo fácil que es eludir los límites establecidos por las empresas de chatbots. También se sabe que las reglas de verificación de edad son fácilmente eludibles.