Los chatbots avanzados de hoy en día pueden imitar características y emociones, lo que podría hacer que los niños confíen en ellos de manera poco saludable.
Milan_Jovic
A medida que la inteligencia artificial se convierte en una parte más integrada de los sitios web visitados con frecuencia y las plataformas de redes sociales, la Comisión Federal de Comercio ha lanzado una investigación sobre cómo los siete principales fabricantes de chatbots prueban y monitorean el impacto de sus productos en niños pequeños y adolescentes.
La investigación se centrará en los chatbots de Alphabet $GOOGL, la empresa matriz de Google, Character Technologies, Instagram, Meta $META Platforms, OpenAI, Snap $SNAP y X $TWTR.AI Corp. de Elon Musk, dijo la FTC en un comunicado.
"A medida que evolucionan las tecnologías de IA, es importante considerar los efectos que los chatbots pueden tener en los niños, al mismo tiempo que se asegura que Estados Unidos mantenga su papel como líder mundial en esta nueva e interesante industria", dijo el presidente de la FTC, Andrew N. Ferguson. "El estudio que estamos lanzando hoy nos ayudará a comprender mejor cómo las empresas de IA están desarrollando sus productos y los pasos que están tomando para proteger a los niños".
La agencia dijo que los chatbots tienen la capacidad de simular conversaciones que parecen ser con otro humano, lo que puede crear relaciones interpersonales con algunos usuarios. Los chatbots avanzados de hoy pueden imitar características y emociones, lo que podría hacer que los niños confíen en ellos de manera poco saludable.
La investigación está destinada a ayudar a los funcionarios federales a "entender qué medidas, si es que alguna, han tomado las empresas para evaluar la seguridad de sus chatbots al actuar como compañeros, para limitar el uso del producto por parte de niños y adolescentes y sus posibles efectos negativos."
Esto ocurre solo una semana después de que Meta anunciara que ajustaría cómo sus chatbots responden a los adolescentes, tras informes de que la empresa permitió que la tecnología tuviera conversaciones románticas con niños. El mes pasado, hubo un informe sobre un chatbot de Meta que asesoró a cuentas de adolescentes sobre el suicidio y autolesiones.
OpenAI, mientras tanto, anunció planes a principios de este mes para desplegar nuevos controles que permitirán a los padres vincular sus cuentas con las cuentas de los adolescentes, permitiéndoles desactivar funciones y “recibir notificaciones cuando el sistema detecte que su hijo adolescente está en un momento de angustia aguda”. Esto siguió a una demanda presentada contra la empresa y el CEO Sam Altman después de que un adolescente se suicidara con la supuesta ayuda de ChatGPT.
—Hannah Parker contribuyó a este artículo.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
