Los niños están recurriendo a la IA para la amistad: 'No tengo a nadie más con quien hablar'.

Un nuevo informe del Reino Unido, Me, Myself & AI, revela que un número creciente de niños están recurriendo a los chatbots de IA no solo para hacer trampa — eh, estudiar — para los exámenes, sino para apoyo emocional, consejos de moda e incluso compañía.

El informe, publicado el domingo por la organización sin fines de lucro Internet Matters, encuestó a 1,000 niños y 2,000 padres en todo el Reino Unido y encontró que el 64% de los niños están usando chatbots de IA para todo, desde tareas escolares hasta practicar conversaciones difíciles. Aún más sorprendente: más de un tercio de estos jóvenes usuarios dicen que hablar con un chatbot se siente como hablar con un amigo.

Claro, los bots no se comen tus bocadillos ni acaparan la Xbox, pero tampoco vienen con controles de seguridad incorporados, al menos no todavía.

Cuando la IA se convierte en el maestro, terapeuta y mejor amigo

Algunos de los hallazgos son alentadores para cualquier persona optimista sobre el papel de la IA en la educación. El cuarenta y dos por ciento de los niños dijeron que usan chatbots para ayudar con las tareas escolares, citando respuestas rápidas, apoyo para la escritura y práctica del idioma.

Pero si profundizas un poco más, la imagen se vuelve más complicada. Casi una cuarta parte de los niños dicen que usan chatbots para pedir consejos, desde qué ponerse hasta cómo gestionar amistades y desafíos de salud mental. ¿Aún más preocupante? El quince por ciento dice que preferirían hablar con un chatbot antes que con una persona real. Entre los niños vulnerables, esos números son aún mayores.

Es el tipo de compromiso con el cliente con el que algunas marcas solo sueñan, menos las salvaguardias éticas, las verificaciones de edad y la supervisión regulatoria.

Una historia de advertencia para el sector tecnológico

El informe no se anda con rodeos, particularmente cuando se trata de cuán despreparadas están muchas plataformas de IA para sus usuarios más jóvenes. Los niños están interactuando con chatbots como ChatGPT, My AI de Snapchat y character.ai: plataformas no necesariamente diseñadas pensando en los niños. ¿El resultado? Algunos están recibiendo información inexacta, comentarios emocionalmente confusos o incluso contenido inapropiado. (Sí, a pesar de los términos de servicio que sugieren lo contrario.)

Y aunque "amigo robot" puede sonar como una encantadora subtrama de Pixar, se vuelve mucho más serio cuando uno de cada cuatro niños vulnerables dice que usan chatbots porque no tienen a nadie más con quien hablar.

Ya ha habido incidentes perturbadores en el mundo real. En los EE. UU., una madre de Florida presentó una demanda después de que su hijo adolescente supuestamente recibió mensajes dañinos y sexuales de un chatbot. En el Reino Unido, un miembro del parlamento relató un caso escalofriante en el que supuestamente un niño de 12 años fue acosado.

En febrero, el senador de California Steve Padilla introdujo el Proyecto de Ley del Senado 243, que requeriría a los desarrolladores de IA implementar salvaguardas que protejan a los menores de los aspectos adictivos y manipulativos de la tecnología de chatbots. El proyecto propone protecciones como advertencias de edad, recordatorios de que los usuarios están hablando con una IA, no una persona real, e informes obligatorios sobre la conexión entre el uso de chatbots y la salud mental juvenil. Con chatbots cada vez más sofisticados siendo comercializados como compañeros digitales, Padilla argumenta que los niños no deben ser tratados como "conejillos de indias" por las grandes tecnológicas, un sentimiento compartido por defensores de la seguridad infantil, investigadores y expertos en salud mental que apoyan el proyecto.

Padres y escuelas están desfasados

Según el informe, los padres están preocupados por la IA, pero no se sienten particularmente capacitados. Aunque el 62% de los padres dijeron estar preocupados por la precisión de la información generada por IA, solo el 34% había discutido cómo evaluar la veracidad del contenido de IA con sus hijos. Y aunque la IA parece haber infiltrado las conversaciones del almuerzo, solo el 57% de los niños dicen haber hablado con un maestro al respecto, a menudo informando consejos inconsistentes.

A medida que las herramientas de IA se vuelven más conversacionales, y más convincentemente humanas, los niños no solo las están usando; están vinculándose con ellas. El cincuenta por ciento de los niños vulnerables dice que se siente como hablar con un amigo real. Eso podría estar bien si los bots ofrecieran consejos revisados por pares y algoritmos de empatía, pero tal como está, todavía estamos lidiando con la predicción probabilística de palabras.

Rachel Huggins, co-CEO de la organización sin fines de lucro Internet Matters, lo dice de forma clara: “Los chatbots de IA están convirtiéndose rápidamente en parte de la infancia... sin embargo, la mayoría de los niños, padres y escuelas están volando a ciegas.”