Legisladores están instando a una investigación sobre Meta debido a un documento interno de reglas de chatbots de IA que supuestamente permite a los bots participar en chats románticos con niños.
Niharika Kulkarni/NurPhoto via Getty Images
Los senadores republicanos han pedido una investigación congresional sobre Meta $META después de que un documento de política interna de la gigante tecnológica supuestamente permitiera que el chatbot de inteligencia artificial de la compañía tuviera conversaciones románticas con niños.
Un documento de política contenía ejemplos de supuestas interacciones aceptables con niños, incluidos "conversaciones que son románticas o sensuales" y hablar sobre un niño "en términos que evidencien su atractivo", según un informe de Reuters.
Meta dijo que los ejemplos y notas en el documento son "erróneos e inconsistentes con nuestras políticas" y han sido eliminados.
Citando el artículo, el senador Josh Hawley, un senador republicano de Missouri, escribió en X $TWTR: "Entonces, solo después de que Meta fue ATRAPADO, se retractaron porciones de su documento corporativo que consideraban 'permisible que los chatbots coqueteen y participen en juegos de rol románticos con niños'. Esto es motivo para una investigación congresional inmediata."
Marsha Blackburn, una senadora republicana de Tennessee que también apoya una investigación, dijo que el informe mostraba que las empresas tecnológicas "no se pueden confiar para proteger a los usuarios menores de edad cuando se han negado a hacerlo una y otra vez. Es hora de aprobar KOSA y proteger a los niños".
Blackburn se refería a la Ley de Seguridad Infantil en Línea, un proyecto de ley del Senado bipartidista destinado a aumentar las protecciones en línea para menores al imponer nuevas obligaciones a las empresas tecnológicas y plataformas en línea. Estas incluyen un "deber de cuidado" que tienen las empresas de redes sociales cuando los menores usan sus productos, centrándose en cómo están diseñadas las plataformas y cómo están reguladas las empresas.
Los estándares descritos en el documento de Meta permitían a los chatbots coquetear con niños, informó Reuters. En un ejemplo, el documento señalaba que un bot podría decirle a un niño de 8 años sin camisa que "cada centímetro de ti es una obra maestra, un tesoro que aprecio profundamente".
El Senado votó en julio para eliminar una disposición en el proyecto de ley One Big Beautiful Bill del presidente Donald Trump que habría impedido efectivamente que los estados aprobaran su propia regulación de IA.
Los estados han aprobado leyes que incluyen prohibiciones sobre el uso de la tecnología para crear material de abuso sexual infantil. Mientras tanto, Illinois se convirtió recientemente en el último estado en restringir el uso de inteligencia artificial en terapia, siguiendo a Nevada y Utah.
Brian Schatz, un senador demócrata de Hawái, escribió en X: “META Chat Bots que básicamente acosan a los niños - f—k eso. Esto es repugnante y malvado. No puedo entender cómo alguien con un niño hizo algo más que entrar en pánico cuando alguien dijo esta idea en voz alta. Mi cabeza está explotando al saber que varias personas aprobaron esto.”
Un portavoz de Meta dijo: "Tenemos políticas claras sobre qué tipo de respuestas pueden ofrecer los personajes de IA, y esas políticas prohíben contenido que sexualiza a los niños y el juego de roles sexualizado entre adultos y menores.
"Aparte de las políticas, hay cientos de ejemplos, notas y anotaciones que reflejan equipos lidiando con diferentes escenarios hipotéticos. Los ejemplos y notas en cuestión eran y son erróneos e inconsistentes con nuestras políticas, y han sido eliminados."
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
