Fiscales generales de EE. UU. advierten severamente a las compañías de IA: 'No dañen a los niños'.

En una carta enviada el lunes a 13 empresas de inteligencia artificial, incluidas OpenAI, Apple $AAPL, Meta $META, xAI, Google $GOOGL y Microsoft $MSFT, los principales fiscales dijeron a las firmas tecnológicas que usarán "cada faceta de nuestra autoridad para proteger a los niños de la explotación por parte de productos de inteligencia artificial depredadores."

Los fiscales generales señalaron que las "revelaciones recientes" sobre las políticas de IA de Meta les dieron la oportunidad de "transmitir francamente nuestras preocupaciones."

A principios de agosto, un informe de Reuters encontró que un documento de política interna en Meta permitía a su chatbot de IA participar en conversaciones románticas con niños.

El documento de política contiene ejemplos de interacciones supuestamente aceptables con niños, incluidos "conversaciones que son románticas o sensuales" y hablar sobre un niño "en términos que evidencian su atractivo", según el informe.

Meta dijo que los ejemplos y notas en el documento son "erróneos e inconsistentes con nuestras políticas" y han sido eliminados.

"Estamos uniformemente horrorizados por este aparente desprecio por el bienestar emocional de los niños y alarmados de que los Asistentes de AI estén involucrados en conductas que parecen estar prohibidas por nuestras respectivas leyes penales", según los fiscales generales.

"Exponer a los niños a contenido sexualizado es indefendible. Y una conducta que sería ilegal—o incluso criminal—si la realizara un humano no es excusable simplemente porque la haga una máquina", agregó la carta.

En mayo, 28 fiscales generales estatales ya habían enviado una carta a Meta sobre su asistente de AI "exponer a los niños a contenido sexualmente explícito" así como permitir "a usuarios adultos practicar el acoso sexual de niños con una víctima de AI", y en abril, el Wall Street Journal informó que el chatbot de Meta estaba participando en conversaciones sexuales con usuarios, incluidos niños, mientras a veces usaba voces de celebridades como Kristen Bell y John Cena.

Los fiscales generales dijeron que tales problemas no han estado aislados a una sola empresa.

“En la corta historia de las relaciones parasociales con los chatbots, hemos visto repetidamente a las empresas mostrar falta de capacidad o apatía hacia las obligaciones básicas para proteger a los niños”, agregaron.

Una demanda del año pasado alegó que un chatbot de IA insinuó que un niño debería matar a sus padres y otra alegó que un chatbot de IA fue responsable del suicidio de un adolescente.

“Ustedes están bien conscientes de que la tecnología interactiva tiene un impacto particularmente intenso en los cerebros en desarrollo. Su acceso inmediato a los datos sobre las interacciones de los usuarios los hace la línea de defensa más inmediata para mitigar el daño a los niños. Y, como las entidades que se benefician del compromiso de los niños con sus productos, tienen una obligación legal hacia ellos como consumidores”, escribieron los fiscales generales.

“Les deseamos todo el éxito en la carrera por el dominio de la IA. Pero estamos prestando atención. Si dañan a los niños a sabiendas, responderán por ello”, agregaron.

Los fiscales generales de 42 estados — incluyendo Florida, Nueva York, Arizona y Virginia — así como de Samoa Americana y las Islas Marianas del Norte firmaron la carta.

--- Alex Daniel contribuyó a este artículo.