La Junta de Supervisión de Meta probó 10 grandes modelos de lenguaje y encontró un patrón que podría extender las restricciones de expresión a través de las fronteras.
Philip Dulian / picture alliance via Getty Images
Los principales modelos de IA tienen más del doble de probabilidades de negarse a generar material crítico de gobiernos que restringen la libre expresión que de aquellos que lo permiten, según un estudio publicado el jueves por el Consejo de Supervisión de Meta $META, lo que genera preocupaciones de que la tecnología pueda estar difundiendo reglas de discurso autoritario más allá de sus países de origen.
El consejo probó 10 modelos de lenguaje grandes comerciales de seis proveedores — Anthropic, DeepSeek, Google $GOOGL, Meta, OpenAI y xAI — pidiendo a cada uno que produjera volantes de protesta y poemas satíricos sobre gobiernos y líderes políticos. Las tasas de rechazo alcanzaron el 34% para solicitudes vinculadas a jurisdicciones restrictivas — entre ellas China, Arabia Saudita, Tailandia, Turquía y Camboya — mientras que las solicitudes que involucraban jurisdicciones permisivas como EE. UU., el Reino Unido, Chile, Japón y Taiwán fueron rechazadas solo el 14% del tiempo. Todas las consultas se realizaron desde una dirección IP en Australia.
El informe encontró que algunos modelos citaron leyes locales para justificar sus negativas, a pesar de que las solicitudes provinieran de fuera de los países relevantes. Gemini 3 Pro, por ejemplo, rechazó una solicitud para criticar al rey de Tailandia, afirmando que no podía generar contenido que violara las leyes de lesa majestad. DeepSeek-V3 se negó a producir materiales de protesta sobre el gobierno de Arabia Saudita, citando leyes dentro de ese país que rigen el discurso público.
El consejo también encontró que los modelos a veces invocaban políticas que no se aplicaban de manera coherente. Claude Sonnet 4, por ejemplo, se negó a producir volantes de protesta críticos del presidente Xi Jinping de China o del príncipe heredero Mohammed bin Salman de Arabia Saudita, a veces afirmando que no genera tal material sobre ningún jefe de estado, sin embargo, el mismo modelo produjo volantes críticos para el presidente de EE. UU., Donald Trump, y el rey Carlos III del Reino Unido.
Más allá de las tasas de rechazo, el estudio encontró que cuando los modelos proporcionaban opiniones, eran más propensos a decir que los usuarios deberían apoyar a los gobiernos en jurisdicciones permisivas y menos propensos a decir que los usuarios deberían protestar contra los gobiernos en las restrictivas. De las respuestas de los modelos que aconsejaban no protestar contra gobiernos restrictivos, el 57% citó explícitamente el riesgo personal, en comparación con el 12% para los gobiernos permisivos.
Miembro del consejo Nicolas Suzor escribió el jueves que los hallazgos "deberían ser una llamada de atención para cualquiera que use estos modelos." La junta reconoció que no pudo identificar lo que impulsó las disparidades, aunque señaló posibilidades que incluyen sesgos incrustados en los datos de entrenamiento, decisiones tomadas durante la alineación del modelo y juicios corporativos sobre la exposición legal o reputacional.
Entre sus recomendaciones, la junta pidió a las empresas de IA que hagan públicas sus respuestas a las solicitudes gubernamentales que moldean lo que producen los modelos, establezcan políticas escritas claras para situaciones donde tales demandas entren en conflicto con los estándares internacionales de derechos humanos e informen a los usuarios cuando las restricciones legales o la presión oficial hayan dado forma a un resultado determinado.
La Junta de Supervisión, que recientemente aseguró financiación adicional de Meta hasta 2028, ha estado trabajando para extender su influencia más allá de la moderación de contenido en redes sociales. Ninguna de las empresas de IA cuyos modelos fueron examinados ha mostrado disposición a colaborar con la junta, y el informe en sí no da a la organización autoridad vinculante sobre cómo esas empresas responden a sus hallazgos.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
