ChatGPT y Claude están entrando en el gobierno de EE. UU. ¿Deberíamos estar preocupados?

Los grandes modelos de lenguaje (LLM) fueron proporcionados al gobierno federal este mes por sus respectivos creadores, OpenAI y Anthropic, por solo $1 dólar. Las asociaciones vienen en medio del impulso de la administración Trump para acelerar la adopción de inteligencia artificial en el sector público.

Al ofrecer modelos que cuestan miles de millones entrenar virtualmente gratis a la 15ª fuerza laboral más grande del país, OpenAI y Anthropic han asegurado un lugar en la caja de herramientas legislativa — una posición que podría resultar lucrativa una vez que las pruebas gratuitas expiren y los trabajadores dependan de sus productos.

A medida que OpenAI revela GPT-5, que dice afirma alcanza un rendimiento a nivel de doctorado”, y Anthropic lanza Claude Opus 4, supuestamente capaz de realizar “tareas largas” durante siete horas, la pregunta se convierte en: ¿Qué significa para el gobierno tener estas capacidades al alcance de la mano?

En el mejor de los casos, los LLM podrían ahorrar a los contribuyentes miles de millones anualmente al agilizar las operaciones y mejorar los resultados de las políticas. Pero procesar datos sensibles con productos propiedad de empresas privadas — y depender de salidas imperfectas, a veces alucinatorias, para la toma de decisiones — es arriesgado.

“Me preocupa un poco que simplemente lanzar LLMs a los trabajadores, diciéndoles, 'pueden usar esto ahora, es súper barato, y hagan lo que quieran', no va a mejorar mucho la eficiencia o efectividad — y podría introducir un montón de nuevos riesgos”, dice Mia Hoffman, investigadora asociada en el Centro para la Seguridad y Tecnología Emergente (CSET) de Georgetown. “Obviamente, los LLMs no son sistemas divinos; vienen con un montón de problemas.”

El impulso federal de la IA

“Las agencias deben reducir los cuellos de botella burocráticos y redefinir la gobernanza de la IA como un habilitador de innovación efectiva y segura”, escribió la Oficina de Administración y Presupuesto de la Casa Blanca (OMB) en uno de dos memorandos publicados en abril. Estos memorandos reemplazan la guía de la era Biden para el despliegue federal de IA, y se basan en la orden ejecutiva del presidente Donald Trump: Mantener el Liderazgo Americano en Inteligencia Artificial.

El Plan de Acción de la IA de la administración, published July 23, sets out further policy recommendations, including an “AI procurement toolbox” of approved vendors for agencies to use. The plan also mandates that “all employees whose work could benefit from access to frontier language models have access to, and appropriate training for, such tools.”

Según los acuerdos, tanto ChatGPT como Claude están disponibles para las agencias, y se espera que el acceso de Claude se extienda al poder judicial y a los miembros del Congreso "a la espera de su aprobación."

Entonces, ¿cómo se utilizarán?

Exactamente cómo se desplegarán no se ha revelado, pero el Plan de Acción de IA cita aplicaciones potenciales como "acelerar procesos internos lentos y a menudo manuales, agilizar interacciones públicas y muchas otras."

Esto probablemente comenzará con la automatización de las operaciones administrativas, dice Lindsay Gorman, directora gerente y miembro senior del programa de tecnología del German Marshall Fund — los "componentes menos glamorosos del trabajo del gobierno federal."

El plan también pide a algunas agencias que experimenten con el uso de IA para "mejorar la entrega de servicios al público." Gorman dice que esto podría significar asistentes de IA orientados al ciudadano, similar a cómo las empresas utilizan chatbots para servicio al cliente.

También prevé que los modelos de razonamiento tengan usos más "intensivos en aplicaciones," como acelerar la investigación científica. OpenAI afirma que sus modelos o3 y o4-mini, incluidos en ChatGPT Enterprise, son los primeros que pueden "pensar con imágenes." En teoría, los usuarios pueden ingresar diagramas o bocetos, y los modelos los analizarán durante su proceso de razonamiento antes de responder. Un informe de The Information afirma que los nuevos modelos pueden sintetizar conocimientos en campos como la fisión nuclear o la detección de patógenos y luego sugerir nuevos experimentos o ideas.

Más comúnmente, es probable que las LLM se utilicen para analizar conjuntos de datos o resumir documentos.

"Podríamos imaginar a un representante de la Cámara o a un senador compilando investigaciones sobre proyectos de ley o ideas políticas específicas para ayudar a informar su trabajo", dice Gorman.

Algo de esto ya está sucediendo. Las agencias federales publican un inventario de cómo despliegan IA, que enumeraba 2,133 casos de uso en enero. El Departamento de Justicia ya utiliza ChatGPT para cosas como generar contenido, búsquedas basadas en prompts y analizar informes de auditoría. Su inventario de enero incluyó 241 entradas de IA, un aumento de más del 1,500% respecto al año anterior.

Servicio de Inmigración y Control de Aduanas de EE.UU. (ICE) enumeró 19 casos de uso de IA en enero, incluyendo el “Agregador de Priorización de Investigaciones,” que utiliza aprendizaje automático para clasificar objetivos para Investigaciones de Seguridad Nacional, asignándoles una puntuación. ICE afirma que esto es especialmente crítico en misiones contra opioides y fentanilo, donde la inteligencia oportuna es esencial. Se podría imaginar que este vasto conjunto de datos se sube a una LLM para un análisis más rápido y detallado.

ICE también ha accedido repetidamente a una red nacional de cámaras impulsada por IA, a través de agencias de aplicación de la ley locales y estatales, sin establecer un contrato formal con el proveedor de software. 404 Media reportado en mayo.

Preocupaciones sobre la privacidad

La OMB instruye a las agencias a asegurar que los datos sean recolectados y retenidos por los proveedores solo cuando sea “razonablemente necesario” para el propósito del contrato. Pero para que las agencias obtengan valor de un LLM, deben alimentarlo con datos, lo que significa que la mayoría de los usos podrían alcanzar ese umbral.

“Si estás ingresando consultas en un modelo, entonces las empresas tendrán acceso a esas consultas. ¿Cómo se protege eso?”, dice Gorman. “¿Qué garantías hay de que si un asistente del Senado introduce potencialmente información política sensible, esos datos estarán protegidos, especialmente de actores extranjeros?” Agrega que muchas startups carecen de fuertes salvaguardias para los datos del gobierno.

Los LLMs también crean nuevos vectores de ataque como la “inyección de instrucciones indirecta” y más oportunidades para fugas de datos, dice Laurence Sotsky, CEO de la plataforma de impuestos AI Incentify. “Los nuevos puntos de entrada para los hackers se mueven más rápido que la política”, advierte.

Precisión y sesgo

Los LLMs también pueden producir errores y reflejar prejuicios históricos. Un estudio de la Universidad de Purdue de 2024 encontró que aproximadamente la mitad de las respuestas de ChatGPT a preguntas de programación contenían información incorrecta.

Mientras los modelos no funcionan realmente como cerebros humanos, aún reflejan y a veces amplifican los sesgos sociales. Por ejemplo, un artículo titulado Sesgo de género y estereotipos en grandes modelos de lenguaje encontró que los LLM son 3-6 veces más propensos a asignar ocupaciones estereotipadas por género, como "enfermera" para mujeres e "ingeniero" para hombres.

En un caso del mundo real, Wired reveló que en Rotterdam, el gobierno holandés utilizó un algoritmo de detección de fraude de bienestar que otorgaba puntajes de riesgo más altos a inmigrantes, padres solteros, mujeres, jóvenes y personas que no hablaban neerlandés sin razones válidas. Esto llevó a investigaciones desproporcionadas y suspensiones de beneficios para grupos marginados. Después de que las auditorías encontraron el sistema opaco y discriminatorio, se detuvo en 2021.

Para mitigar estos riesgos, la OMB requiere que las agencias identifiquen "IA de alto impacto" — sistemas cuyos resultados constituyen la base principal para decisiones con efectos legales o significativos en derechos civiles o seguridad — y realicen evaluaciones anuales de riesgos. Quizás no sea sorprendente, los casos de alto impacto están concentrados: El DOJ y el Departamento de Seguridad Nacional constituyen solo el 4% de las agencias pero representan el 45% de estos casos.

Eso significa que los LLM podrían, en teoría, ser utilizados como base para decisiones importantes que afecten los derechos civiles o la salud pública. Gorman advierte que automatizar completamente ciertas decisiones — especialmente en el sistema judicial, donde deben poder apelarse — conllevaría riesgos “extremadamente altos”.

Aún así, cree que la prioridad a corto plazo será resolver algunos de los "problemas" en los flujos de trabajo de soporte de misión, un período de adaptación de menor riesgo que considera "prudente".