Después de que Anthropic se negara a ceder a las demandas de la administración Trump, el Pentágono lo etiquetó como un riesgo para la cadena de suministro, pero aun así bombardeó Irán mientras seguía usando sus herramientas.
hoto by Fatemeh Bahrami/Anadolu via Getty Images
El presidente Donald Trump ordenó a todas las agencias federales el viernes por la tarde que dejaran de usar la tecnología de IA de Anthropic. Esa noche, el Pentágono calificó a la empresa como un riesgo para la cadena de suministro, una designación que normalmente se reserva para empresas chinas sospechosas de espionaje, y que significa que podría obligar a cualquier empresa que haga negocios con el Departamento de Defensa a demostrar que no usa las herramientas de Anthropic.
Al día siguiente, Estados Unidos atacó a Irán con las herramientas de Anthropic aún funcionando dentro del cuartel general de Medio Oriente del ejército, Comando Central, usándolas para sistemas de inteligencia y apuntado. Trump había otorgado a las agencias seis meses para eliminar gradualmente la tecnología, un reconocimiento tácito de que no se puede eliminar la IA de las operaciones militares de la noche a la mañana.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
La ruptura entre la administración y Anthropic es nominalmente sobre las salvaguardias. La empresa dijo que se negó a permitir que sus herramientas se usaran para armas autónomas o vigilancia masiva y no cedería cuando los funcionarios exigieron permiso total para usar la tecnología en cualquier escenario legal. El CEO de Anthropic, Dario Amodei dijo que la empresa no podía estar de acuerdo en buena conciencia. Trump respondió llamando a Anthropic una "empresa radical de izquierda y despierta" que nunca dictaría cómo lucha el ejército.
A las pocas horas de la prohibición, OpenAI anunció un nuevo acuerdo para desplegar sus modelos en entornos clasificados del Pentágono. El CEO de OpenAI, Sam Altman, reveló un detalle notable: el acuerdo incluye las mismas prohibiciones sobre vigilancia masiva y armas autónomas que Anthropic había buscado. El Pentágono, escribió en X $TWTR, “está de acuerdo con estos principios, los refleja en la ley y la política, y los ponemos en nuestro acuerdo.”
Así que la empresa que fue vetada y la empresa que fue recompensada parecen haber asegurado términos funcionalmente similares. La diferencia es probablemente la política, o más precisamente, la percepción de obediencia que esta administración parece exigir del sector privado. El presidente de OpenAI dio $25 millones a un super PAC pro-Trump el año pasado. Anthropic contrató a funcionarios de la administración Biden y presionó por la regulación de la IA.
Como un exfuncionario militar de IA del primer mandato de Trump lo expresó: Anthropic está pagando el precio por no inclinarse.
Las maniobras políticas importarían menos si no se estuvieran desarrollando en medio de una guerra real. El Wall Street Journal informó que Claude, la IA de Anthropic, estaba incrustada en la operación del sábado en Irán, siendo utilizada para evaluaciones de inteligencia, identificación de objetivos y simulaciones de batalla. El Comando Central se negó a comentar sobre los sistemas específicos involucrados en las operaciones en curso.
Luego vino una pregunta más difícil. Cuando un incidente de mala orientación supuestamente mató a más de 150 escolares en Irán, los observadores externos preguntaron de inmediato si la IA podría haber contribuido al error. La respuesta honesta es que nadie fuera del Pentágono lo sabe, y el Pentágono no lo dice. El Secretario de Defensa Pete Hegseth, quien ha apostado su mandato a la adopción agresiva de IA, tiene poco incentivo para ser franco.
Los errores de orientación no son nuevos, pero la introducción de IA generativa en la cadena de orientación sí lo es. Esta es una tecnología que todavía alucina hechos, malinterpreta imágenes, y tropieza en el razonamiento en entornos comerciales de bajo riesgo. Desplegarla en la guerra, donde las consecuencias de una respuesta incorrecta se miden en cuerpos, representa un salto que nadie, ni militar ni de otro tipo, ha probado rigurosamente.
La reacción de los consumidores ha complicado la vuelta de la victoria. La aplicación Claude de Anthropic llegó a la cima de la App Store. Una campaña de boicot de base instó a los usuarios a abandonar ChatGPT por el acuerdo de OpenAI con el Pentágono. En X, Altman enfrentó una avalancha de preguntas incisivas: Si el contrato de OpenAI permite todos los usos legales, ¿cómo puede también prohibir la vigilancia masiva y las armas autónomas, que no tienen una prohibición legal explícita? Si OpenAI aseguró las mismas líneas rojas que Anthropic quería, ¿por qué el Pentágono no pudo aceptar esos términos de Anthropic? Las contradicciones importan más allá del discurso.
Estas empresas están en una feroz competencia por usuarios de pago, clientes empresariales y talento en ingeniería. Ninguna es rentable. Ambas están quemando miles de millones y han recaudado decenas de miles de millones más en las últimas semanas para permanecer en la carrera. Los contratos del Pentágono valen alrededor de $200 millones cada uno, lo cual no es el cheque más grande que cualquiera de las empresas cobrará este año, pero de repente es la mayor amenaza para ambos negocios.
Para Anthropic, una designación de riesgo en la cadena de suministro se extiende mucho más allá del Pentágono. Cualquier empresa que haga negocios con el gobierno federal, e incluye a los mayores patrocinadores de Anthropic, Amazon $AMZN y Google $GOOGL, puede necesitar probar que no usan Claude. Esa es una cuestión que podría repercutir en las ventas empresariales, asociaciones en la nube y decisiones de inversión mucho más allá de la defensa.
Para OpenAI, el cálculo de un acuerdo de uso clasificado es una cosa como un ítem en una negociación de contrato. Es otra cuando las bombas están cayendo activamente y las preguntas sobre las barreras, los errores de puntería y los niños muertos no tienen respuestas claras. La percepción de que tu chatbot ayuda a elegir objetivos de bombardeo no es un problema de marca que unas pocas respuestas en las redes sociales puedan resolver.
