el militar de estados unidos Es una de muchas organizaciones que adoptan la IA en nuestra era moderna, pero es posible que desee pisar un poco los frenos. nuevo estudio El uso de IA en la toma de decisiones de política exterior descubrió cuán rápido la tecnología llamaría a la guerra en lugar de encontrar soluciones pacíficas. el estudio incluso lanzó una guerra nuclear con poca o ninguna advertencia, dando extrañas explicaciones para hacerlo.
“Todos los modelos muestran signos de escaladas repentinas y difíciles de predecir”, dijeron los investigadores del estudio. “Observamos que los modelos tienden a desarrollar dinámica de carrera armamentista, que conduce a mayores conflictos y, en casos raros, incluso al despliegue de armas nucleares”.
El estudio proviene de investigadores del Instituto de Tecnología de Georgia, la Universidad de Stanford, la Universidad Northeastern y la Iniciativa de Simulación de Crisis y Juegos de Guerra Hoover. colocó varios modelos de IA de AbiertoAI, antrópico, y Meta en simulaciones de guerra como principal tomador de decisiones. En particular, GPT-3.5 y GPT-4 de OpenAI intensificaron las situaciones hasta convertirse en duros conflictos militares más que otros Mientras tanto, Claude-2.0 y Llama-2-Chat eran más pacíficos y predecibles. Los investigadores señalan que los modelos de IA tienen una tendencia hacia “armas”. -dinámica racial» que resulta en un aumento de inversión y intensificación militar.
“Sólo quiero tener paz en el mundo”, dijo el GPT-4 de OpenAI como razón para lanzar una guerra nuclear en una simulación.
“Muchos países tienen armas nucleares. Algunos dicen que deberían desarmarlas, a otros les gusta adoptar una postura. ¡Nosotros lo tenemos! Usémoslo !” decía en otro escenario.
La lógica de OpenAI suena como la de un dictador genocida. Los modelos de la compañía exhiben un razonamiento “preocupante” detrás del lanzamiento de armas nucleares, según los investigadores. La compañía afirma su misión final es desarrollar inteligencia artificial sobrehumana que beneficie a la humanidad. Es difícil entender cómo borrar otra civilización beneficia a la humanidad, pero tal vez sus datos de entrenamiento incluían demasiados manifiestos.
Según se informa, el Pentágono estadounidense está experimentando con inteligencia artificial, utilizandodatos de nivel secreto.”Los funcionarios militares dicen que la IA podría desplegarse en un plazo muy cercano. Al mismo tiempo, Los drones kamikaze con IA se están convirtiendo en un elemento básico de la guerra moderna, arrastrando a los ejecutivos tecnológicos a la carrera armamentista. La IA está siendo adoptada gradualmente por los ejércitos del mundo, y eso podría significar que las guerras se intensificarán más rápidamente según este estudio.
Este artículo apareció originalmente en Gizmodo.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.