LONDRES (AP)—Información falsa y engañosa cargada con inteligencia artificial de vanguardia que amenaza con erosionar la democracia y polarizar a la sociedad es el principal riesgo inmediato para la economía global, afirmó el Foro Económico Mundial en un informe el miércoles.
En su último Informe de Riesgos Globales, la organización también dijo que una serie de riesgos ambientales representan las mayores amenazas a largo plazo. El informe se publicó antes de la reunión anual de élite de directores ejecutivos y líderes mundiales en la ciudad turística de esquí suiza de Davos y tiene su sede en en una encuesta realizada a casi 1.500 expertos, líderes industriales y formuladores de políticas.
El informe enumera información errónea y la desinformación como el riesgo más grave durante los próximos dos años, destacando cómo los rápidos avances en la tecnología también están creando nuevos problemas o empeorando los existentes.
A los autores les preocupa que el auge de los chatbots de IA generativa como ChatGPT signifique que la creación de contenido sintético que puede usarse para manipular Los grupos de personas ya no estarán limitados a aquellos con habilidades especializadas.
La IA se convertirá en un tema candente la próxima semana en las reuniones de Davos, a los que se espera que asistan jefes de empresas tecnológicas, incluido el director ejecutivo de OpenAI, Sam Altman, el director ejecutivo de Microsoft, Satya Nadella, y actores de la industria de la IA como El científico jefe de IA de Meta, Yann LeCun.
La desinformación y la información errónea impulsada por la IA están surgiendo como un riesgo justo cuando miles de millones de personas en una gran cantidad de países, incluidas grandes economías como Estados Unidos, Gran Bretaña, Indonesia, India, México y Pakistán son listos para acudir a las urnas Este año y el próximo, según el informe.
“Se puede aprovechar la IA para hacer deepfakes y realmente impactar a grandes grupos, lo que realmente genera desinformación”, dijo Carolina Klint, especialista en gestión de riesgos. Líder de Marsh, cuya empresa matriz Marsh McLennan fue coautora del informe con Zurich Insurance Group.
“Las sociedades podrían polarizarse aún más a medida que a las personas les resulte más difícil verificar los hechos”, afirmó. La información falsa también podría usarse para alimentar preguntas sobre la legitimidad de los gobiernos electos, “lo que significa que los procesos democráticos podrían erosionarse y también impulsarían aún más la polarización social” ”, dijo Klint.
El auge de la IA conlleva una serie de otros riesgos, afirmó. Puede empoderar a los “actores maliciosos” al convertirla en más fácil de realizar ciberataques, por ejemplo, automatizando intentos de phishing o creando malware avanzado.
Con la IA, “no es necesario ser la herramienta más inteligente del cobertizo para ser un actor malicioso”, dijo Klint.
Incluso puede envenenar los datos que se extraen de Internet para entrenar otros sistemas de IA, lo cual es “increíblemente difícil de revertir” y podría Resultará en una mayor incorporación de sesgos en los modelos de IA, afirmó.
La otra gran preocupación global para los encuestados de la encuesta de riesgo se centró en el cambio climático.
Tras la desinformación y la desinformación, clima extremo Es el segundo riesgo más acuciante a corto plazo.
A largo plazo—definido como 10 años—el clima extremo fue descrito como la amenaza número uno, seguido por otras cuatro riesgos relacionados con el medio ambiente: cambios críticos en los sistemas de la Tierra; pérdida de biodiversidad y colapso de ecosistemas; y escasez de recursos naturales.
“Podríamos ser empujados más allá de ese irreversible punto de inflexión del cambio climático” durante la próxima década a medida que los sistemas de la Tierra experimenten cambios a largo plazo, Klint dijo.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.