“La desinformación impulsada por la IA representa un riesgo significativo para la integridad electoral”, dijo un ejecutivo de Adobe
Los estadounidenses están preocupados por cómo falsificaciones de IA podría desatar un incendio forestal de desinformación antes de las elecciones presidenciales de Estados Unidos este otoño, y algunos incluso están restringiendo su uso de las redes sociales debido a esa preocupación.
Varios estudios han demostrado que la mayoría de los estadounidenses están incómodos acerca de cómo se puede utilizar la inteligencia artificial generativa para difundir información errónea, y algunos lo han hecho. confirmó que muchos (si no la mayoría) Los residentes de Estados Unidos son particularmente preocupado por la desinformación generada por la IA en lo que respecta a las elecciones presidenciales de 2024. Por ejemplo, una encuesta de Axios Encontró que el 53% de los estadounidenses piensa que la información errónea difundida por la IA afectará al candidato que gane.
Adobe $ADBE se sumó a esa pila de investigaciones, encargando una encuesta de participación a más de 2.000 residentes estadounidenses de 18 años o más y descubriendo que Un número aún más alarmante de estadounidenses están preocupados porque los deepfakes influyen en los resultados electorales: 80%. El estudio compartido con Quartz también encontró que el 40% de los encuestados redujeron o dejaron de usar una plataforma de redes sociales específica debido a la cantidad de información errónea que contenía.
Sus preocupaciones están bien fundadas: el contenido generado por IA ya está siendo utilizado tanto por políticos como por piratas informáticos. Gobernador de Florida La ahora desaparecida campaña presidencial de Ron DeSantis publicó deepfakes de Donald Trump besando al ex director del Instituto Nacional de Alergias y Enfermedades Infecciosas, Anthony Fauci, en X $TWTR el verano pasado. También en el verano de 2023, el político fiesta de El primer ministro de Polonia, Donald Tusk, publicó un vídeo parcialmente generado por IA de su oponente durante una campaña electoral. Mientras tanto, un grupo en línea respaldado por China, “Spamoflauge”, difundió videos de presentadores de noticias generados por IA que informaban noticias antes de las elecciones presidenciales de Taiwán. Y un grupo de investigadores de Microsoft $MSFT dijo que China probablemente utilizará IA para inmiscuirse en Estados Unidos elección presidencial.
“En Adobe, vemos el potencial transformador de la IA generativa al impulsar la creatividad y la productividad. Sin embargo, en una era de deepfakes, las tecnologías impulsadas por IA La desinformación representa un riesgo significativo para la integridad electoral”, afirmó Andy Parsons, director sénior de la Iniciativa de Autenticidad de Contenido de Adobe. “Nuestra opinión sobre El equipo es que habrá algún impacto de la IA en estas elecciones. No será el fin de la civilización y la democracia, pero con el tiempo, sin las marcas de verificación adecuadas, esto empeorará”.
“Una vez engañado por un deepfake, es posible que ya no creas lo que ves en línea. Y cuando la gente comienza a dudar de todo, cuando “No podemos distinguir la ficción de los hechos, la democracia misma está amenazada”, dijo.
Adobe ha encabezado iniciativas de la industria para combatir la desinformación generada por IA durante los últimos años.
Adobe lanzó la iniciativa de autenticidad de contenido (CAI) en asociación con The New York Times y Twitter en 2019. El CAI desarrolló un código fuente abierto llamado Credenciales de contenido que las empresas pueden integrarse en sus productos de forma gratuita. La tecnología adjunta metadatos al contenido digital y está diseñada para ser interoperable entre sistemas. El resultado final es que las fotos y los videos tienen un ícono en el que los usuarios pueden hacer clic para ver cómo se creó el contenido, cuánto se editó y si se utilizó IA; ese icono va con la imagen o el vídeo cuando se exporta desde Adobe Premiere, por ejemplo, y se publica en plataformas como YouTube o Instagram.
“La misión del CAI se ha mantenido firme y constante, y es brindar a los consumidores de información, a los verificadores de datos y a los creativos la capacidad de saber qué están haciendo”, dijo Parsons.
Adobe no gana dinero con su participación en el CAI o en el proyecto colaborativo del grupo, el Coalición para la procedencia y autenticidad del contenido (C2PA), que lanzó con grandes actores como Microsoft, Arm e Intel $INTC en 2021 para crear un estándar de certificación de contenido digital. Meta $META anunció en febrero, que utilizaría Credenciales de Contenido, y ese mismo mes, Google $GOOGL se unió al C2PA para ayudar a desarrollar aún más esos estándares en colaboración con Adobe y sus ahora 2500 socios. Microsoft y Adobe también trabajaron en un contenido Herramienta de credenciales para campañas políticas antes de las próximas elecciones.
“Ese pequeño pin CR [Credenciales de contenido], que imaginamos puede ser tan reconocible en los próximos años como el símbolo de copyright, indica no que [el contenido digital] sea bueno, verdadero o falso, sino que hay más información [sobre de dónde proviene el contenido ], que Es por eso que nos gusta esa metáfora de la etiqueta nutricional. Ya sabes, puedes entrar a un supermercado y nadie te impedirá comprar. comida no saludable, pero tienes el derecho fundamental a saber qué contiene”.
Parsons dijo que Adobe inició todo este esfuerzo cuando un presentador en su conferencia anual en Las Vegas en 2016 demostró lo fácil que sería ser crear audio deepfake de la voz de Jordan Peele.
Parsons dijo que los esfuerzos de Adobe para crear más estándares en torno al contenido generado por IA benefician a sus clientes de Creative Cloud, que desean tales herramientas. . También dijo que las credenciales de contenido son más fuertes que las marcas de agua digitales, un fragmento de código que identifica el contenido creado por IA y que se ha introducido como una solución potencial a los deepfakes.
“Es bastante fácil entrenar una IA para derrotar las marcas de agua. Así que apoyamos la idea de las marcas de agua, pero creemos que la combinación de una Una marca de agua y una credencial de contenido juntas son una contramedida mucho más fuerte”, dijo.
Aun así, Parsons reconoce que será necesario hacer más para prevenir la desinformación y la desinformación relacionada con la IA. Dijo que la adopción generalizada de una Se necesitan estándares de certificación de contenido, como credenciales de contenido y educación en alfabetización mediática.
“Ninguna de estas contramedidas es una solución milagrosa. Para ello será necesario que el gobierno, la sociedad civil, las empresas tecnológicas y una variedad de enfoques tecnológicos para realmente abordar la desinformación ”, dijo.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
