Desde el Papa con un chaleco acolchado de diseño hasta los piratas informáticos respaldados por China que se entrometen en las elecciones extranjeras
Los medios generados por IA que imitan a figuras públicas han causado revuelo en muchos ámbitos de la vida: la cultura pop, la religión, la política y más. La inteligencia artificial generativa continúa avanzando y la facilidad con la que podemos distinguir lo verdadero de lo falso disminuye. Fotos, vídeos y videos creados por IA. y el audio llamado “deepfakes” ha arrasado en Internet durante los últimos dos años, lo que ha provocado llamados a regular esta tecnología.
Quartz analiza los momentos deepfake más importantes de la IA.
Un vídeo generado por IA del presidente ucraniano Volodymyr Zelenskyy en las redes sociales en 2022, dijo a los soldados del país que deberían deponer sus armas y rendirse a Rusia.
El video era más obviamente falso que los más nuevos, que se han vuelto más difíciles de distinguir de la realidad. El clip del falso Zelensky convenció a pocos, si acaso, dado el extraño acento. y tono de piel distinto del deepfake.
Una foto elegante y deepfake del Papa con una moderna chaqueta acolchada de Balenciaga hasta la rodilla a principios de 2023 fue el primero en volverse verdaderamente viral, mostrando cómo la tecnología avanzó rápidamente para adelgazar la línea entre lo que es orgánico y lo que es IA. Llegó más o menos al mismo tiempo que la IA fotos de Elon Musk tomados de la mano de la representante estadounidense Alexandria Ocasio-Cortez apareció en las redes sociales así como Imágenes falsas de Trump siendo arrestado.
Canción viral “Heart on My Sleeve”, con voces imitando a Drake y the Weeknd, generó gran preocupación por parte de la industria musical sobre los derechos de propiedad intelectual.
Más tarde, en 2023, Universal Music Group (UMG), junto con ABKCO y Concord Publishing, presentó una demanda por infracción de derechos de autor contra la startup de IA Anthropic por supuestamente robar letras para entrenar su chatbot. Y algunos de los nombres más importantes de la industria musical: Nicki. Minaj, Katy Perry, Billie Eilish, Camila Cabello y un montón de personas más (más de 200 en total)— desde entonces he firmado una carta abierta redactada enérgicamente pidiendo a las empresas de tecnología, desarrolladores de IA y plataformas de música para que se comprometan a que no fabricarán ni utilizarán herramientas de generación de música de IA.
Campaña presidencial ya desaparecida del gobernador de Florida Ron DeSantis publicó un video que incluye deepfakes de Donald Trump besando al ex director del Instituto Nacional de Alergias y Enfermedades Infecciosas, Anthony Fauci, en X $TWTR el verano pasado. La medida aumentó las preocupaciones actuales sobre el uso de información errónea y desinformación de IA antes de las elecciones presidenciales de 2024 en Estados Unidos.
“Qué montón de tonterías”, comenzaba el mensaje.
Era una voz generada por IA que imitaba al presidente Joe Biden y llamaba a miles de residentes de New Hampshire a disuadirlos de votar en el partido demócrata del estado. elección primaria. “[Tu] voto marca la diferencia en noviembre, no este martes” la voz dijo.
El consultor político demócrata que admitió que pagó 500 dólares para orquestar las llamadas automáticas, Steven Kramer, fue acusado formalmente de 13 cargos de delitos graves de supresión de votantes así como 13 delitos menores en New Hampshire el jueves. Kramer es también enfrenta cargos de la Comisión Federal de Comunicaciones. La FCC en febrero hizo que las voces generadas por IA en estafas de llamadas automáticas fueran ilegales.
“Los malos actores están utilizando voces generadas por IA en llamadas automáticas no solicitadas para extorsionar a familiares vulnerables, imitar a celebridades y desinformar a los votantes. los estafadores detrás de estas llamadas automáticas con previo aviso”, dijo en ese momento la presidenta de la FCC, Jessica Rosenworcel.
Desnudos generados por IA de Taylor Swift inundaron X $TWTR En enero, una de esas fotografías obtuvo decenas de millones de visitas y 24.000 publicaciones repetidas. Los Swifties invadieron la plataforma de redes sociales ahogar los deepfakes publicando fotos reales de la estrella.
Si hay una persona que puede unir al país, es Taylor Swift. El ataque a Swift impulsó a los legisladores federales de ambos partidos a la acción. Si bien no existe ninguna ley federal sobre los desnudos creados por IA, los senadores estadounidenses legislación introducida en enero eso permitiría a las víctimas demanda a sus agresores, citando el caso de Swift.
“Aunque las imágenes puedan ser falsas, el daño a las víctimas por la distribución de deepfakes sexualmente explícitos es muy real”, dijo US senadores Richard Durbin y Lindsey Graham en su anuncio del proyecto de ley llamada Ley DE DESAFÍO. “Las víctimas han perdido sus trabajos y pueden sufrir depresión o ansiedad continua”.
Antes de las elecciones presidenciales y legislativas de Taiwán en enero, se llevó a cabo una operación en línea respaldada por el Partido Comunista Chino, conocido como “Spamouflage” o “Dragonbridge”, usó IA deepfakes para intentar influir en los resultados. El grupo hizo clips de audio falsos de un ex candidato que había abandonado la carrera meses atrás. antes, respaldar a alguien a que no apoyaban.
En respuesta, Microsoft $MSFT hizo sonar la alarma sobre el uso de IA por parte de China para crear campañas de desinformación e influir en elecciones extranjeras. “Que Microsoft Threat Intelligence ha sido testigo de cómo un actor estado-nación utiliza contenido de IA en un intento de influir en una elección extranjera”, escribieron sus investigadores.
