7 controversias y momentos virales deepfake de IA que impactaron la música pop, la política y el catolicismo

7 controversias y momentos virales deepfake de IA que impactaron la música pop, la política y el catolicismo

Desde el Papa con un chaleco acolchado de diseño hasta los piratas informáticos respaldados por China que se entrometen en las elecciones extranjeras

Es posible que se gane una comisión por los enlaces en esta página.
Iniciar presentación
Iniciar presentación
Deepfake del Papa Francisco.
Deepfake del Papa Francisco.
Imagen: Reddit (Otro)

Los medios generados por IA que imitan a figuras públicas han causado revuelo en muchos ámbitos de la vida: la cultura pop, la religión, la política y más. La inteligencia artificial generativa continúa avanzando y la facilidad con la que podemos distinguir lo verdadero de lo falso disminuye. Fotos, vídeos y videos creados por IA. y el audio llamado “deepfakes” ha arrasado en Internet durante los últimos dos años, lo que ha provocado llamados a regular esta tecnología.

Publicidad

Quartz analiza los momentos deepfake más importantes de la IA.

Publicidad
Diapositiva anterior
Siguiente diapositiva

2 / 9

Un falso presidente ucraniano, Volodymyr Zelenskyy, se rende a Rusia

Un falso presidente ucraniano, Volodymyr Zelenskyy, se rende a Rusia

Imagen para el artículo titulado 7 controversias y momentos virales deepfake de IA que impactaron la música pop, la política y el catolicismo
Captura de pantalla: Mikael Thalen post on X (Otro)

Un vídeo generado por IA del presidente ucraniano Volodymyr Zelenskyy en las redes sociales en 2022, dijo a los soldados del país que deberían deponer sus armas y rendirse a Rusia.

Publicidad

El video era más obviamente falso que los más nuevos, que se han vuelto más difíciles de distinguir de la realidad. El clip del falso Zelensky convenció a pocos, si acaso, dado el extraño acento. y tono de piel distinto del deepfake.

Publicidad
Diapositiva anterior
Siguiente diapositiva

El Papa en un pufón

Deepfake del Papa.
Deepfake del Papa.
Imagen: Reddit.com

Una foto elegante y deepfake del Papa con una moderna chaqueta acolchada de Balenciaga hasta la rodilla a principios de 2023 fue el primero en volverse verdaderamente viral, mostrando cómo la tecnología avanzó rápidamente para adelgazar la línea entre lo que es orgánico y lo que es IA. Llegó más o menos al mismo tiempo que la IA fotos de Elon Musk tomados de la mano de la representante estadounidense Alexandria Ocasio-Cortez apareció en las redes sociales así como Imágenes falsas de Trump siendo arrestado.

Publicidad
Diapositiva anterior
Siguiente diapositiva

4 / 9

Fake Drake canta desde el corazón

Fake Drake canta desde el corazón

Drake actúa durante el segundo día de Lollapalooza Chile 2023 el 18 de marzo de 2023 en Santiago, Chile.
Drake actúa durante el segundo día de Lollapalooza Chile 2023 el 18 de marzo de 2023 en Santiago, Chile.
Foto: Marcelo Hernandez (Getty Images)

Canción viral “Heart on My Sleeve”, con voces imitando a Drake y the Weeknd, generó gran preocupación por parte de la industria musical sobre los derechos de propiedad intelectual.

Publicidad

Más tarde, en 2023, Universal Music Group (UMG), junto con ABKCO y Concord Publishing, presentó una demanda por infracción de derechos de autor contra la startup de IA Anthropic por supuestamente robar letras para entrenar su chatbot. Y algunos de los nombres más importantes de la industria musical: Nicki. Minaj, Katy Perry, Billie Eilish, Camila Cabello y un montón de personas más (más de 200 en total)— desde entonces he firmado una carta abierta redactada enérgicamente pidiendo a las empresas de tecnología, desarrolladores de IA y plataformas de música para que se comprometan a que no fabricarán ni utilizarán herramientas de generación de música de IA.

Publicidad
Diapositiva anterior
Siguiente diapositiva

5 / 9

Trump y Fauci se hacen amistosos (no)

Trump y Fauci se hacen amistosos (no)

Un vídeo de campaña de DeSantis presenta fotografías falsas de Trump besando y abrazando a Fauci.
Un vídeo de campaña de DeSantis presenta fotografías falsas de Trump besando y abrazando a Fauci.
Captura de pantalla: DeSantis War Room video on X (Otro)

Campaña presidencial ya desaparecida del gobernador de Florida Ron DeSantis publicó un video que incluye deepfakes de Donald Trump besando al ex director del Instituto Nacional de Alergias y Enfermedades Infecciosas, Anthony Fauci, en X el verano pasado. La medida aumentó las preocupaciones actuales sobre el uso de información errónea y desinformación de IA antes de las elecciones presidenciales de 2024 en Estados Unidos.

Publicidad
Diapositiva anterior
Siguiente diapositiva

6 / 9

El falso Biden le dice a New Hampshire que no vote

El falso Biden le dice a New Hampshire que no vote

El presidente estadounidense Joe Biden participa en una conferencia de prensa conjunta con el presidente keniano William Ruto en el Salón Este de la Casa Blanca en mayo 23, 2024.
El presidente estadounidense Joe Biden participa en una conferencia de prensa conjunta con el presidente keniano William Ruto en el Salón Este de la Casa Blanca en mayo 23, 2024.
Foto: Anna Moneymaker (Getty Images)

“Qué montón de tonterías”, comenzaba el mensaje.

Era una voz generada por IA que imitaba al presidente Joe Biden y llamaba a miles de residentes de New Hampshire a disuadirlos de votar en el partido demócrata del estado. elección primaria. “[Tu] voto marca la diferencia en noviembre, no este martes” la voz dijo.

Publicidad

El consultor político demócrata que admitió que pagó 500 dólares para orquestar las llamadas automáticas, Steven Kramer, fue acusado formalmente de 13 cargos de delitos graves de supresión de votantes así como 13 delitos menores en New Hampshire el jueves. Kramer es también enfrenta cargos de la Comisión Federal de Comunicaciones. La FCC en febrero hizo que las voces generadas por IA en estafas de llamadas automáticas fueran ilegales.

“Los malos actores están utilizando voces generadas por IA en llamadas automáticas no solicitadas para extorsionar a familiares vulnerables, imitar a celebridades y desinformar a los votantes. los estafadores detrás de estas llamadas automáticas con previo aviso”, dijo en ese momento la presidenta de la FCC, Jessica Rosenworcel.

Publicidad
Diapositiva anterior
Siguiente diapositiva

7 / 9

Taylor Swift Desnudos profundos

Taylor Swift Desnudos profundos

Taylor Swift actúa en el escenario durante “Taylor Swift | The Eras Tour” en La Defense el 9 de mayo de 2024 en París, Francia.
Taylor Swift actúa en el escenario durante “Taylor Swift | The Eras Tour” en La Defense el 9 de mayo de 2024 en París, Francia.
Foto: Kevin Mazur/TAS24 (Getty Images)

Desnudos generados por IA de Taylor Swift inundaron X En enero, una de esas fotografías obtuvo decenas de millones de visitas y 24.000 publicaciones repetidas. Los Swifties invadieron la plataforma de redes sociales ahogar los deepfakes publicando fotos reales de la estrella.

Publicidad

Si hay una persona que puede unir al país, es Taylor Swift. El ataque a Swift impulsó a los legisladores federales de ambos partidos a la acción. Si bien no existe ninguna ley federal sobre los desnudos creados por IA, los senadores estadounidenses legislación introducida en enero eso permitiría a las víctimas demanda a sus agresores, citando el caso de Swift.

“Aunque las imágenes puedan ser falsas, el daño a las víctimas por la distribución de deepfakes sexualmente explícitos es muy real”, dijo US senadores Richard Durbin y Lindsey Graham en su anuncio del proyecto de ley llamada Ley DE DESAFÍO. “Las víctimas han perdido sus trabajos y pueden sufrir depresión o ansiedad continua”.

Publicidad
Diapositiva anterior
Siguiente diapositiva

8 / 9

Spamoflauge envía spam a las elecciones presidenciales de Taiwán

Spamoflauge envía spam a las elecciones presidenciales de Taiwán

Una vista elevada de la ciudad de Taipei durante el crepúsculo.
Una vista elevada de la ciudad de Taipei durante el crepúsculo.
Foto: Jorge Fernández/LightRocket (Getty Images)

Antes de las elecciones presidenciales y legislativas de Taiwán en enero, se llevó a cabo una operación en línea respaldada por el Partido Comunista Chino, conocido como “Spamouflage” o “Dragonbridge”, usó IA deepfakes para intentar influir en los resultados. El grupo hizo clips de audio falsos de un ex candidato que había abandonado la carrera meses atrás. antes, respaldar a alguien a que no apoyaban.

Publicidad

En respuesta, Microsoft hizo sonar la alarma sobre el uso de IA por parte de China para crear campañas de desinformación e influir en elecciones extranjeras. “Que Microsoft Threat Intelligence ha sido testigo de cómo un actor estado-nación utiliza contenido de IA en un intento de influir en una elección extranjera”, escribieron sus investigadores.

Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.

Publicidad