La semana pasada, fotografías explícitas generadas por IA de Taylor Swift inundaron X, marcando el último perfil de alto perfil. deepfakes y resaltando el reto de detenerlos.
Una imagen falsa del cantante pop obtuvo más de 45 millones de vistas y 24.000 republicaciones , según el borde. La publicación estuvo en vivo en la plataforma de redes sociales durante 17 horas antes de su eliminación.
¿Qué son los deepfakes y por qué ocurren?
Los deepfakes utilizan una forma de aprendizaje automático llamada aprendizaje profundo, mediante el cual un algoritmo recibe ejemplos y aprende a producir resultados que se parecen a ellos, generando una imagen, vídeo o audio artificial.
Un deepfake de alto perfil es un vídeo de 2022 que parecía mostrar al presidente ucraniano Volodymyr Zelenskyy diciéndoles a los soldados que depongan las armas y regresar con sus familias. Otro es la publicación por parte del Comité Nacional Republicano de un anuncio generado por deepfake que muestra el segundo mandato del presidente estadounidense Joe Biden. plagado de desastres.
Luego está la infame IA deepfake de el papa—realizado por un trabajador de la construcción de 31 años que estaba jugando con el generador de imágenes de IA Midjourney, que resultó como muy realista. Dicho esto, la mayoría de los deepfakes encontrado en internet son pornografía no consensual.
¿Cuál es el problema? problema es que cualquiera con la capacidad de crear deepfakes puede divulgar información errónea e incluso influir en las personas para comportarse de maneras que avancen su agenda. Ahora existe la preocupación de que la IA generativa pueda permitir la creación de imágenes falsas en masa.
Por supuesto, no todos los deepfakes son malos. Por ejemplo, las plataformas educativas están utilizando la tecnología para crear tutores de IA que brindan un mejor apoyo a los estudiantes que una videoconferencia genérica.
¿Qué pasó con los deepfakes de Taylor Swift?
El miércoles pasado (24 de enero), imágenes explícitas de Swift comenzaron a proliferar en X. Las falsificaciones fueron fáciles de detectar y los Swift invadieron el plataforma para intentar ahogarlos con imágenes reales del cantante, el Wall Street Journal reportado. Al día siguiente, una serie de cuentas marcadas por los usuarios por compartir las imágenes más virales fueron suspendidas o restringidas.
un informe de 404 Media descubrí que las imágenes podrían haberse originado en un grupo de la plataforma social Telegram, donde los usuarios comparten imágenes explícitas de mujeres generadas por IA. .
¿Cuándo comenzaron los deepfakes?
El término “deepfake” fue acuñado en finales de 2017 por un usuario de Reddit llamándose el mismo nombre. En Reddit, esa persona Vídeos pornográficos compartidos creados utilizando la tecnología de intercambio de rostros de código abierto de Google.
¿Qué están haciendo las empresas y los responsables políticos para detenerlos?
En respuesta a la reacción contra los deepfakes de IA, las empresas tecnológicas, incluidas Google y Meta han exigido que los anuncios políticos tengan una divulgación por escrito si utilizan imágenes, videos o audio generados por IA.
Los estados de California, Texas y Virginia tienen criminalizado deepfake porno. Y en las primeras tres semanas de este año, al menos 14 estados de EE. UU. han introducido legislación para combatir los deepfakes de IA creados en las elecciones, ya sea a través de requisitos de divulgación o prohibiciones. Porcelana y Corea del Sur también regulan los deepfakes.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.