La semana pasada, fotografías explícitas generadas por IA de Taylor Swift inundaron X $TWTR, marcando el último perfil de alto perfil. deepfakes y resaltando el reto de detenerlos.
Los deepfakes parecen estar apareciendo en todas partes en línea
La semana pasada, fotografías explícitas generadas por IA de Taylor Swift inundaron X $TWTR, marcando el último perfil de alto perfil. deepfakes y resaltando el reto de detenerlos.
Una imagen falsa del cantante pop obtuvo más de 45 millones de vistas y 24.000 republicaciones , según el borde. La publicación estuvo en vivo en la plataforma de redes sociales durante 17 horas antes de su eliminación.
Los deepfakes utilizan una forma de aprendizaje automático llamada aprendizaje profundo, mediante el cual un algoritmo recibe ejemplos y aprende a producir resultados que se parecen a ellos, generando una imagen, vídeo o audio artificial.
Un deepfake de alto perfil es un vídeo de 2022 que parecía mostrar al presidente ucraniano Volodymyr Zelenskyy diciéndoles a los soldados que depongan las armas y regresar con sus familias. Otro es la publicación por parte del Comité Nacional Republicano de un anuncio generado por deepfake que muestra el segundo mandato del presidente estadounidense Joe Biden. plagado de desastres.
Luego está la infame IA deepfake de el papa—realizado por un trabajador de la construcción de 31 años que estaba jugando con el generador de imágenes de IA Midjourney, que resultó como muy realista. Dicho esto, la mayoría de los deepfakes encontrado en internet son pornografía no consensual.
¿Cuál es el problema? problema es que cualquiera con la capacidad de crear deepfakes puede divulgar información errónea e incluso influir en las personas para comportarse de maneras que avancen su agenda. Ahora existe la preocupación de que la IA generativa pueda permitir la creación de imágenes falsas en masa.
Por supuesto, no todos los deepfakes son malos. Por ejemplo, las plataformas educativas están utilizando la tecnología para crear tutores de IA que brindan un mejor apoyo a los estudiantes que una videoconferencia genérica.
El miércoles pasado (24 de enero), imágenes explícitas de Swift comenzaron a proliferar en X. Las falsificaciones fueron fáciles de detectar y los Swift invadieron el plataforma para intentar ahogarlos con imágenes reales del cantante, el Wall Street Journal reportado. Al día siguiente, una serie de cuentas marcadas por los usuarios por compartir las imágenes más virales fueron suspendidas o restringidas.
un informe de 404 Media descubrí que las imágenes podrían haberse originado en un grupo de la plataforma social Telegram, donde los usuarios comparten imágenes explícitas de mujeres generadas por IA. .
El término “deepfake” fue acuñado en finales de 2017 por un usuario de Reddit $RDDT llamándose el mismo nombre. En Reddit, esa persona Vídeos pornográficos compartidos creados utilizando la tecnología de intercambio de rostros de código abierto de Google $GOOGL.
En respuesta a la reacción contra los deepfakes de IA, las empresas tecnológicas, incluidas Google y Meta $META han exigido que los anuncios políticos tengan una divulgación por escrito si utilizan imágenes, videos o audio generados por IA.
Los estados de California, Texas y Virginia tienen criminalizado deepfake porno. Y en las primeras tres semanas de este año, al menos 14 estados de EE. UU. han introducido legislación para combatir los deepfakes de IA creados en las elecciones, ya sea a través de requisitos de divulgación o prohibiciones. Porcelana y Corea del Sur también regulan los deepfakes.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.