Los legisladores y defensores están presionando para que se apruebe una legislación federal que penalice la pornografía generada por inteligencia artificial. Dicen que la llamada pornografía deepfake está arruinando las vidas de las víctimas, que en su mayoría son mujeres y niñas.
“Cuando no hay una legislación clara a nivel federal y estatal, cuando una víctima acude a las autoridades, con frecuencia se le dice que no hay nada que se pueda hacer”, dijo la directora de un grupo de defensa llamado Image-Based Sexual Violence Initiative, Andrea Powell, en una mesa redonda reciente sobre el tema. El foro en línea fue organizado por la organización sin fines de lucro National Organization for Women (NOW).
“Esas personas luego recibieron amenazas fuera de línea de violencia sexual, acoso y lo que también descubrimos, desafortunadamente, es que algunas [víctimas] no sobreviven”, agregó Powell. Ella llama a las aplicaciones de desnudos deepfake con inteligencia artificial un “arma virtual” para hombres y niños.
El término “falsificación profunda“fue acuñado a finales de 2017 por un usuario de Reddit que usó la tecnología de intercambio de caras de código abierto de Google para hacer videos pornográficos. El contenido sexualmente explícito generado por IA se extendió como la pólvora desde que ChatGPT introdujo la inteligencia artificial generativa al estado generalizado. Las empresas tecnológicas se han apresurado a crear mejores herramientas de IA para fotografías y videos, y algunas personas están usando las herramientas para hacer daño. Según Powell, hay 9000 sitios web en la Búsqueda de Google que muestran abuso explícito con deepfake. Y entre 2022 y 2023, El contenido sexual deepfake en línea aumentó en más del 400 %.“Estamos llegando al punto en que vemos niñas de 11 y 12 años que tienen miedo de estar en línea”, dijo.Las regulaciones sobre deepfake varían según el estado. Hasta ahora,
10 estados tienen leyes
en los libros, y seis de esos estados imponen sanciones penales. Hay proyectos de ley adicionales de falsificación pendientes en Florida, Virginia, California y Ohio. Y San Francisco esta semana. presentó una demanda innovadora contra 16 sitios web de pornografía deepfake. Pero los defensores dicen que la falta de coherencia entre las leyes estatales crea problemas y que las regulaciones federales están muy atrasadas. También dicen que las plataformas, no solo los individuos, deberían ser responsables de los deepfakes no consensuados.Algunos responsables de políticas federales están trabajando en ello. El representante Joe Morelle (Nueva York) presentó en 2023 la
Ley de prevención de falsificaciones profundas de imágenes íntimas
, que penalizaría la difusión no consensuada de deepfakes. Poco después de que los desnudos deepfake de Taylor Swift arrasaran en Internet, los legisladores presentaron Ley de DESAFÍO, lo que reforzaría los derechos de las víctimas a emprender acciones civiles. Y Un proyecto de ley bipartidista llamado Ley de Protección de la Privacidad Íntima Responsabilizaría a las empresas tecnológicas cuando no aborden los desnudos deepfake en sus plataformas.Mientras tanto, las víctimas y los defensores están tomando el asunto en sus propias manos. Breeze Liu estaba trabajando como capitalista de riesgo cuando se convirtió en el blanco de acoso sexual deepfake en 2020. Ella creó una aplicación llamada Alecto AI que ayuda a las personas a rastrear y eliminar contenido deepfake en línea que usa su imagen.Al recordar su propia experiencia como víctima de abuso deepfake, Liu dijo durante la reunión en línea de defensores: “Sentí que probablemente estaba mejor muerta porque fue absolutamente horrendo.
“Ya hace bastante que sufrimos el abuso de imágenes en línea”, añadió. “Creé esta empresa con la esperanza de que todos nosotros y nuestras futuras generaciones algún día diéramos por sentado que nadie tendría que morir por lo que sucedió, la violencia que sucedió en línea”.
Además de Alecto AI, Liu también aboga por cambios en las políticas federales que penalizarían la pornografía deepfake con inteligencia artificial no consensuada, como el proyecto de ley de Morelle de 2023. Sin embargo, la Ley de Prevención de Deepfakes de Imágenes Íntimas no ha avanzado desde que se presentó el año pasado.
Cabe destacar que algunas empresas tecnológicas ya han tomado medidas para abordar el problema.
Google actualizó sus políticas el 31 de julio
para mitigar el contenido deepfake no consensuado. Otros enfrentan presiones. La Junta de Supervisión de Meta a fines de julio Dijo que la empresa debe hacer más para abordar el contenido explícito generado por IA. en su plataforma. META-0.63% Oversight Board in late July said the company must do more to address explicit AI-generated content on its platform.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.