Una escuela secundaria de Nueva Jersey se ha visto sacudida por un escándalo después de que, supuestamente, estudiantes varones utilizaran inteligencia artificial para crear fotografías falsas de desnudos de estudiantes femeninas.
El mes pasado, algunas adolescentes de la escuela secundaria Westfield se enteraron de que imágenes falsas de desnudos de ellas habían circulado entre otros estudiantes durante el verano. , informó el Wall Street Journal. En un correo electrónico a los padres, la directora de la escuela, Mary Asfendis, calificó la debacle como un “incidente muy grave” y dijo que creía que las imágenes sido eliminados y ya no estaban en circulación, según Ars Technica.
Pero hasta ahora no ha habido mucha solución. La escuela, citando confidencialidad, no comparte cuántas personas se ven afectados. Tampoco ha revelado si los estudiantes detrás de los deepfakes han sido capturados y se enfrentarán a una acción disciplinaria.
Este no es un incidente aislado. Algo similar sucedió en España en septiembre. Además, personalidades públicas, incluida la congresista Alexandria Ocasio-Cortez, La estrella de Hollywood Scarlett Johansson, y varios YouTubers y Serpentinas de Twitch, se han visto atrapados en escándalos de pornografía deepfake.
Mientras tanto, Nueva Jersey no tiene ninguna ley que penalice a los creadores y distribuidores de desnudos generados por IA. El 10 de octubre, el gobernador Phil Murphy anunció un grupo de trabajo de IA, afirmando que “no sólo funcionará para comprender los beneficios de la IA, sino también para analizar su crecimiento y sus riesgos potenciales”. La ley que denuncia a los infractores elude el estado vecino de Nueva York.
Instantánea: No hay ley federal contra los desnudos deepfake
El presidente estadounidense Joe Biden orden ejecutiva expansiva sobre la regulación de la IA, publicada el 30 de octubre, establece directrices para la monitorización y detección, estableciendo barandillas e invirtiendo en herramientas tecnológicas pero no implementa una ley a nacional.
Citable: La legislación federal sobre deepfakes es complicada
“Si se aprueba una legislación federal sobre deepfakes que se dirige específicamente a los deepfakes pornográficos, entonces, para ser constitucionales, es posible que los deepfakes pornográficos deban ser encajan en la excepción categórica de la Primera Enmienda de ser una categoría separada como la pornografía infantil...[N]o hay una solución clara. Al menos, antes de que se apruebe una legislación federal sustantiva, los investigadores deben realizar más estudios para conocer el impacto que los deepfakes pornográficos tienen en víctimas y usuarios de internet”.
—Bradley Waldstreicher, editor asociado, Revisión de la Ley Cardozo, mayo 2021
Desnudos falsos generados por IA, por dígitos
290%: ¿Cuántos desnudos falsos han aumentado desde 2018 en los 10 principales sitios web que alojan fotografías pornográficas generadas por IA, informó el Washington Post, citando? analista de la industria Genevieve Oh
143.000: Vídeos porno generados por IA añadidos en 2023 en los 40 sitios web más populares de vídeos falsos, una cifra que supera a todos los vídeos nuevos de 2016 a 2022
4,2 mil millones: Vistas que esos 143.000 vídeos han generado
54%: aumento en vídeos pornográficos deepfake eran subidos a los hosts de sitios web desde enero hasta septiembre de 2023 en comparación con todo 2022
90-95%: Proporción de vídeos deepfake que son porno no consensuados que involucran mujeres, según Sensity AI, una empresa que ha seguido videos deepfake en línea desde diciembre 2018
26.800: Víctimas en Estados Unidos de campañas de “sextorsión” desde este año hasta septiembre, según el FBI. Eso es un aumento del 149% en comparación con 2019.
Una lista no exhaustiva de estados de EE. UU. donde distribuir desnudos generados por IA es un delito (o pronto podría serlo)
California. Desde 2019, el Golden State ha permitió a la gente demandar cualquiera que ponga su imagen en un video pornográfico deepfake. Bajo legislación propuesta, la creación, distribución intencional y exhibición de deepfakes pornográficos estarían criminalizadas.
Virginia. Según su ley de “pornografía de venganza”, que prohíbe la difusión de imágenes o vídeos de desnudos “con la intención de coaccionar, acosar o intimidar” a otra persona, Virginia cubre deepfakes. Infringir la ley podría resultar en una sentencia de 12 meses de prisión y hasta $2,500 en multas.
Minnesota. un nueva ley Promulgada en julio tipifica como delito el uso de deepfakes para influir en una elección o difundir imágenes sexuales sin el consentimiento del sujeto. El castigo por crear porno deepfake depende de tres años de prisión y/o una multa de $5,000.
Nueva York. Como miembro reciente, el mes pasado el Estado declaró oficialmente “ilegal la difusión de imágenes explícitas o ‘deepfakes’ generadas por IA de una persona sin su consentimiento”. Violar la ley podría resultar en un año de cárcel y una multa de $1,000, y las víctimas tienen el derecho a emprender acciones legales. acción contra los agresores.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.