La policía del condado de Baltimore arrestó el jueves al ex director deportivo de la escuela secundaria de Pikesville, alegando que usó un Clon de voz con IA para hacerse pasar por el director de la escuela, lo que llevó al público a creer que el director Eric Eiswert había hecho comentarios racistas y antisemitas, según La bandera de Baltimore.
Dazhon Darien fue detenido en el aeropuerto de Baltimore el jueves por la mañana intentando abordar un vuelo a Houston con un arma, según Banner . Los investigadores determinaron que Darien falsificó la voz de Eiswert utilizando una herramienta de clonación de IA. Grabación de voz con IA, que circuló ampliamente en las redes sociales, hizo comentarios despectivos sobre los estudiantes negros y la comunidad judía.
“Basado en una extensa investigación, los detectives ahora tienen evidencia concluyente de que la grabación no era auténtica”, dijo la policía del condado de Baltimore en un comunicado de prensa. “Como parte de su investigación, los detectives solicitaron a un analista forense contratado por el FBI para analizar la grabación. Los resultados de ese análisis indicó que la grabación contenía rastros de contenido generado por IA”.
Este deepfake supuestamente provocó una indignación pública que provocó que el director Eiswert recibiera una ola de mensajes de odio y lo obligara a retirarse temporalmente de la La recepción de la escuela se vio inundada de llamadas de padres preocupados. El distrito escolar de Pikesville finalmente organizó una presencia policial en la escuela. escuela y la casa de Eiswert para restaurar una sensación de seguridad.
Los funcionarios de policía de Baltimore dicen que el ex director deportivo hizo la grabación de IA para tomar represalias contra el director de la escuela. Un mes antes de que la grabación se volviera viral , The Banner informa que Eiswert lanzó una investigación sobre Darien por posible robo de fondos escolares. Darien autorizó un pago de $1,916 al El entrenador de baloncesto de JV, quien también era su compañero de cuarto, saltándose los procedimientos adecuados. Darién presentó su renuncia a principios de abril, según documentos escolares.
La policía dice que Darien fue el primero de tres maestros en recibir el clip de audio la noche antes de que se volviera viral. The Banner informa sobre otro maestro quien recibió la grabación la envió a los estudiantes, a los medios de comunicación y a la NAACP. La policía escribió en los documentos de acusación que Darien usó la escuela red para buscar herramientas OpenAI y usar modelos en lenguajes grandes en múltiples ocasiones. Sin embargo, muchas personas usan estas herramientas AI días. No está claro en este momento cómo los investigadores pudieron identificar a Darien como el creador de esta grabación de voz.
La creación de deepfakes de audio generados por IA es un problema cada vez más grande al que se enfrenta el mundo tecnológico. La Comisión Federal de Comunicaciones tomó medidas en febrero para robocalls deepfake fuera de la ley después de Joe Biden deepfake engañó a los votantes de New Hampshire.
En este caso, los expertos en inteligencia artificial pudieron identificar que el supuesto audio del director de Baltimore era falso. Sin embargo, esto ocurrió dos meses después. después de que el audio se volvió viral y es posible que el daño ya se haya producido. Los deepfakes de IA realmente deben detenerse temprano para minimizar daño, pero es más fácil decirlo que hacerlo.
Una versión de este artículo apareció originalmente en Gizmodo.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.