Esta historia es parte de nuestra nueva Pronóstico del director de innovación serie con Gizmodo, un informe empresarial desde la primera línea del futuro.
Como generativo AI Cuando las tecnologías llegan a las manos del público, cada vez resulta más difícil diferenciar la verdad de la fabricación.
falsificaciones de IA Se han abierto camino hacia la esfera pública a medida que los utilizan piratas informáticos, estudiantes de secundaria e incluso políticos. Los adolescentes han sido arrestados. por generar desnudos deepfake de sus compañeros de clase. Gobernador de Florida La ahora desaparecida campaña presidencial de Ron DeSantis publicó deepfakes de Donald Trump besando al ex director del Instituto Nacional de Alergias y Enfermedades Infecciosas, Anthony Fauci, en X el verano pasado. Un grupo en línea respaldado por China, “Spamoflauge”, difunda videos de presentadores de noticias generados por inteligencia artificial que informan noticias falsas antes de las elecciones presidenciales de Taiwán. Mientras tanto, un grupo de investigadores de Microsoft cree que China Probablemente use IA para entrometerse en las elecciones presidenciales de Estados Unidos.
Para recuperar la confianza del público en una era de realidades poco claras, existe una solución que han empleado importantes empresas como Meta y Google — así como la administración biden — son marcas de agua digitales. Estas marcas de agua incorporan contenido en línea con un código que es invisible al ojo humano pero que puede ser detectado mediante algoritmos para etiquételo como original o generado por IA. Aunque algunos dicen que el enfoque es imperfecto o que no llega lo suficientemente lejos como para luchar contra los deepfakes, seguramente es un comienzo.
Eric Wengrowski es el cofundador y director ejecutivo de Steg.AI, una startup de marcas de agua digitales que fundó en 2019 después de completar su doctorado en informática. tecnología de visión y marcas de agua. La empresa utiliza marcas de agua digitales y aprendizaje profundo para autenticar medios digitales. Wengrowski se sentó con Quartz para hablar sobre cómo inició StegAI y por qué piensa que la marca de agua digital es una tecnología crítica.
Quartz: StegAI comenzó antes de que las grandes tecnologías comenzaran a desarrollar agresivamente tecnologías de IA. ¿Qué lo motivó a hacer despegar esta idea?
Eric Wengrowski: Estaba haciendo mi doctorado cuando el trabajo original “deepfake” comenzó a aparecer en la academia. Y es un trabajo realmente genial e interesante. Quiero decir, era una ciencia asombrosa, ya sabes, una ingeniería asombrosa. Y luego, obviamente, hubo un reconocimiento en ese momento de que, está bien, esto es algo que podría tener impactos éticos y de seguridad, y deberíamos empezar a pensar en eso. Steg realmente está construido desde cero para abordar estas cuestiones de autenticidad y confianza en los medios utilizando IA responsable. La misión ha consistido en proporcionar infraestructura para saber qué es contenido en línea auténtico y confiable.
Nuestros clientes son empresas de IA generativa que quieren identificar su contenido como deepfakes. Son fotógrafos y fabricantes de cámaras que quieren identificar sus contenido como orgánico. También son empresas y gobiernos que quieren poder decir con mucha fuerza: ‘Oye, este es el contenido oficial.’
¿Cómo ha cambiado la industria con el tiempo?
Cuando Steg se fundó por primera vez en 2019, cada vez que les decíamos a los inversores o a quienquiera que somos una empresa de marcas de agua, teníamos miradas torcidas, como, ‘Oh, marcas de agua, ¿no fue algo que sucedió en los años 90? ¿Por qué estás haciendo eso ahora?' desde la proliferación de deepfakes y desde que la Casa Blanca ha adoptado una postura firme sobre la necesidad de incorporar las marcas de agua como Aunque se trata de una tecnología estratégicamente importante para abordar la desinformación y los deepfakes, las cosas han cambiado y han surgido más empresas [de marca de agua digital].
¿Puedes hablarnos de los peligros de los deepfakes?
La autenticidad de los medios siempre ha estado en duda en ocasiones, especialmente cuando hay oportunidades políticas. Creo que la diferencia es esa, en Ese día, para crear algo que fuera sintético y convincente, necesitabas ser realmente hábil en cortar y pegar literalmente. Necesitaba los recursos de un estudio de producción cinematográfica. Con la llegada de herramientas como Photoshop, la proliferación de información errónea creció. ¿Recuerdo haber visto fotos de los militares de Corea del Norte que habían sido retocadas con Photoshop para que pareciera que sus ejércitos eran más grandes o algo así? cierto líder estaba vivo y bien.
Creo que la diferencia aquí es que el costo de crear contenido muy realista pero potencialmente engañoso se ha reducido drásticamente gracias a la IA de generación y deepfakes, y el problema de distribuir ese contenido se ha visto sobrecargado con las redes sociales. Así que es realmente un problema de escala.
Los deepfakes se han vuelto tan buenos (y seguirán mejorando) que ver ya no es creer. simplemente mire una imagen o un video y sepa de manera confiable si es real o no. Necesitamos una forma de manejar este problema de confianza a escala.
¿Por qué, en tu opinión, la marca de agua es la respuesta?
Así que necesitas una solución [para los deepfakes] que funcione a escala, y la marca de agua con credenciales de contenido es esa solución que funciona a escala. Una imagen generada por IA con una marca de agua que identifica [su fuente] usando una credencial de contenido [diga si] surgió de un algoritmo y tal vez otra información relevante sobre quién lo creó. Se suma al valor de ese contenido; sabes que puedes confiar en el origen.
Steg ha estado trabajando con empresas asociadas realmente excelentes a lo largo del camino. Fuimos uno de los primeros miembros de C2PA, que es un estándar abierto [para identificar contenido original y generado por IA ]. El detector de deepfake no es una solución real en este caso. Debes proporcionar una credencial de contenido que mire esa foto y informar a las personas aguas abajo cuál es el origen.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.