Un juez en el estado de Washington ha bloqueado la presentación de pruebas en video “mejoradas por IA” en un juicio por triple asesinato. Algo bueno, dado el hecho de que demasiadas personas parecen pensar en aplicar un filtro de IA puede darles acceso a datos visuales secretos.
El juez Leroy McCullough del condado de King, Washington, escribió en un nuevo fallo que la tecnología de IA utilizó “métodos opacos para representar lo que el modelo de IA ‘piensa’ debería mostrarse», según un nuevo informe de NBC noticias Martes. Y esa es una claridad refrescante sobre lo que está sucediendo con estas herramientas de IA en un mundo de exageración de la IA.
“Este Tribunal considera que la admisión de esta evidencia mejorada con Al llevaría a una confusión de las cuestiones y a una confusión de los testimonios de los testigos presenciales, y podría conducir a una prueba que consumiría mucho tiempo dentro de un ensayo sobre el proceso no revisable por pares utilizado por el modelo de IA”, McCullough escribió.
El caso involucra a Joshua Puloka, un hombre de 46 años acusado de matar a tres personas y herir a otras dos en un bar en las afueras de Seattle. en 2021. Los abogados de Puloka querían presentar un video de un teléfono celular capturado por un espectador que ha sido mejorado con IA, aunque no está claro qué creen que podría obtenido de el metraje alterado.
Según se informa, los abogados de Puloka utilizaron a un “experto” en producción de videos creativos que nunca antes había trabajado en un caso criminal para “mejorar” el video. La herramienta de IA que este experto anónimo usó fue desarrollada por una empresa con sede en Texas Laboratorios Topacio, que está disponible para cualquiera con una conexión a internet.
La introducción de herramientas de imágenes impulsadas por IA en los últimos años ha generado malentendidos generalizados sobre lo que es posible con esta tecnología. Mucha gente cree que Ejecutar una foto o un video a través de escaladores de IA puede darle una mejor idea de la información visual que ya está allí. Pero, en realidad , el software de IA no proporciona una imagen más clara de la información presente en la imagen; el software simplemente añadiendo información que no estaba allí en primer lugar.
Por ejemplo, existía una teoría de conspiración muy extendida según la cual Chris Rock llevaba una especie de protector facial cuando Will Smith lo abofeteó. en los Premios de la Academia en 2022. La teoría comenzó porque la gente comenzó a ejecutar capturas de pantalla de los escaladores de imágenes, creyendo que podían obtener una mejor mirada que estaba pasando.
Pero eso no es lo que sucede cuando pasas imágenes a través de la mejora de IA. El programa de computadora simplemente agrega más información en un esfuerzo por hacer la imagen más nítida, que a menudo puede distorsionar lo que realmente hay allí. Usando el deslizador abajo, puedes ver la imagen pixelada que se volvió viral antes de que la gente comenzara a alimentarlo a través de programas de inteligencia artificial y “descubriera” cosas que simplemente no estaban presentes en la transmisión original.
Innumerables fotografías y vídeos de alta resolución del incidente muestran de manera concluyente que Rock no tenía una almohadilla en la cara. Pero eso no evite que la gente crea que pueden ver algo oculto a simple vista al “aumentar la escala” de la imagen a “8K”.
El aumento de productos etiquetados como IA ha creado mucha confusión entre la persona promedio sobre lo que estas herramientas realmente pueden lograr. modelos de lenguaje como ChatGPT He convencido a personas por lo demás inteligentes de que estos chatbots son capaces de realizar razonamientos complejos cuando eso simplemente no es lo que está sucediendo bajo el capó. Los LLM son esencialmente, simplemente prediciendo la siguiente palabra que debería escupir para sonar como un ser humano plausible. Pero debido a que hacen un trabajo bastante bueno Al parecer humanos, muchos usuarios creen que están haciendo algo más sofisticado que un truco de magia.
Y esa parece ser la realidad con la que vamos a vivir mientras Se están invirtiendo miles de millones de dólares en empresas de IA. Muchas personas que deberían saberlo mejor creen que algo profundo está sucediendo detrás del telón y se apresuran a culpar al “sesgo” y a las barreras de seguridad. ser demasiado estricto. Pero cuando profundizas un poco más descubres estos las llamadas alucinaciones ¿No son alguna fuerza misteriosa promulgada por personas que están demasiado despiertas o lo que sea? Son simplemente un producto de esta tecnología de IA, no ser muy bueno en su trabajo.
Afortunadamente, un juez de Washington ha reconocido que esta tecnología no es capaz de proporcionar una mejor imagen. Aunque no dudamos de que las hay. Hay muchos jueces en todo Estados Unidos que han creído en el bombo publicitario de la IA y no entienden las implicaciones. Es sólo cuestión de tiempo. antes de que se utilice en el tribunal un vídeo mejorado con IA que no muestre nada más que información visual añadida mucho después del hecho.
Una versión de este artículo apareció originalmente en Gizmodo.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.