Google probó resúmenes de IA durante meses antes de publicarlos en todo el país la semana pasada, pero claramente no fue tiempo suficiente. La IA está alucinando respuestas a varias consultas de usuarios, creando una experiencia poco confiable en el producto insignia de Google. En la última semana, Gizmodo recibió descripciones generales de IA de Google que hacen referencia pizza cubierta de pegamento y sugieren que Barack Obama era musulmán.
Las alucinaciones son preocupantes, pero no sorprendentes. Como hemos visto antes con los chatbots de IA, esta tecnología parececonfundir la sátira con periodismo — varias de las reseñas incorrectas de IA que encontramos parecen hacer referencia La cebolla. El problema es que esta IA ofrece una respuesta autorizada a millones de personas que recurren a la Búsqueda de Google a diario simplemente para buscar algo Ahora, al menos a algunas de estas personas se les presentarán respuestas alucinadas.
“La gran mayoría de las descripciones generales de IA proporcionan información de alta calidad, con enlaces para profundizar en la web”, dijo un portavoz de Google en una declaración enviada por correo electrónico a Gizmodo, señalando que muchos de los ejemplos que la compañía ha visto provienen de consultas poco comunes. cuando sea apropiado según nuestras políticas de contenido, y usar estos ejemplos para desarrollar mejoras más amplias en nuestros sistemas, algunas de las cuales ya han comenzado a funcionar. despliegue .”
En mi experiencia, las descripciones generales de IA son más a menudo correctas que incorrectas. Sin embargo, cada respuesta incorrecta que recibo me hace cuestionar toda mi experiencia. en la Búsqueda de Google aún más: tengo que evaluar cada respuesta cuidadosamente. Google señala que la IA es “experimental”, pero han optado por todas en este experimento por defecto.
“Lo que pasa con la búsqueda es que manejamos miles de millones de consultas”, dijo el director ejecutivo de Google, Sundar Pichai. El borde el lunes cuando se preguntó sobre la lanzamiento de la visión de la IA . “Sin duda, puedes encontrar una consulta, entregármela y decir: '¿Podrías ¿Hemos hecho mejor en esa consulta? Sí, seguro. Pero en muchos casos, parte de lo que hace que la gente responda positivamente. a AI Overviews es que el resumen que proporcionamos claramente agrega valor y les ayuda a ver cosas que de otro modo no habrían pensado acerca de.”
Curiosamente, la Búsqueda de Google ocasionalmente responde a una consulta con “No hay una descripción general de IA disponible para esta búsqueda”, mientras que otras veces Google simplemente no digas nada y muestres los resultados de búsqueda tradicionales. Obtuve esta respuesta cuando busqué “¿de qué etnia son la mayoría de los presidentes de Estados Unidos” y cuando busqué “qué frutos terminan en mí».
Un portavoz de Google dice que sus sistemas ocasionalmente comienzan a generar una descripción general de IA, pero impiden que aparezca cuando no alcanza su umbral de calidad. . En particular, Google tuvo que pausar las respuestas y la generación de imágenes de Géminis en torno a temas raciales durante meses después de que trastornó a grandes franjas del país. No está claro si esta generación de visión general de IA de “parar y comenzar” está relacionado.
Lo que está claro es que Google se sintió presionado a poner su dinero donde está su boca, y eso significa poner IA en la búsqueda. eligen cada vez más ChatGPT, Perplexity u otras ofertas de IA como su principal forma de encontrar información en Internet. Google ve esta carrera existencialmente , pero es posible que haya puesto en peligro la experiencia de búsqueda al intentar ponerse al día.
Esta semana, la Búsqueda de Google le ha contado a la gente muchas cosas extrañas a través de resúmenes de IA. Estas son algunas de las más raras que Gizmodo tiene. encontró.
