Google no quiere que los usuarios comer pegamento y piedras, pero sí quiere que las personas vuelvan a verificar algunos de los contenidos más inverosímiles que reciben de las búsquedas mejoradas con IA.
Google lanzó AI Overviews, una función de inteligencia artificial generativa para su motor de búsqueda, el 14 de mayo durante su conferencia anual de desarrolladores de E/S. La herramienta brinda a los usuarios un resumen de información de Internet generado por IA en respuesta a las consultas de búsqueda. Sólo una semana después, los usuarios comenzaron compartiendo capturas de pantalla de algunas de las respuestas extrañas y a veces peligrosas de la nueva herramienta.
Muchas de estas se volvieron virales, incluidas respuestas que le decían a alguien que añadir pegamento a la pizza y comer una piedra al día —respuestas extraídas de foros de Reddit y sitios de noticias satíricas . En otro caso viral, AI Overviews sugirió que un usuario deprimido saltara del puente Golden Gate.
Liz Reid, vicepresidenta de investigación de Google, escribió una publicación de blog el 30 de mayo destinada a dejar las cosas claras. Aunque algunas de las capturas de pantalla que se difundieron en las redes sociales eran reales, escribió, “ha habido una gran cantidad de capturas de pantalla falsas compartido ampliamente”.
“Algunos de estos resultados falsos han sido obvios y tontos. Otros han dado a entender que obtuvimos resultados peligrosos para temas como dejar a los perros en automóviles, fumar durante el embarazo y depresión”, escribió Reid. “Esas descripciones generales de IA nunca aparecieron. Así que animamos a cualquiera que se encuentre con estas capturas de pantalla a hagan una búsqueda para comprobar».
Los que eran reales resaltaron áreas donde Google necesita suavizar algunos problemas en la nueva tecnología, reconoció Reid. respuestas extrañas a preguntas que en realidad no se han hecho antes, como “¿Cuántas piedras debo comer?” Estos casos son lo que se llama una brecha de datos o información, y la herramienta extrajo el contenido web que mejor respondía a la pregunta, que resultó ser una sitio de sátira, dijo.
Pero Google está tratando proactivamente de abordar estos problemas, incluyendo la creación de mejores mecanismos de detección para consultas sin sentido y limitando la inclusión de sátira y humor. contenido, restringiendo los consejos potencialmente engañosos generados por los usuarios (como las conversaciones de Reddit) y mejorando sus ya fuertes barreras sobre noticias y temas de salud.
“A la escala de la Web, con miles de millones de consultas que llegan cada día, es probable que haya algunas rarezas y errores”. Reid escribió. “Hemos aprendido mucho durante los últimos 25 años sobre cómo construir y mantener una experiencia de búsqueda de alta calidad. incluyendo cómo aprender de estos errores para mejorar la búsqueda para todos».
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.