La herramienta AI Overviews de Google llamó la atención por algunas respuestas desquiciadas a las búsquedas. Se espera que surjan más problemas a medida que la IA se implemente en más productos.
Cuando Google $GOOGL presentó su función de búsqueda impulsada por IA el mes pasado, se jactó de que la nueva herramienta “haría la búsqueda en Google por usted”. Llamada AI Overviews, la nueva capacidad ofrece resúmenes concisos generados por IA con información clave y enlaces, que se muestran sobre los resultados de búsqueda.
Internet, como suele hacer, rápidamente humilló al gigante tecnológico, comprobando sus capacidades como los raptores de Jurassic Park probando las vallas en busca de debilidades. La gente descubrió Reseñas de inteligencia artificial que brindan respuestas desquiciadas a las búsquedas, incluyendo sugerencias como Comer una piedra al día y Usando pegamento en la pizza.
Liz Reid, directora de Búsqueda de Google, escribió una entrada de blog El jueves pasado, intentó explicarlo todo. Muchas de las búsquedas eran tan poco comunes que no había ninguna información útil de la que extraer, algo que ella llamó un “vacío de datos”. Otras causas, incluido el ejemplo de una piedra al día, se extrajeron de sitios satíricos, como The Onion. En el mea culpa, se aseguró de señalar que No fue tan malo como parecía en las redes sociales, escribiendo: “[H]ay una gran cantidad de capturas de pantalla falsas que se han compartido ampliamente”.
AI Overviews recibió tanta atención porque era un nuevo caso de uso para inteligencia artificial generativa que podría exponer a cualquiera que haya pasado por alto La locura de la IA a la tecnología al colocarla al centro de una actividad de Internet que muchas personas realizan una docena de veces al día. Tan grande y tan rápidamente como se ha crecido la IA generativa, ChatGPT alcanzó 100 millones de usuarios activos en dos meses, superando el récord anterior de TikTok de nueve meses; el alcance de Google podría eclipsar eso.
Hay 8.500 millones de búsquedas en Google por día, al menos según una respuesta de AI Overviews a la pregunta "¿Cuántas búsquedas en Google hay al día?". AI Overviews es una oportunidad para que el gigante tecnológico muestre a mucha más gente el poder (y los peligros) de la IA generativa, algo en lo que Google tiene mucho en juego.
Reid prometió soluciones, pero surgirán más problemas a medida que los grandes modelos de lenguaje (LLM) que impulsan los chatbots de IA se incorporen a más productos, dijo Delip Rao, un investigador independiente asociado con la Universidad de Pensilvania. En el caso de AI Overviews, Google se topó con dos problemas principales, dijo Rao: datos erróneos y “alucinaciones”.
Internet está lleno de datos erróneos. Google puede limitar los sitios de los que obtiene información y establecer más restricciones para búsquedas sensibles, como las relacionadas con temas de salud, ambas cosas que, según Reid, la compañía planea hacer. Pero las alucinaciones (como se llama cuando la IA generativa parece inventar información) son un problema sin una solución fácil, dijo Rao.
“Lo que hace que el modelo sea creativo también lo hace responsable de las alucinaciones”, dijo. “No se puede tener uno sin el otro”.
Rao, que ha utilizado IA para Construir una herramienta de verificación de hechos, todavía tiene esperanza de que correcciones como verificaciones automatizadas de hechos, detección de controversias y puntajes de credibilidad podrían mejorar AI Overviews.
“La inteligencia artificial en las búsquedas no desaparecerá", afirmó. “Seguiremos estancados en esto. [Pero] muchos de los problemas se reducirán”.
En un comunicado, Google afirmó que ya está implementando mejoras y agregó que ha realizado más de una docena de actualizaciones técnicas a AI Overviews.
“Las descripciones generales de IA están ayudando a las personas con una gran cantidad de consultas en la Búsqueda actual y sirven como punto de partida hacia el contenido en toda la web”, dijo un portavoz de Google.
Los observadores de la industria tecnológica han visto a Alphabet, la empresa matriz de Google, como Jugando a ponerse al día desde que OpenAI presentó ChatGPT en noviembre de 2022, Google ha logrado avances: Los ingresos aumentaron un 15% en su último informe de ganancias de abril, y su chatbot, que utiliza la misma tecnología que impulsa AI Overviews, ocupó el tercer lugar en un reciente informe del Wall Street Journal. prueba de chatbots.
Pero AI Overviews no es el primer paso en falso de Google en materia de inteligencia artificial. eliminó su generador de imágenes de IA después de que la herramienta creara imágenes históricamente inexactas, incluidas fotografías de nazis de diversas razas.
A pesar de los errores, Olivier Toubia, profesor de marketing de la Universidad de Columbia, dijo que Google ha adoptado hasta ahora un enfoque más prudente en comparación con otras empresas que desarrollan modelos de IA. Eso probablemente fue intencional, dijo.
“Es posible que pierdan esa ventaja de estar a la vanguardia, pero al mismo tiempo, podrían crear la percepción de que son una empresa tecnológica responsable”, dijo Toubia.
Pero un enfoque cauteloso finalmente tiene que dar paso a las necesidades del mercado. Google lanzó AI Overviews después de que la startup de búsqueda de IA Perplejidad y Copiloto de Microsoft $MSFT comenzó a incorporar inteligencia artificial a la búsqueda de una manera que podría amenazar el dominio de Google.
El gigante de las búsquedas probablemente tenga una ventaja, ya que es más probable que las personas utilicen una empresa familiar en lugar de dos para sus necesidades de inteligencia artificial y búsqueda generativa. La conveniencia puede hacer que los usuarios sean más indulgentes. Hace mucho tiempo que los consumidores están condicionados a no creer todo lo que hay en Internet, por lo que sospechar de una búsqueda de Google impulsada por IA no sería nada nuevo.
“La gente no va a dejar esto y decir: ‘Nunca volveré a utilizar la IA generativa’", afirmó Toubia.
Pero como Google añade más funciones de IA a otros productosPodrían surgir problemas que la gente podría estar menos dispuesta a perdonar, como problemas de prejuicios y de privacidad.
“Hay cosas más preocupantes que el hecho de que te digan que uses pegamento en la pizza”, dijo Toubia.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
