Una nueva función de IA de búsqueda de Google ayudó impulsar sus ingresos del primer trimestre. Ahora es el hazmerreír de Internet.
Google lanzó oficialmente una función de inteligencia artificial generativa para su motor de búsqueda llamada AI Overviews durante su conferencia anual de desarrolladores de E/S el 14 de mayo. La herramienta brinda a los usuarios un resumen de información de la web mundial en respuesta a sus consultas de búsqueda. información demasiado en serio; de lo contrario, está generando nuevas respuestas tremendamente malas, equivocadas, extrañas e incluso peligrosas por sí sola.
Los usuarios de Redditers y X han inundado Internet para proporcionar ejemplos de los errores de AI Overviews. Algunos de los resultados más tontos de la herramienta proponen agregando pegamento a la pizza y comiendo una piedra al día. Luego, hay otras más peligrosas: AI Overviews sugirió que un usuario deprimido saltara del puente Golden Gate y dijo que alguien mordido por una serpiente de cascabel debería“cortar la herida o intentar succionar el veneno.”
Esas respuestas, provenientes del medio de noticias satírico The Onion y de los comentaristas de Reddit, declararon los chistes como hechos. En algunos casos, AI Overviews ignora los hechos de la web por completo, hacer afirmaciones incorrectas como esa hay “ningún país soberano en África cuyo nombre comience con la letra ‘K’.”También se está equivocando acerca de su propio creador, Google. Dijo que los modelos de IA de Google fueron entrenados en “material de abuso sexual infantil”. ” y que Google todavía opera una instalación de investigación de IA en China.
Google se defendió en una declaración diciendo que “[l]a gran mayoría de AI Overviews proporciona información de alta calidad, con enlaces para explorar más profundamente en la web.
“Muchos de los ejemplos que hemos visto han sido consultas poco comunes y también hemos visto ejemplos que fueron manipulados o que no pudimos t reproducir”, decía, y agrega que AI Overviews se sometió a “pruebas exhaustivas” antes de su lanzamiento. “Estamos tomando medidas rápidas cuando sea apropiado según nuestras políticas de contenido y utilizar estos ejemplos para desarrollar mejoras más amplias en nuestros sistemas, algunas de las cuales ya han comenzado a implementarse”.
Esta es la segunda gran vergüenza para Google relacionada con la IA. tuvo que hacer pausa en su generador de imágenes Gemini AI en febrero después de haber sido criticado por producir imágenes históricamente inexactas. Pero Google está en buena compañía: los chatbots de la mayoría de las empresas han sido citados por las llamadas alucinaciones, inventando información tremendamente incorrecta a pesar de los datos en los que están entrenados. Una interrupción en OpenAI en febrero tuvo ChatGPT escupiendo galimatías. Incluso cuando funciona a plena capacidad, ChatGPT ha acusado falsamente a personas de acoso sexual y generó citaciones de casos judiciales inexistentes. Microsoft Copilot fue puesto en el banquillo en marzo cuando sugerencia de autolesión a un usuario a gran longitud.
El potencial de la IA para generar información errónea y desinformación ha causado una preocupación generalizada, especialmente antes de las elecciones presidenciales de 2024 en Estados Unidos. los legisladores estatales han introducido cientos de leyes para abordar los problemas asociados con la IA, no existe legislación federal sustantiva.
Nota del editor: Este artículo fue actualizado para incluir una declaración de Google.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.