Google dijo que su modelo de IA Gemini “no daba en el blanco” con algunas imágenes, después de que los usuarios compartieran imágenes que incluían nazis racialmente diversos
Google $GOOGL dijo el jueves que así pausar la capacidad de su modelo de IA para generar imágenes de personas después de que los usuarios señalaran que su IA Gemini estaba generando imágenes históricamente inexactas de personas, como los soldados alemanes de la era nazi, racialmente diversos.
La compañía dijo que “ya está trabajando para abordar problemas recientes con la función de generación de imágenes de Gemini” y que “volverá a lanzar una versión mejorada pronto”.
Un antiguo empleado de Google compartido en X $TWTR Gemini’s image generaciones de “una mujer australiana ” y “una mujer alemana”, y escribió que era «vergonzosamente difícil conseguir que Google Gemini reconocer que los blancos existen”. En otra consulta de “imagen de un Papa», un usuario compartió las generaciones de Géminis de una mujer papa y un Papa negro.
Otro usuario que se identifica como ingeniero de investigación de Google compartió una publicación en X de ellos pidiéndole a Gemini AI que “me pinte una imagen históricamente precisa”. representación de un rey británico medieval, y recibió imágenes racialmente diversas, incluida una gobernante con Géminis respondiendo que era “luchar por la precisión histórica y la inclusión”. Otros usuarios señalaron que Gemini evitar solicitudes de imágenes de personas blancas, que obtuvo respuestas de la multitud anti-despertar en línea.
Google dijo el miércoles que estaba consciente del problema y que estaba “trabajando para mejorar este tipo de representaciones de inmediato”.
“La generación de imágenes de IA de Gemini genera una amplia gama de personas”. Google dijo en un comunicado. “Y eso en general es algo bueno porque la gente de todo el mundo lo utiliza. Pero no da la marca de noción aquí.»
Jack Krawczyk, líder de producto de Gemini, abordó las imprecisiones del modelo el X miércoles, señalando problemas más amplios de sesgo de IA cuando se trata de representar personas de color, lo que podría haber llevado a la sobrecorrección de Géminis en las imágenes.
“Como parte de nuestros principios de IA, diseñamos nuestras capacidades de generación de imágenes para reflejar nuestra base global de usuarios y tomamos en cuenta la representación y el sesgo. en serio», escribió Krawczyk, y agregó que la compañía continuará abordando el problema mediante indicaciones abiertas. «Los contextos históricos tienen más matices» a ellos y nos adaptaremos aún más para adaptarnos a eso”.
Google agregó generación de imágenes con IA a su chatbot Bard a principios de mes , y posteriormente rebautizado como Bardo como Géminis.Bard se desarrolló como un intento de Google de competir con ChatGPT Plus de OpenAI, que permite a los usuarios generar imágenes utilizando las capacidades del generador de imágenes de OpenAI. DALL-E 3. Sin embargo, el tropiezo de Gemini se produce cuando OpenAI aparentemente avanza más con su nuevo
Generador de texto a vídeo con IA, Sora, que se presentó la semana pasada.Gemini dijo que no pudo generar imágenes de personas cuando se lo pidió un reportero de Quartz el jueves por la mañana.
Gemini said it was unable to generate images of people when prompted by a Quartz reporter on Thursday morning.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
