Después de la herramienta de IA generativa de Google Géminis generó controversia con imágenes históricamente inexactas como nazis racialmente diversos, director de Google Sundar Pichai abordó las respuestas de la aplicación en un memorando al personal de Google y calificó las respuestas “inaceptables”.
“Sé que algunas de sus respuestas han ofendido a nuestros usuarios y han mostrado parcialidad; para ser claros, eso es completamente inaceptable y tenemos está mal”, dijo Pichai el martes por la noche en el memorando reportado por Semafor.
Pichai dijo que la compañía “ha estado trabajando las veinticuatro horas del día” para abordar los problemas con Gemini y “ya está viendo una mejora sustancial en una amplia gama de indicaciones”.
“Ninguna IA es perfecta, especialmente en esta etapa emergente del desarrollo de la industria, pero sabemos que el listón está alto para nosotros y Seguiremos así durante el tiempo que sea necesario”, dijo Pichai, y agregó que Google “revisará lo que sucedió y se asegurará de que solucionemos el problema”. a escala”.
Google dijo la semana pasada que pausaría la capacidad del modelo de IA para generar imágenes de personas, después de Los usuarios comenzaron a señalar imágenes históricamente inexactas de generaciones de personas. — incluyendo soldados alemanes racialmente diversos de la era nazi — así como Géminis evitando aparentemente solicitudes de imágenes de personas blancas.
“La generación de imágenes de IA de Gemini genera una amplia gama de personas”. Google dijo en un comunicado antes de pausar la aplicación. “Y eso en general es algo bueno porque personas de todo el mundo la usan. Pero no está estudiando aquí. ”
Jack Krawczyk, líder de producto de Gemini, también abordó los problemas de la aplicación la semana pasada, observando problemas más amplios de sesgo de IA que ya existen en torno a la generación de imágenes de personas de color.
“Como parte de nuestros principios de IA, diseñamos nuestras capacidades de generación de imágenes para reflejar nuestra base global de usuarios y tomamos en cuenta la representación y el sesgo. En serio”, escribió Krawczyk. “Los contextos históricos tienen más matices y nos adaptaremos más para adaptarnos a eso”.
Se agregaron capacidades de generación de imágenes al chatbot Bard de Google — la respuesta de la compañía al ChatGPT Plus de OpenAI — a principios de febrero. Bardo era entoncesrenombrado a Géminis.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.