El chip, denominado internamente "Frozen v2", podría procesar de 6 a 10 veces más tokens por unidad de energía que los TPU más recientes de Google.
Getty Images / Bloomberg
El chip, referido internamente como "Frozen v2", reduce la sobrecarga de procesamiento al integrar partes de la arquitectura de Gemini en el propio silicio, limitando cuántos cálculos debe realizar el hardware y cuánto debe viajar la información para generar una respuesta, según Bloomberg. Los ingenieros que trabajan en el proyecto estiman que el chip podría ofrecer de seis a diez veces la producción de tokens por vatio en comparación con los TPUs más recientes de Google.
Google desarrolló el proyecto en parte para aliviar una grave crisis de capacidad interna que ha creado fricción dentro de la empresa y ha llevado a Google Cloud a rechazar negocios de clientes externos. Google tiene como objetivo el 2028 para el despliegue, aunque los ingenieros aún están finalizando el diseño del chip y cuánta información del modelo se integrará, según Yahoo Finance.
Frozen v2 representaría una rama especializada del portafolio de chips de Google en lugar de un reemplazo para sus TPUs de propósito general. Sin embargo, esa eficiencia tiene un costo: debido a que partes del modelo están cableadas en el silicio, el chip solo puede soportar futuras versiones de Gemini si Google mantiene intacta su arquitectura fundamental. Se espera que los volúmenes de producción sean mucho menores que los niveles de TPU, y por ahora el esfuerzo se trata internamente como un ejercicio exploratorio en lugar de un despliegue a gran escala.
Google ha enfrentado una creciente presión en múltiples frentes, incluida la salida de investigadores senior de IA hacia rivales. Noam Shazeer, quien co-lideró los modelos Gemini, anunció que se uniría a OpenAI, mientras que el ganador del Premio Nobel John Jumper dejó Google DeepMind para Anthropic. Las acciones de Alphabet cayeron hasta un 7% tras esas salidas. El próximo lanzamiento de Gemini Pro también se ha retrasado, y los modelos de IA chinos ahora representan el 45% del uso de tokens de empresas estadounidenses.
En una declaración a CNBC, Google dijo que sus equipos están "constantemente investigando y experimentando con nuevas innovaciones para brindar el máximo rendimiento y eficiencia a nuestros usuarios y clientes," añadiendo que "no todos los proyectos pasan a producción." Un portavoz de Google Cloud dijo que el enfoque de la compañía implica "co-diseñar nuestro hardware y software desde cero" para optimizar los sistemas para cargas de trabajo del mundo real.
Google no está solo en la búsqueda de silicio de IA personalizado. OpenAI presentó recientemente su primer chip interno, construido junto a Broadcom $AVGO Inc., mientras que Anthropic ha comenzado conversaciones preliminares con Samsung Electronics Co. sobre el desarrollo de su propio silicio, según Bloomberg.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
