Amazon Web Services presentó su chip de entrenamiento de inteligencia artificial de próxima generación que, según afirma, es más rápido y se espera que utilice menos energía.
Trainium3 es el primer chip de AWS construido con Proceso de 3 nanómetros —hasta ahora la tecnología de semiconductores más avanzada— que permite un mejor rendimiento y eficiencia energética. Se espera que los primeros chips Trainium3 estén disponibles a fines del próximo año, anunció AWS en su conferencia re:Invent el martes.
Se espera que los UltraServers equipados con Trainium3 tengan un rendimiento cuatro veces mejor que los equipados con chips Trainium2, afirmó AWS, “lo que permite a los clientes iterar aún más rápido al crear modelos y ofrecer un rendimiento superior en tiempo real al implementarlos”.
Los chips Trainium2 del gigante de la nube, que son cuatro veces más rápidos que su predecesor, ahora están disponibles de forma general, afirmó AWS. Las instancias Amazon Elastic Compute Cloud (Amazon EC2) impulsadas por Trainium2 permiten una relación precio-rendimiento entre un 30 % y un 40 % mejor que los chips actuales y cuentan con 16 chips Trainium2. Las nuevas instancias Amazon EC2 son “ideales para entrenar e implementar LLM con miles de millones de parámetros”, afirmó AWS.
El gigante de la nube dijo que está construyendo un UltraCluster EC2 de UltraServers impulsados por Trainium2 con la startup de IA Anthropic llamada Project Rainier. En noviembre, AWS anunció que estaba dando seguimiento a una inversión previa de $4 mil millones en la startup de IA con Otros 4 mil millones de dólaresEn la siguiente fase de la asociación, Anthropic utilizará a AWS como su principal socio de capacitación en IA.
“Trainium2 está diseñado específicamente para soportar las cargas de trabajo de IA generativa más grandes y de vanguardia, tanto para entrenamiento como para inferencia, y para ofrecer la mejor relación precio-rendimiento en AWS”, dijo David Brown, vicepresidente de Computación y Redes en AWS, en una declaración. “Con modelos que se acercan a billones de “Entendemos que los clientes también necesitan un nuevo enfoque para entrenar y ejecutar estas cargas de trabajo masivas. Los nuevos Trn2 UltraServers ofrecen el rendimiento de entrenamiento e inferencia más rápido en AWS y ayudan a las organizaciones de todos los tamaños a entrenar e implementar los modelos más grandes del mundo más rápido y a un menor costo”.
El director ejecutivo de AWS, Matt Garman, también anunció la familia de instancias P6 de próxima generación de Nvidia y AWS, que incluye los nuevos chips Blackwell del fabricante de chips. Blackwell tiene un procesamiento 2,5 veces más rápido que la generación actual de unidades de procesamiento gráfico o GPU, dijo Garman.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.