Las grandes empresas tecnológicas, incluidas Microsoft y Meta, están invirtiendo mucho en superclusters con la esperanza de lograr avances en inteligencia artificial.
Photo by Steve Johnson on Unsplash
El crecimiento explosivo de la IA no es magia; es matemática. Y mucha de ella. Los últimos avances en aprendizaje profundo, desde modelos de lenguaje grande hasta herramientas generativas de imágenes, necesitan cantidades asombrosas de poder de cómputo.
Entrenar un modelo de IA moderno es como enseñar a un elefante a bailar: necesitas músculo bruto, sincronización perfecta y repetición interminable. Ahí es donde entran los superclusters de IA.
En la superficie, un superclúster es como un cerebro gigante hecho de muchos cerebros más pequeños. Son miles, o incluso cientos de miles, de GPUs o aceleradores de IA conectados entre sí con redes ultrarrápidas, construidos a medida para abordar cálculos masivos. A diferencia de tu equipo de juegos de garaje o incluso del típico servidor en la nube, estas máquinas están construidas desde cero con un solo propósito: la IA.
La IA ha introducido una clase completamente nueva cuando se trata de almacenamiento y procesamiento de datos. Mientras que los centros de datos tradicionales están diseñados para manejar una amplia mezcla de cargas de trabajo digitales (piensa en servidores de correo electrónico, alojamiento de sitios web y almacenamiento en la nube), los superclusters de IA están construidos con un propósito singular: procesar enormes cantidades de datos a velocidad relámpago.
Para entender por qué importan, primero ayuda ver cómo se diferencian de los planos de centros de datos del pasado.
Los avances en IA requieren tanto escala como velocidad. Los modelos grandes necesitan conjuntos de datos masivos, y cuanto más grandes son los datos, más tiempo lleva el entrenamiento, a menos que se dedique una cantidad significativa de potencia informática al problema. Los superclusters permiten:
Photo by Levart_Photographer on Unsplash
Los superclústeres de IA no son baratos ni pequeños. Construir uno a menudo requiere hardware personalizado, infraestructura de red especializada, bienes raíces del tamaño de un aeropuerto y suficiente energía para alimentar a una pequeña nación. Naturalmente, solo un puñado de empresas están en posición de hacer este tipo de inversión.
Estos gigantes tecnológicos no solo están participando en la IA, sino que también están remodelando sus fundamentos físicos. Cada uno está invirtiendo fuertemente en superclústeres dedicados que hacen posible entrenar modelos de última generación en conjuntos de datos previamente inmanejables. Mientras que algunos clústeres potencian la investigación interna, otros sustentan los servicios de IA que ahora llegan a millones de usuarios.
Aquí está un desglose de quién está construyendo qué y por qué:
Meta $META – Proyecto Prometeo / Hyperion: El empuje del superclúster de Meta es enorme. Está elaborando Prometeo, un centro de datos de IA de 1 GW, y planea Hyperion, una instalación de 5 GW que se acerca al tamaño de Manhattan. Es una parte clave de la estrategia de IA de Meta.
Microsoft $MSFT / OpenAI – Clústeres Azure ND H200 v5: Microsoft’s Azure ND H200 v5 Las máquinas virtuales incluyen ocho GPU NVIDIA H200 cada una y pueden escalarse a clusters con miles de GPU. Estos sistemas impulsan el entrenamiento de modelos de OpenAI, así como las cargas de trabajo de Azure AI.
Google – TPU v4 / Ironwood Pods: TPU v4 de Google Los Pods utilizan 4,096 chips especializados y redes ópticas personalizadas. Alcanzan velocidades a nivel de exaflop (un exaflop equivale a un quintillón de cálculos por segundo) y potencian su entrenamiento de modelos grandes. Su última plataforma “Ironwood” TPU v7 aumenta la escala, ofreciendo decenas de exaflops para sistemas de inferencia generativa.
Amazon $AMZN Web Services – EC2 UltraClusters & Project Rainier: Los UltraClusters de AWS son enormes grupos de GPU que incluyen P4d (GPU A100) y chips Trn2/Trainium2 con redes ultrarrápidas. Project Rainier, construido con Anthropic, usa cientos de miles de chips Trainium2, entregando más de 5 veces los exaflops utilizados en los modelos de IA líderes actuales.
Nvidia $NVDA – Esfuerzos de supercomputación construidos por socios: Nvidia orquesta superclusters de IA a nivel mundialpatrocinando construcciones de múltiples miles de GPU como la de Foxconn y colaborando con Oracle $ORCL, HPE y otros para desplegar clusters especializados.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
