Entrenar un único modelo de IA grande puede consumir tanta electricidad como la que utilizan cientos de hogares en EE. UU. en un año.
Training and running AI models demands massive amounts of electricity, specialized hardware, and water-intensive cooling systems housed in sprawling data center facilities.
Los sistemas de IA son intensivos en energía porque las operaciones matemáticas que los impulsan, particularmente las multiplicaciones de matrices utilizadas en redes neuronales, deben realizarse miles de millones o billones de veces, a velocidad, en hardware especializado que consume una cantidad significativa de energía eléctrica.
El proceso comienza con el entrenamiento, en el que un modelo aprende patrones a partir de conjuntos de datos enormes. El entrenamiento requiere ejecutar cálculos en miles de procesadores simultáneamente, a menudo durante semanas. El hardware de elección es la unidad de procesamiento gráfico, o GPU, originalmente diseñada para renderizar gráficos de videojuegos pero bien adaptada a los cálculos paralelos que exige la IA. Una sola ejecución de entrenamiento a gran escala puede consumir cientos de miles de kilovatios-hora de electricidad, comparable al consumo anual de cientos de hogares estadounidenses. Los chips diseñados específicamente, incluidos los aceleradores personalizados de empresas como Google $GOOGL y Amazon $AMZN, se utilizan cada vez más junto con las GPU para mejorar la eficiencia. Y los fabricantes de chips como Qualcomm $QCOM están avanzando más en el silicio de IA para centros de datos para satisfacer esa demanda.
Después del entrenamiento, la inferencia, la etapa en la que un modelo desplegado genera una respuesta a una consulta de usuario, añade una carga energética separada y continua. Debido a que millones de consultas llegan todos los días a través de servicios como chatbots, búsquedas y herramientas de generación de contenido, la inferencia a escala se acumula en una extracción sustancial de la red.
Todos estos cálculos deben realizarse dentro de centros de datos: grandes instalaciones con bastidores de servidores conectados por redes de alta velocidad. Los centros de datos requieren no solo electricidad para ejecutar los procesadores sino también sistemas de enfriamiento para eliminar el calor que generan esos procesadores. El enfriamiento puede representar aproximadamente del 30 al 40% del uso total de energía de una instalación. El agua se usa comúnmente en los bucles de enfriamiento, lo que convierte a los centros de datos en importantes consumidores tanto de electricidad como de agua dulce.
La escala física de la infraestructura requerida es considerable. Un centro de datos moderno orientado a la IA puede ocupar cientos de miles de pies cuadrados y consumir decenas o cientos de megavatios de energía, suficiente para tensar las redes de servicios públicos locales. Los legisladores han comenzado a examinar cómo se asigna esa demanda energética entre las empresas tecnológicas y los consumidores ordinarios, y algunas empresas de servicios públicos han respondido creando estructuras de tarifas dedicadas: la principal empresa de servicios públicos de Oregón, por ejemplo, introdujo una tarifa de electricidad más alta específicamente para centros de datos mientras reducían las tarifas para clientes residenciales, comerciales e industriales. Los centros de datos también están cada vez más expuestos a riesgos físicos, ya que las inundaciones, los incendios forestales y el calor extremo amenazan las instalaciones cuyas decisiones sobre la ubicación se tomaron antes de que se intensificaran los peligros climáticos.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
