Нестабильное энергопотребление ИИ повреждает его собственные центры обработки данных

Резкие колебания энергопотребления в дата-центрах для искусственного интеллекта создают повышенную нагрузку на критически важное оборудование: аккумуляторы, генераторы и системы охлаждения выходят из строя или изнашиваются значительно быстрее, чем ожидалось. Перевод материала Bloomberg на русский язык.

По мере ускорения бума ИИ эти технические проблемы грозят дополнительными расходами и непредвиденными сбоями в работе инфраструктуры. Даже несколько минут простоя могут лишить операторов дата-центров значительной части выручки.

Это происходит в тот момент, когда инвесторы и кредиторы и без того обеспокоены сотнями миллиардов долларов, которые бигтех вкладывает в ИИ-инфраструктуру, а также растущими опасениями, что такие объекты могут обесцениваться значительно быстрее, чем предполагалось.

Кроме того, проблема способна повысить нестабильность энергосетей, которые и без того испытывают всё большую нагрузку.

«ИИ создаёт очень необычный характер спроса на электроэнергию, — говорит Эмбер Вильегас-Уильямсон, главный консультант британского Uptime Institute, который консультирует энергокомпании и операторов дата-центров по вопросам стандартов и надёжности. — Это как постоянно раскручивать двигатель автомобиля до предельных оборотов: он изнашивается быстрее, чем при движении с постоянной скоростью».

Дата-центры существуют уже десятилетиями и потребляют огромное количество электроэнергии, обеспечивая работу всего — от стриминговых сервисов до онлайн-заказов продуктов.

Однако объекты, предназначенные для вычислений в сфере ИИ, отличаются гораздо более высоким энергопотреблением и значительно более резкими колебаниями нагрузки.

За считанные секунды потребление может увеличиваться или сокращаться на величину, сопоставимую с энергопотреблением завода, небольшого города или даже крупного населённого пункта. Это создаёт повторяющиеся удары по подключённому оборудованию, которое не всегда способно их выдерживать.

Дата-центр мощностью 1 ГВт потребляет примерно столько же электроэнергии, сколько город размером с Бостон, причём половина этой нагрузки может включаться и выключаться каждые несколько секунд, говорит Шеннон Миллер, основатель и президент Mainspring Energy, которая занимается микросетями для промышленности и дата-центров. Некоторые планируемые ИИ-кластеры в Техасе, на Среднем Западе и в других штатах будут более чем в пять раз крупнее и в среднем смогут потреблять почти столько же электроэнергии, сколько Нью-Йорк.

Особенно сильную нагрузку на энергоснабжение ИИ-дата-центры создают во время обучения новых моделей — процесса, при котором одновременно задействуются все графические процессоры. Подобно цифровому рою пчёл или косяку рыб, одновременно меняющему направление, сотни тысяч GPU могут включаться и снижать нагрузку за миллисекунды.

Иногда потребление ИИ-инфраструктуры подскакивает на 50% выше расчётной мощности.

«То есть объект на 1 ГВт может на долю секунды потребить 1,5 ГВт», — говорит Дрю Баглино, бывший руководитель Tesla, основавший Heron Power Electronics.

Компания разрабатывает оборудование для сглаживания колебаний энергопотребления серверов Nvidia следующего поколения, которые будут ещё более энергоёмкими и должны появиться в 2027 году.

Большинство оборудования не рассчитано на столь резкие скачки нагрузки. Генеральный директор разработчика систем хранения энергии Terraflow Energy Джон Паррелла сравнивает это с Ferrari, в которой водитель мгновенно переключается с шестой передачи на первую.

«Так быстро переключаться нельзя», — говорит он.

Этот материал основан на интервью более чем с тремя десятками экспертов в области энергетики в США и Европе — представителями генерирующих компаний и других поставщиков энергии, разработчиками дата-центров, операторами электросетей, коммунальными компаниями, инвесторами, разработчиками стандартов, страховщиками и регуляторами. Почти все они подтвердили, что физическая нагрузка на инфраструктуру уже становится заметной.

По словам нескольких собеседников Bloomberg, на небольших газовых двигателях внутреннего сгорания, используемых для генерации электроэнергии в дата-центрах, ломались коленчатые валы. На вычислительном комплексе xAI Colossus в Мемфисе, штат Теннесси, на газовых турбинах появились трещины, сообщил один из источников. Для сглаживания колебаний энергопотребления и уменьшения нагрузки на вращающиеся турбины в систему установили аккумуляторы.

SpaceX, материнская компания xAI, не ответила на запрос о комментарии.

По словам генерального директора GeoPura Эндрю Каннингема, трещины на турбинах возникали и в значительно меньших дата-центрах в Великобритании. Его компания поставляет водород для топливных элементов, которые используются на некоторых объектах для выравнивания потоков энергии.

Трещины и износ оборудования могут привести к электрической дуге — когда ток перескакивает между проводниками, — что потенциально способно повредить дорогостоящие ИИ-чипы, говорит генеральный директор UL Solutions Дженнифер Сканлон. Компания занимается тестированием и сертификацией новых технологий.

Существует целый набор технологий, позволяющих стабилизировать энергопотребление: аккумуляторы, конденсаторы, трансформаторы и маховики.

Однако, по словам нескольких участников рынка, в стремлении максимально быстро наращивать вычислительные мощности при строительстве новых ИИ-дата-центров такие решения зачастую применяются недостаточно широко.

Аккумуляторы, которые всё-таки устанавливают для этой цели, иногда приходится менять уже через несколько месяцев или даже недель из-за чрезмерной нагрузки, сообщили представители Uptime Institute и специалисты, работающие с операторами дата-центров.

По словам Вильегас-Уильямсон, проблема наблюдается по всему миру — от Ближнего Востока и Африки до Европы и США.

Проблемы с надёжностью

Эти трудности уже приводят к задержкам запуска и ограничению работы некоторых ИИ-центров, а значит — к потере выручки.

При проектировании ИИ-комплекса мощностью 2,67 ГВт в Западном Техасе инженеры заранее заложили дополнительное время на проработку энергетической системы, говорит генеральный директор Joulent Крис Джеймс. Компания развивает проект совместно с энергетическим гигантом Chevron. В результате поставки электроэнергии начнутся в 2028 году, а не в 2027-м, как планировалось первоначально.

«Дата-центры и их энергоснабжение нельзя строить независимо друг от друга, — позднее заявил Джеймс. — Нагрузка, генерация, накопители, системы управления и подключение к сети взаимосвязаны. По мере масштабирования ИИ-инфраструктуры успешнее будут те проекты, которые учитывают эти взаимосвязи заранее, а не пытаются решать проблемы после завершения строительства».

Если критически важное оборудование преждевременно выходит из строя, основная финансовая потеря заключается не в стоимости замены насоса, автоматического выключателя или другого компонента системы электроснабжения.

«Главное — стоимость той чрезвычайно дорогой вычислительной мощности, которая перестаёт приносить выручку во время простоя», — говорит директор по стратегии оператора и застройщика дата-центров Switch Джейсон Хоффман.

Стоимость простоя сильно различается в зависимости от типа дата-центра и выполняемой им работы. Оценки варьируются от нескольких тысяч до сотен тысяч долларов за минуту.

Дата-центры проектируются исходя из предположения, что после запуска они будут работать круглосуточно 365 дней в году, рассказал человек, занимающийся финансированием таких проектов. На практике некоторые объекты демонстрируют коэффициент доступности ближе к 80%. Если проблему не решить, в течение следующих 12–24 месяцев это может ударить по инвесторам отдельных проектов.

Любые проблемы с надёжностью усиливают и без того существующие сомнения относительно окупаемости сотен миллиардов долларов, которые планируется вложить в ИИ. Скорость обесценивания ещё одного важнейшего компонента дата-центров — самих стоек с GPU — уже вызывает вопросы о том, сможет ли отрасль быть настолько прибыльной, как обещает.

Проблемы с надёжностью также способны дестабилизировать энергосистему в целом. Эта огромная сеть высоковольтных линий, трансформаторов и электростанций требует постоянной балансировки, которая с каждым годом становится сложнее из-за старения оборудования, роста спроса и экстремальных погодных условий.

Расширение ветровой и солнечной генерации, производство которой носит переменный характер и может сильно меняться от часа к часу, уже является фактором нестабильности. ИИ-дата-центры способны многократно усилить эту волатильность.

«Эти нагрузки чрезвычайно динамичны и подвержены колебаниям, что вызывает нестабильность сети и, если проблему не корректировать, потенциально может привести к отключениям электроэнергии», — говорит Сримант Рой, эксперт по качеству электроэнергии и глобальный менеджер по продуктам Schneider Electric в Нэшвилле.

Особую обеспокоенность, по его словам, вызывает способность дата-центров создавать субсинхронные колебания потоков мощности, которые могут повредить оборудование, подключённое в других частях энергосистемы.

«Это очень сильно беспокоит энергокомпании по всему миру», — говорит Рой.

За последние два года North American Electric Reliability Corp. (NERC), главный американский орган, устанавливающий стандарты надёжности энергосистем, неоднократно предупреждал, что дата-центры становятся одним из крупнейших рисков для стабильности сети.

NERC проанализировала более 33 ГВт действующих дата-центров в США и пришла к выводу, что примерно у трёх четвертей из них модели нагрузки недостаточно точно отражают динамическое поведение дата-центров, следует из сентябрьского отчёта организации.

Ранее в этом году NERC выпустила редкое предупреждение третьего уровня, обязав крупные дата-центры принять меры по устранению непосредственных рисков и представить отчёты о своих действиях к 3 августа.

Вся ИИ-индустрия, от производителей чипов до операторов дата-центров, уже осознаёт проблему и работает над решениями.

Nvidia начала теснее взаимодействовать со специалистами в области энергетики ещё при разработке GPU Blackwell, впервые выпущенных в 2024 году и впоследствии получивших широкое распространение в дата-центрах, говорит старший директор Nvidia по инфраструктурным решениям для гиперскейлеров Дион Харрис.

«Мы создаём чипы и процессоры», — отметил Харрис, добавив, что Nvidia также использует их в собственных дата-центрах. Компания работает над тем, чтобы сделать развёртывание таких систем более плавным как на этапах строительства, проектирования и инженерной подготовки дата-центров, так и с точки зрения подачи электроэнергии.

Операторы дата-центров уже применяют методы сглаживания скачков нагрузки от ИИ. В частности, они запускают параллельные вычисления — по сути, фиктивные математические операции, не связанные непосредственно с обучением модели, — чтобы GPU продолжали работать с более постоянной нагрузкой.

Однако такой подход критикуют за расточительное потребление электроэнергии в условиях, когда спрос на неё и без того резко растёт.

В прошлом году Национальная лаборатория Скалистых гор недалеко от Денвера, штат Колорадо, по поручению Министерства энергетики США создала специальный испытательный комплекс для изучения способов безопасной интеграции ИИ-нагрузок в энергосеть, рассказала руководитель программы лаборатории в офисе электроэнергетики Минэнерго Марта Симко-Дэвис.

На площадке установлены GPU и собственные источники генерации. Разработчики могут использовать её для проверки того, способна ли их инфраструктура выдерживать изменчивый характер энергопотребления ИИ.

Один из поставщиков электроэнергии сообщил, что намерен испытывать на этом объекте аккумуляторы, программное обеспечение и другое оборудование, предназначенное для сглаживания колебаний между дата-центром и сетью, которые могут наносить ущерб обеим сторонам.

«Сейчас у нас есть возможность сделать всё правильно», — говорит Симко-Дэвис.

Источник: Bloomberg