Почему рабочие нагрузки ИИ меняют спрос на периферийные центры обработки данных: обзор отраслевых тенденций

Рабочие нагрузки в области искусственного интеллекта больше не ограничиваются огромными гипермасштабными комплексами. По мере развития технологий инференса и аналитики в реальном времени всё больше вычислительных операций перемещается ближе к пользователям и устройствам. Этот сдвиг меняет облик периферийный центр обработки данных спрос, и это имеет значение, если вы планируете мощности, энергоснабжение или системы охлаждения на ближайшие несколько лет.

Тенденция: перенос вычислений ИИ на периферию

Обучение крупных моделей по-прежнему происходит в централизованных центрах обработки данных, но для инференса — то есть запуска обученной модели — зачастую требуется низкая задержка. В качестве примеров можно привести автономные транспортные средства, дополненную реальность или профилактическое техническое обслуживание на заводе. Передача каждого запроса в облачный регион, расположенный за сотни миль, приводит к задержке, которую некоторые приложения просто не могут допустить.

Поэтому операторы развертывают небольшие центры обработки данных в густонаселённых районах, рядом с промышленными парками или даже на башенных станциях сотовой связи. Эти периферийные объекты выполняют вычисления искусственного интеллекта локально, сокращая время прохождения сигнала в обе стороны с десятков миллисекунд до однозначных значений. Результат: растущая потребность в компактной инфраструктуре высокой плотности, способной поддерживать серверы с графическими процессорами и другие ускорители искусственного интеллекта.

Что это означает для спроса на периферийные центры обработки данных

Спрос заключается не просто в увеличении количества периферийных центров обработки данных. Речь идет о совершенно ином типе таких центров. Традиционные периферийные шкафы могут вмещать несколько серверов с низким энергопотреблением. Стойки для вычислений искусственного интеллекта могут потреблять 20 кВт, 40 кВт или более на каждую стойку, в зависимости от ускорителей. Это кардинальное изменение плотности мощности, которое заставляет переосмыслить системы распределения электроэнергии и охлаждения.

Рассмотрим типичную периферийную конфигурацию: ИТ-нагрузка 100 кВт в установке из 10 стоек. При мощности 20 кВт на стойку потребуется система распределения электроэнергии на 208 В или 400 В, возможно, трехфазная. Система охлаждения должна справляться с тепловой плотностью — воздушное охлаждение может работать при нагрузке до примерно 15 кВт на стойку, но при более высоких значениях становится привлекательным вариант жидкостного охлаждения. Даже при более низких плотностях требуется прецизионное охлаждение для поддержания температуры на входе в пределах 18–27 °C, как рекомендует ASHRAE.

Питание и охлаждение: реальные ограничения

Проблема обеспечения электропитанием часто становится «узким местом». Многие периферийные объекты не были рассчитаны на электрическую нагрузку, требуемую для работы ИИ. Для периферийного объекта мощностью 100 кВт может потребоваться ИБП мощностью 200 кВА, чтобы обеспечить резервирование и возможность будущего расширения. Это нетривиальная задача в условиях торговых помещений или удаленных серверных. Также необходимо учитывать питание от энергосистемы — способна ли местная сеть обеспечить необходимую силу тока без дорогостоящих модернизаций?

Не менее важную роль играет охлаждение. Серверы ИИ сильно нагреваются и работают в интенсивном режиме. Для типичной стойки с воздушным охлаждением мощностью 10 кВт может хватить блока CRAC, но при мощности 30 кВт на стойку потребуются теплообменники, встраиваемые в заднюю стенку, или жидкостное охлаждение непосредственно на уровне микросхем. Эти системы усложняют конструкцию, но могут значительно улучшить показатель PUE. Например, хорошо спроектированный периферийный центр с жидкостным охлаждением может достичь показателя PUE 1,1 или ниже, в то время как при традиционном воздушном охлаждении этот показатель составляет 1,3–1,5.

Это не просто экологический показатель — это эксплуатационные расходы. Если стоимость электроэнергии составляет $0,10 за кВт·ч, то ИТ-нагрузка мощностью 100 кВт, работающая круглосуточно, обходится примерно в $87 600 в год только на электроэнергию для ИТ-оборудования. При показателе PUE, равном 1,3, к этой сумме добавляется ещё $26 000 на охлаждение и накладные расходы. За пятилетний срок эксплуатации это составляет более $130 000 дополнительных затрат на электроэнергию — достаточно, чтобы оправдать внедрение более эффективной системы охлаждения.

Проектирование периферийных площадок для рабочих нагрузок искусственного интеллекта: основные аспекты, которые следует учитывать

Если вы планируете создать периферийный центр обработки данных для рабочих нагрузок искусственного интеллекта, вот несколько моментов, которые следует учесть с самого начала.

• Правильный выбор мощности ИБП: Не ориентируйтесь только на текущую нагрузку. Нагрузка на ИИ-системы может быстро расти. Модульное ИБП, позволяющее добавлять силовые модули по мере необходимости, зачастую подходит лучше, чем устройство с фиксированной конфигурацией.

• План для зон с высокой плотностью населения: Не каждому стойку требуется 30 кВт, но такая возможность должна быть предусмотрена. Проектируйте системы электропитания и охлаждения таким образом, чтобы можно было разместить несколько стоек высокой плотности без необходимости переоборудования всего помещения.

• Подумайте о резервировании: Периферийные объекты часто работают в автоматическом режиме. Система охлаждения по принципу «N+1» и резервирование источников бесперебойного питания (ИБП) позволяют предотвратить сбои в работе, устранение которых удаленно обходится дорого.

• Контролируйте всё: Дистанционный мониторинг температуры, влажности, питания и состояния системы охлаждения имеет решающее значение. Нельзя полагаться на то, что кто-то, находящийся на месте, заметит проблему.

Роль модульных и сборных решений

Один из способов удовлетворить спрос на периферийный ИИ без многолетнего строительства — использовать сборные модули. Они поставляются в виде устанавливаемых на салазках или контейнерных блоков со встроенными системами питания, охлаждения и мониторинга. Их можно развернуть за считанные месяцы, а не годы, и их проще расширять по мере роста спроса.

Например, типовой модуль мощностью 100 кВт может включать в себя ИБП мощностью 150 кВА, систему прецизионного воздушного или жидкостного охлаждения, а также систему пожаротушения. При необходимости увеличения мощности можно добавить ещё один модуль. Такая гибкость особенно ценна в условиях непредсказуемости рабочих нагрузок, связанных с искусственным интеллектом.

Перспективы отрасли: что нас ждет в будущем?

Переход к периферийному ИИ — это не мимолетная мода. По мере повышения эффективности моделей и роста требований приложений к реагированию в режиме реального времени роль периферийных систем будет только расти. Согласно отраслевым отчетам, к 2030 году потребление электроэнергии центрами обработки данных, по прогнозам, удвоится, причем значительная доля этого потребления будет приходиться на распределенные объекты.

Однако рост не будет равномерным. В некоторых регионах будет наблюдаться более активное развертывание на периферии в связи с требованиями к задержке или законодательством о суверенитете данных. Другие регионы могут отставать из-за ограничений по энергоснабжению или сопротивления со стороны местного населения. Для покупателей это означает необходимость тщательного выбора площадки и заблаговременного взаимодействия с коммунальными службами.

Кроме того, следите за ситуацией с поставками памяти. Дефицит модулей DRAM и NAND, наблюдаемый с 2025 года по настоящее время и вызванный спросом со стороны сферы искусственного интеллекта, привёл к росту цен и увеличению сроков поставки. Это сказывается на стоимости и доступности серверов. Планируйте закупку оборудования заранее.

Как компания VERHI может помочь

Компания VERHI предлагает высокоточные системы кондиционирования, источники бесперебойного питания (ИБП) и решения для микромодульных центров обработки данных, специально разработанные для периферийных систем и внедрения искусственного интеллекта. Наши модульные конструкции позволяют начинать с небольших систем и масштабировать их по мере роста рабочих нагрузок искусственного интеллекта. Мы работаем с вами, чтобы подобрать мощность и систему охлаждения в соответствии с вашими фактическими потребностями в плотности размещения оборудования — будь то 10 кВт на стойку или 50 кВт.

Технические характеристики и наличие товара могут измениться, поэтому перед размещением заказа всегда уточняйте актуальную информацию у компании VERHI или из официального источника. Но если вы планируете развернуть периферийный узел для искусственного интеллекта, стоит обсудить этот вопрос.