Обсуждения инфраструктуры искусственного интеллекта часто фокусируются на графических процессорах, архитектурах моделей, затратах на логические выводы и облачных платформах. Но за каждой крупной рабочей нагрузкой ИИ стоит еще одна зависимость: электричество. Гипермасштабным центрам обработки данных нужна мощность для вычислений, сетей...
Обсуждения инфраструктуры искусственного интеллекта часто фокусируются на графических процессорах, архитектурах моделей, затратах на логические выводы и облачных платформах. Но за каждой крупной рабочей нагрузкой ИИ стоит еще одна зависимость: электричество.
Гипермасштабным центрам обработки данных необходима мощность для вычислений, работы в сети, хранения и охлаждения. По мере роста внедрения ИИ некоторые регионы обнаруживают, что существующая инфраструктура электроснабжения не может достаточно быстро разместить новые мощности.
Это превращает доступность электроэнергии – и вопрос о том, кто платит за модернизацию сети – в серьезную проблему для технологической отрасли.
Инфраструктура запроса ИИ
Рассмотрим, что происходит, когда приложение ИИ получает запрос.
Приложение может отправлять данные во внутреннюю службу, которая направляет рабочую нагрузку на сервер вывода, работающий на специализированном оборудовании. Этот сервер потребляет электроэнергию, в то время как более широкий объект должен обеспечивать охлаждение, работу в сети, резервное питание и мониторинг.
В масштабе тысячи серверов работают вместе. Даже относительно эффективные отдельные компоненты могут создать существенный спрос на оборудование в масштабах всего предприятия.
Вот почему планирование инфраструктуры ИИ предполагает нечто большее, чем просто выбор поставщика облачных услуг или приобретение ускорителей. Мощность и охлаждение