Илон Маск обеспечивает новый центр обработки данных портативными генераторами

24 июля 2024, 14:09 / Технологии → Новости / Технологии

Суперкластер Мемфиса Илона Маска недавно был запущен в эксплуатацию, и с сотней тысяч встроенных графических процессоров H100 с жидкостным охлаждением этот центр обработки данных, несомненно, будет потреблять много энергии. Поскольку каждый графический процессор H100 потребляет не менее 700 Вт, центру обработки данных искусственного интеллекта Маска потребуется более 70 мегаватт мощности для одновременной работы всех 100 000 графических процессоров — и это без учета всех вспомогательных серверов, сетевого и охлаждающего оборудования. Удивительно, но Маск использует 14 массивных мобильных генераторов для питания огромного объекта, пока он разрабатывает соглашения об энергоснабжении с местными коммунальными предприятиями.

Дилан Патель, аналитик в области искусственного интеллекта и полупроводников, возглавляющий SemiAnalysis, первоначально размышлял на X, что Маск не мог управлять Мемфисским сверхскоплением из-за ограничений в мощности. Он сказал, что в настоящее время из сети потребляется только 7 МВт, что обеспечит питание только около 4000 графических процессоров. Управление долины Теннесси (TVA) поставит на объект 50 МВт, если xAI подпишет ожидающую сделку сделку, но она может сделать это не раньше 1 августа. Патель также отметил, что подстанция мощностью 150 МВт на площадке xAI все еще находится в стадии строительства и завершится не раньше 24кв4.

Однако, изучив спутниковые снимки, Патель вскоре опубликовал новый твит, в котором понял, как Маск сделал это — используя 14 мобильных генераторов VoltaGrid, подключенных к чему-то вроде четырех мобильных подстанций.

Изображение: @dylan522p на X / Twitter

Кажется, 14 этих щенков по 2,5 МВт за штуку, так что 35 МВт + 8 МВт, в принципе, достаточно для 1 острова 32 КБ, если вы немного ограничиваете мощность. При онлайн-мощности 50 МВт должно быть достаточно для 2 островов. Вопрос в том, как добраться до 100 КБ, либо Подстанция должна опережать график или даже больше pic.twitter.com/qiF31pbtkd 23 июля 2024 г.

Каждый из этих генераторов размером с полуприцеп может обеспечить мощность 2,5 МВт, а это означает, что у Маска на объекте имеется невероятная мощность в 35 МВт. Если объединить это с 8 МВт мощности, которую Мемфисский сверхкластер получает из сети, вы получите в общей сложности 43 МВт — достаточно для работы 32 000 графических процессоров H100 при ограниченной мощности.

Если администрация долины Теннесси предоставит Маску мощность в 50 МВт, которая нужна Маску, в начале августа, у него будет достаточно мощности для одновременной работы 64 000 графических процессоров. Патель говорит, что вам нужно всего 155 МВт для работы 100 000 графических процессоров, но для этого xAI необходимо, чтобы подстанция работала. Таким образом, либо подстанция выйдет с опережением графика, либо Маск развернет больше мобильных генераторов, чтобы получить необходимую ему электроэнергию.

Центрам обработки данных искусственного интеллекта нужна тонна электроэнергии
Огромное энергопотребление и его влияние на глобальное потепление — основные проблемы, с которыми сейчас сталкиваются центры обработки данных искусственного интеллекта. Все графические процессоры центров обработки данных, проданные только в 2023 году, потребляют больше энергии, чем 1,3 миллиона средних американских домохозяйств вместе взятых, что приводит к тому, что электросеть исчерпает свои возможности. И мы не можем просто построить больше электростанций для удовлетворения потребностей центров обработки данных — мы также должны рассмотреть возможность дополнительной инфраструктуры, такой как линии электропередачи высокого напряжения, подстанции и т. д., чтобы передавать электроэнергию от станции к серверам.

Помимо времени и затрат, необходимых для строительства электростанций для вычислений с использованием ИИ, нам также необходимо учитывать выбросы парниковых газов. Хотя мобильные генераторы, которые Маск развернул в своем сверхскоплении в Мемфисе, используют в качестве топлива природный газ (более чистый, чем уголь или нефть), они все равно выбрасывают углерод в атмосферу во время работы.

Недавно компания Google сообщила, что ее выбросы углекислого газа выросли на 48% по сравнению с 2019 годом из-за потребностей центров обработки данных в энергии. Таким образом, мы можем ожидать, что xAI последует этому примеру, если Маск не перейдет на более чистую форму производства энергии.

Маск добивается того, чтобы xAI был в авангарде разработки ИИ, используя для этого все доступные средства. Однако мы надеемся, что использование мобильных генераторов — временное решение. Сверхскоплению Мемфиса необходимо перейти на более чистый источник энергии, который может обеспечить TVA. Поскольку последний использует сочетание атомных, гидроэлектрических и ископаемых топливных электростанций, углеродный след xAI, вероятно, был бы меньше, если бы он получал энергию от него, а не полагался на мобильные генераторы, использующие только природный газ.

Источник: Tomshardware.com