Runware представила портативный модульный дата-центр Sonic Inference Pod

Во вторник компания Runware, занимающаяся ИИ-инфраструктурой, объявила о запуске собственного модульного дата-центра под названием Sonic Inference Pod. Разработанный как единый транспортируемый блок, Pod представляет собой более гибкий вид вычислений, который может работать наряду с масштабными проектами дата-центров гиперскейлеров.

В Runware заявляют, что Pod может обеспечить инференс более высокого качества при более низкой стоимости, чем другие бессерверные платформы инференса и GPU-облака. Модульная конструкция означает, что легко быстро наращивать мощность, создавая новые поды, вместо того чтобы расширять стационарный дата-центр. В некотором смысле это будущее, рассказал TechCrunch соучредитель и генеральный директор Runware Флавиу Радулеску.

«Мы верим, что распределенные вычисления, расположенные ближе к конечным пользователям для более быстрого инференса, победят в долгосрочной перспективе», — сказал он, приведя свою компанию в качестве примера.

Помимо более низкой цены, Радулеску отметил, что система Runware может быстро масштабироваться и наращивать мощность, разворачиваться в любом месте, где есть электроэнергия, и быстро адаптироваться к новым аппаратным релизам. Поды Runware также не используют воду, а вместо этого применяют систему охлаждения с замкнутым контуром, которую можно построить за считанные дни, по сравнению с месяцами или даже годами, которые требуются для строительства традиционных дата-центров.

«Спрос на инференс растет быстрее, чем строятся объекты, — сказал Радулеску. — Мы хотим питать интеллект мира, быть основой, на которой работают все ИИ-модели, с мощностью, которая поспевает за спросом, а не ограничивает его».

По словам Радулеску, в настоящее время Runware развертывает 10 подов в США, Европе и Азиатско-Тихоокеанском регионе. Компания уже предоставляет инференс нескольким компаниям, включая Higgsfield AI и Wix, и в настоящее время имеет 160 площадок для питания своих подов. В декабре Runware объявила о привлечении 50 миллионов долларов (около 4 миллиардов рублей) в рамках раунда серии A для предоставления инфраструктуры, необходимой компаниям для генерации изображений. Расширение за счет подов они рассматривают как часть основной миссии компании: предоставление инференса компаниям, а не отдельный продукт.

Источник изображения: Runware

ИИ-лаборатории, такие как OpenAI и SpaceX, по-прежнему соревнуются в строительстве дата-центров по всей территории США. Например, OpenAI близка к заключению сделки на 500 миллиардов долларов (около 40 триллионов рублей), которая предусматривает строительство дата-центра в Огайо, согласно сообщениям. Но Радулеску не считает эти проекты угрозой для Sonic Inference Pods, описывая гибкость подов как ключевое отличие.

«Каждый под работает как часть единой сети, поэтому запросы направляются туда, где есть мощность, ближе к пользователям, и если один под выходит из строя, трафик перемещается на другой», — сказал он, добавив, что сбой системы означает отключение одного пода, а не всего стационарного объекта. «Клиенты, которым нужно выделенное оборудование, получают целые поды в свое распоряжение».

Он также не слишком обеспокоен тем, что другие компании строят подобное для себя, просто заявив, что оборудование устаревает медленно, а найти талантливых специалистов для сборки и ремонта этой технологии сложно.

«Ошибка в проектировании печатной платы стоит месяцев между редизайном, моделированием, производством, тестированием и поставкой, — сказал он. — Каждое из этих решений требует человека, который точно понимает, что делает каждый компонент и что сломается, если его не будет».

Однако строительство ИИ-дата-центров является спорной темой, особенно из-за того, сколько ресурсов оно потребляет. Сообщества, где расположены дата-центры, уже сообщают о росте коммунальных платежей. Когда-нибудь Runware видит мир, в котором сможет работать на возобновляемой энергии и не использовать ресурсы, необходимые сообществам, но этот день наступит не сегодня.

Радулеску сказал, что потребление энергии ИИ в любом случае будет расти, «обусловленное спросом на инференс, а не тем, кто его обеспечивает». Сейчас Runware сосредоточена на том, как удовлетворить этот спрос, сказал он. «Никаких потерь при передаче, никакой воды для охлаждения, и мы используем уже существующую энергию, вместо того чтобы требовать строительства новой сетевой мощности. Больше инференса, построенного таким образом, означает меньше новых сетей, меньше воды при том же объеме вычислений».