Бывший глава ИИ Databricks обещает 1000-кратное снижение энергопотребления ИИ

Бывший руководитель направления ИИ в Databricks считает, что может в 1000 раз сократить энергопотребление ИИ.

Стремление найти следующую большую вещь в ИИ профинансировало немало амбициозных проектов, но одна компания решила использовать эту возможность, чтобы перестроить вычислительную архитектуру с нуля.

Компания Unconventional AI, которую возглавляет Навин Рао, ранее руководивший направлением ИИ в Databricks, обещает сделать обработку вывода (inference) значительно более энергоэффективной. Секретное оружие: новый тип компьютерной архитектуры на основе осцилляторов.

В четверг компания выпустила свою первую модель ИИ — Un-0 — инструмент для генерации изображений, который впервые демонстрирует, как технология компании может воспроизводить работу обычных систем ИИ. В сопроводительной научной статье исследовательская группа компании подробно описывает, как они создали полностью функциональную модель генерации изображений, используя программную симуляцию новой архитектуры — модель, которая работает не хуже современных диффузионных моделей.

«Это "hello world" нового типа компьютера, — сказал Рао TechCrunch. — В течение следующего года вы начнете видеть довольно интересные новости на эту тему».

Результаты работы новой модели Un-0 схожи с результатами таких моделей генерации изображений, как Stable Diffusion или GPT Image 1 от OpenAI. Впечатляет то, как она достигает такой производительности. Модель построена на архитектуре на основе осцилляторов, которая полностью отличается от чипов, используемых в обычных вычислениях и традиционных LLM. Преимущества вычислений на основе осцилляторов сложны, но Рао считает, что в конечном итоге это позволит снизить энергопотребление в 1000 раз.

Большая часть инфраструктуры для достижения этой цели все еще строится. Текущая версия Un-0 работает на программной симуляции осцилляторных чипов Unconventional, но компания планирует вскоре выпустить схемы для реального чипа. После этого план состоит в том, чтобы построить весь стек вывода с нуля, и в конечном итоге Unconventional AI будет предоставлять вычислительные мощности, как и любой другой провайдер.

«Мы построим новую систему, состоящую из наших чипов, — говорит Рао. — Мы будем запускать на них модели ИИ, и у нас будет сетевой кабель, через который будут поступать запросы и выдаваться результаты, но все это будет делаться при энергопотреблении в 1/1000 от обычного».

Это невероятно амбициозная цель, особенно для компании, в которой работает менее 50 человек. Но учитывая масштабы развития ИИ и предполагаемые затраты на удовлетворение растущего спроса на вывод, это может быть одной из немногих попыток, соответствующих масштабу проблемы. Как считает Рао, доступное энергоснабжение станет одним из жестких ограничений для ИИ в ближайшие годы — и Unconventional — один из немногих проектов, способных решить эту проблему.

«Масштабирование ИИ затруднено из-за энергии. В ближайшие несколько лет это станет фундаментальным ограничением. Вы просто не сможете его преодолеть. В конечном счете, это будет проблема, ограниченная энергией», — говорит он.