Основатели Reface и Prisma создали Mirai для ускорения ИИ на устройствах

В то время как крупные компании вкладываются в облачные ИИ-центры, лондонский стартап Mirai, основанный Димой Швецом и Алексеем Моисеенковым, работает над улучшением работы моделей непосредственно на смартфонах и ноутбуках. Компания привлекла $10 млн (около 800 млн рублей) начального финансирования.

Швец был сооснователем приложения для замены лиц Reface, а Моисеенков — создателем нашумевшего в прошлом десятилетии приложения с нейрофильтрами Prisma. По словам Швеца, они давно задумывались об ИИ на устройствах, ещё до бума генеративного ИИ.

В рамках хайпа вокруг генеративного ИИ все говорят об облаке, серверах, общем ИИ. Но недостающий элемент — это ИИ на устройстве для потребительского железа

Mirai разрабатывает фреймворк и движок вывода (inference engine) для Apple Silicon, который, по заявлению компании, может ускорять генерацию моделей до 37%. Движок написан на Rust и не изменяет веса модели, чтобы не терять качество вывода. В будущем планируется поддержка Android.

Стартап также создаёт уровень оркестрации для смешанного режима работы: запросы, которые не могут быть обработаны на устройстве, будут перенаправляться в облако.

Управляющий партнер Uncork Capital Энди Маклохлин, участвовавший в раунде, считает, что из-за высокой стоимости облачных вычислений спрос на edge-инференс будет расти.

Учитывая стоимость облачного инференса, что-то должно измениться... Кажется, каждому создателю моделей захочется запускать часть своих рабочих нагрузок на edge, и Mirai очень хорошо позиционирована, чтобы удовлетворить этот спрос

Помимо Uncork Capital, в раунде участвовали частные инвесторы, включая сооснователя Snowflake Марчина Жуковского и бывшего технического лидера Netflix Адитью Джами.