Tachyum показала DRAM для ИИ на Prodigy FPGA

27 марта 2025, 19:42 / Технологии → Новости / Технологии

Компания Tachyum сегодня объявила об успешной реализации корректной системы DRAM

DRAM (англ. dynamic random access memory — динамическая память с произвольным доступом) — тип компьютерной памяти, отличающийся использованием полупроводниковых материалов, энергозависимостью и возможностью доступа к данным, хранящимся в произвольных ячейках памяти (см. запоминающее устройство с произвольным доступом). Модули памяти с памятью такого типа широко используются в компьютерах в качестве оперативных запоминающих устройств (ОЗУ), также используются в качестве устройств постоянного хранения информации в системах, требовательных к задержкам. Википедия

Failover на своем универсальном процессоре Prodigy, продемонстрировав повышенную надежность для еще более масштабных приложений искусственного интеллекта и высокопроизводительных вычислений даже в случае сбоев микросхем DRAM.

DRAM Failover от Tachyum — это усовершенствованная технология исправления ошибок памяти, которая повышает надежность DRAM и обеспечивает более высокий уровень защиты, чем традиционный код исправления ошибок (ECC). DRAM Failover может исправлять многобитовые ошибки в пределах одной микросхемы памяти или в пределах нескольких микросхем памяти, обеспечивая непрерывную работу памяти в случае сбоев на уровне устройства в памяти. Благодаря DRAM Failover даже отказ всей микросхемы DRAM может быть допущен без ущерба для системы и приложений.

Поскольку они помогают сохранять данные клиентов и поддерживать доступность системы, правильные системы, такие как DRAM Failover, стали популярными среди систем HPC и высокопроизводительных серверов с большой емкостью памяти. В случае кластеров ИИ

Thumbnail: Искусственный интеллект Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

, достигающих 100 000 ускорителей, время между сбоями составляет часы — масштабирование до еще больших кластеров ИИ представляет собой серьезную проблему надежности.

Один процессор Prodigy с 640 или 1280 чипами DRAM, подключенными к нему, будет означать 64 000 000 чипов DRAM, что является значительным масштабом. При правильном DRAM Failover неисправный кристалл DRAM на DIMM не повлияет на работу системы и не приведет к сбою Prodigy, в отличие от ускорителей GPU.

Проверка отказоустойчивости DRAM от Tachyum отвечает интересу рынка к крупномасштабному ИИ, включая когнитивный ИИ и искусственный интеллект общего назначения (AGI), и свидетельствует о приверженности компании надежным функциям надежности, доступности и удобства обслуживания (RAS).

«Эта возможность имеет важное значение для увеличения масштаба обучения ИИ по мере перехода от больших языковых моделей и генеративного ИИ к гораздо более крупным системам, необходимым для когнитивного ИИ и AGI», — сказал д-р Радослав Данилак, основатель и генеральный директор Tachyum. «Важность использования DRAM Failover на платформе Tachyum станет еще более очевидной, поскольку мы увеличиваем объем памяти на процессор Prodigy с каждым поколением».

Например, новатор в области искусственного интеллекта DeepSeek позволяет масштабировать LLM с открытым исходным кодом с помощью емкости DRAM, а не полосы пропускания, что делает DeepSeek убедительным вариантом использования для Prodigy. Эффективность DeepSeek делает его технологию более похожей на то, как работает человеческий мозг: только часть нейронов активизируется в ответ на стимулы. Поскольку эта парадигма все больше принимается отраслью и улучшается с течением времени, преимущества все большей емкости DRAM — без проблем с надежностью — еще больше установят преимущества Prodigy.

Ниже представлено видео, демонстрирующее отказоустойчивость DRAM на прототипе Prodigy FPGA.

Как универсальный процессор, предлагающий ведущую в отрасли производительность для всех рабочих нагрузок, серверы центров обработки данных на базе Prodigy могут плавно и динамично переключаться между вычислительными доменами (такими как AI/ML, HPC и облако) с единой однородной архитектурой. Устраняя необходимость в дорогостоящем выделенном оборудовании AI и значительно увеличивая использование сервера, Prodigy значительно сокращает CAPEX и OPEX, обеспечивая при этом беспрецедентную производительность, мощность и экономичность центра обработки данных. Prodigy объединяет 256 высокопроизводительных специально разработанных 64-разрядных вычислительных ядер, чтобы обеспечить до 18 раз более высокую производительность GPU для приложений AI, в 3 раза более высокую производительность самых производительных процессоров x86 для облачных рабочих нагрузок и до 8 раз более высокую производительность GPU для HPC.

Источник: Tachyum