MAINGEAR представила пакет aiDAPTIV+ для рабочих станций Pro RS и Pro WS

Компания MAINGEAR, ведущий поставщик высокопроизводительных кастомных ПК, объявила о выпуске нового пакета aiDAPTIV+, совместно разработанного с Phison Electronics, мировым лидером в области контроллеров NAND flash и решений для хранения данных, для своих рабочих станций Pro RS и Pro WS. Надстройка aiDAPTIV+ позволяет проводить тонкую настройку всех параметров и выполнение выводов больших моделей на mainstream GPU, помогая командам работать быстрее, сохраняя данные приватными и в локальной сети. Живые демонстрации рабочей станции MAINGEAR с aiDAPTIV+ будут доступны на стенде Phison во время мероприятия NVIDIA GTC в Вашингтоне.

«Локальный ИИ не должен требовать исследовательской лаборатории», — заявил Уоллес Сантос, генеральный директор MAINGEAR. «С aiDAPTIV+ на наших профессиональных рабочих станциях команды могут тонко настраивать реальные модели, сохранять данные в тайне и быстрее переходить от идеи к результату, используя оборудование, которое они действительно могут купить, обслуживать и масштабировать».

Какие возможности добавляет aiDAPTIV+:

• Обучение и тонкая настройка всех параметров локально: Быстро итерируйтесь над реальными рабочими нагрузками, сохраняя интеллектуальную собственность и конфиденциальные наборы данных внутри компании.
• Запуск более крупных моделей на mainstream GPU: aiDAPTIV+ расширяет эффективную видеопамять, открывая доступ к более крупным моделям и контекстам без экзотического оборудования.
• Предсказуемая совокупная стоимость владения и простое масштабирование: Избегайте неожиданных счетов за облако; масштабируйтесь постепенно с помощью знакомых, обслуживаемых компонентов.
• Широкая совместимость с платформами: Предлагается на рабочих станциях MAINGEAR Pro RS и Pro WS и совместимо с процессорами Intel Core, Intel Xeon, AMD Ryzen и AMD Threadripper.
• Простота развертывания: Поставляется в виде предварительно проверенного пакета MAINGEAR с возможностью последующего наращивания памяти, хранилища и мощности GPU.
• Управление пользователями: Pro Suite поддерживает нескольких пользователей через локальную интрасеть с ролевым доступом для поддержки параллельных пользователей.

Производительность и возможности ИИ
Для репрезентативных рабочих нагрузок системы поддерживают тонкую настройку всех параметров для моделей размером до 16 миллиардов параметров и масштабируются до более крупных классов моделей. Вывод остается отзывчивым для моделей класса 7B-16B локально, а модели 70B (квантизированные в AWQ4) подходят для пакетного или фонового вывода. Расширяя эффективную видеопамять с помощью высокопроизводительных накопителей, aiDAPTIV+ помогает сглаживать пиковую производительность во время многоэтапных конвейеров. Пакет разработан для сред разработки и тестирования с поддержкой множественных сессий, с достижимым уровнем параллелизма в зависимости от выбранной конфигурации GPU и точности.

«aiDAPTIV+ помогает разблокировать более крупные модели без необходимости в таком количестве GPU, как при традиционном обучении, обеспечивая доступ к обучению моделей с большим количеством параметров для более широкой аудитории», — сказал Майкл Ву, генеральный менеджер и президент Phison US. «Вместе с MAINGEAR мы предоставляем разработчикам практичный путь для обучения и развертывания на периферии, объединяя производительность, предсказуемость и контроль над данными в одном форм-факторе рабочей станции».

Увидеть на GTC-DC: Демонстрации рабочих станций MAINGEAR Pro WS с пакетом aiDAPTIV+ будут доступны на стенде Phison №667 на протяжении всего мероприятия NVIDIA GTC в Вашингтоне.

Конфигуратор рабочих станций MAINGEAR Pro WS и Pro RS уже активен, что позволяет клиентам настраивать свои системы в соответствии с их уникальными требованиями. С помощью конфигуратора пользователи могут изучить различные конфигурации и получить расценки на основе выбранных спецификаций. Клиентам с особыми требованиями к оборудованию предлагается обратиться в отдел продаж MAINGEAR за консультацией и помощью.