Perplexity делает ставку на процессоры NVIDIA Vera: развитие ИИ станет еще быстрее

Процессоры NVIDIA Vera пользуются растущим интересом на рынке, а их конструкция, оптимизированная для однопоточных задач и процессов вывода, делает их идеальным выбором для таких компаний, как Perplexity.

Новейший чип — это очень амбициозный проект, который, по прогнозам, должен принести 20 миллиардов долларов (около 1,6 триллиона рублей) дохода и сделать NVIDIA ведущим поставщиком процессоров. Оборудование уже запущено в массовое производство и используется такими технологическими гигантами, как OpenAI, xAI, Oracle и Anthropic.

Повышенный спрос на современные CPU обусловлен нагрузками, связанными с так называемым агентивным искусственным интеллектом, который в гораздо большей степени, чем традиционные задачи, опирается на центральные процессоры, а не только на графические. Компании из сферы ИИ все чаще сосредотачиваются на увеличении возможностей вывода своих чипов, создавая также собственные нестандартные решения.

К числу сторонников нового оборудования только что присоединилась компания Perplexity. Как рассказал Нейт Капп, вице-президент компании, в интервью агентству Reuters, процессоры NVIDIA Vera оказались в их тестах в 1,5 раза быстрее традиционных чипов в задачах, связанных с программированием через ИИ-агентов. Капп охарактеризовал этот чип как идеально подходящий для большинства ключевых нагрузок в инфраструктуре компании. Хотя точное количество заказанных единиц и стоимость контракта пока не раскрыты, широкое внедрение чипа Vera среди лидеров рынка ИИ явно подтверждает его значительный успех.

В своих последних сообщениях NVIDIA продвигает свой продукт как единственный в мире масштабируемый процессор CPU, нацеленный на максимальную однопоточную производительность. Философия основана на трех ключевых принципах: это мощная вычислительная способность одного ядра под нагрузкой, соответствующая пропускная способность памяти, предотвращающая перебои в подаче данных к активным ядрам, и полностью предсказуемые задержки. Нагрузки, генерируемые ИИ-агентами, работают по специфическому циклу: процессор выполняет задачу, результаты возвращаются, после чего модель решает, каким будет следующий шаг, и весь цикл повторяется многократно.

Стандартные процессоры не оптимизированы для такой схемы работы. Добавление дополнительных ядер не сокращает время, необходимое для выполнения отдельных шагов внутри цикла агента, и даже может снизить производительность из-за конкуренции за системные ресурсы. По этой причине инженеры отказались от реализации чрезмерного количества ядер, сосредоточившись на экстремальной оптимизации тех, что установлены на борту. В мире, где для классических систем счет идет на секунды, ИИ-агенты работают в наносекундах.

Процессор Vera, основанный на 88 фирменных ядрах Olympus, предлагает на 50% большее количество инструкций, выполняемых за один такт, по сравнению со старшим поколением Grace. Чип соединен со сверхбыстрой памятью LPDDR5X с пропускной способностью 1,2 ТБ/с при чрезвычайно низком энергопотреблении. Монолитная конструкция вычислительной матрицы гарантирует непрерывный поток данных к активным ядрам благодаря внутренней пропускной способности на уровне 3,4 ТБ/с, что в три раза выше, чем у любого другого серверного процессора, доступного на рынке.

Это позволяет всем ядрам полностью использовать производительность памяти без создания узких мест. NVIDIA сообщает, что в параллельных тестовых средах прирост производительности процессора составляет целых 90 процентов по сравнению с классическими конструкциями x86. Внешние партнеры, в свою очередь, сообщают о трехкратном ускорении работы при масштабном анализе SQL в инструменте Starburst и шестикратном уменьшении задержек при стриминге в реальном времени с помощью платформы Redpanda. На волне этого успеха NVIDIA уже анонсирует своего следующего серверного гиганта под кодовым названием Rosa, который должен использовать новую архитектуру ядер Rigel и еще более смело бросить вызов рыночным конкурентам из лагеря x86.

Цены сконвертированы автоматически, реальные цены могут отличаться.