Ускорители AI Wormhole AI от Tenstorrent на базе RISC-V доступны для предзаказа
NVIDIA Corporation (NASDAQ: NVDA) — американская компания, один из крупнейших разработчиков графических ускорителей и процессоров, а также наборов системной логики. На рынке продукция компании известна под такими торговыми марками как GeForce, nForce, Quadro, Tesla, ION и Tegra. Компания была основана в 1993 году. По состоянию на август 2006 года в корпорации насчитывалось более 8 тысяч сотрудников, работающих в 40 офисах по всему миру. Википедия
Читайте также:Xbox интегрирует Nvidia GeForce NowNvidia, Apple и другие предположительно обучали ИИ, используя 173 000 видеороликов на YouTube: отчетNVIDIA выпускает драйверы GeForce 560.70 WHQL Game ReadyДжим Келлер работает над чипами для TenstorrentПрототип Nvidia RTX 4070 10 ГБ появился на GPU-Z
AI-ускорители Wormhole n150 и n300 представляют собой карты расширения PCIe размером 3/4 на базе процессора Wormhole. У n150 один процессор Wormhole, а у N300 — пара. Карты представляют собой вторую линейку комплектов разработчика Tenstorrent, пришедшую на смену платам Grayskull, работающим на одноименном чипе. Обе червоточины пассивно охлаждаются и работают при мощности до 160 Вт и 300 Вт соответственно.
| Карта | Червоточина №150 | Червоточина н300 | Grayskull e150 (последнее поколение) |
| ASIC | Червоточина | 2x червоточина | Серый Череп |
| Тенсикс ядра | 72 | 128 | 120 |
| Часы с искусственным интеллектом | 1 ГГц | 1 ГГц | 1,2 ГГц |
| СРАМ | 108 МБ | 192 МБ | 120 МБ |
| Емкость памяти | 12 ГБ | 24 ГБ | 8 ГБ |
| Тип памяти | ГДДР6 | ГДДР6 | ЛПДДР4 |
| Пропускная способность памяти | 288 ГБ/сек. | 288 ГБ/сек. | 118,4 ГБ/сек. |
| Тфлопс (FP8) | 262 | 466 | 332 |
| Общая мощность платы | 160 Вт | 300 Вт | 200 Вт |
Процессоры Wormhole основаны на ядре Tensix, созданном Tenstorrent. Каждое ядро Tensix содержит то, что Tenstorrent называет «пятью «детскими» микропроцессорами RISC-V» с аппаратной и программной поддержкой для легкого масштабирования с другими ядрами Tensix на нескольких чипах Wormhole.
Эта встроенная масштабируемость является частью того, что, как надеется Tenstorrent, позволит ей отобрать рыночное пространство у Nvidia, которая контролирует 80% рынка ускорителей искусственного интеллекта. Процессоры Wormhole существуют с 2021 года, и по неизвестным причинам их полное внедрение происходит только сейчас.
Процессоры червоточины могут масштабироваться вверх или вниз в зависимости от потребностей конечного пользователя. В типичной рабочей станции с четырьмя картами Wormhole n300 червоточины могут работать как один процессор, что для программного обеспечения выглядит как единая массивная сеть ядер Tensix. Ускорители на одной рабочей станции также могут быть разделены между четырьмя разработчиками или одновременно запускать восемь уникальных моделей ИИ. Ключом к успеху такого масштабирования является то, что оно предположительно не требует виртуализации и все масштабирование выполняется естественным образом.
Изображение: Tenstorrent
Предпочтительный способ Tenstorrent передать Wormhole n300 в руки разработчиков — это пара готовых рабочих станций TT-LoudBox и TT-QuietBox. В состав TT-LoudBox входит четыре карты n300 (всего восемь процессоров Wormhole), а также два 8-ядерных процессора Intel Xeon 4309Y, 512 ГБ оперативной памяти, хранилище NVME емкостью 4 ТБ и двойной медный Ethernet-порт 10 GbE. Доступный как в вертикальном исполнении, так и в стойке, LoudBox стоит 12 000 долларов и доступен уже сегодня.
Для тех, кто ищет возможности жидкостного охлаждения, Tenstorrent предложит TT-QuietBox, доступный сегодня для предварительного заказа. Четыре внутренних процессора Wormhole n300 будут дополнены одним 16-ядерным процессором AMD EPYC 8124P, при этом все остальные характеристики теперь останутся прежними и будут работать с жидкостным охлаждением. Ценник вырастет до $15 000.
Генеральный директор Джим Келлер уже много лет гоняется за китом Nvidia, будучи главой Tenstorrent. «Всегда приятно получать больше наших продуктов в руки разработчиков», — поделился Келлер в пресс-релизе. «Выпуск систем разработки с нашей картой Wormhole помогает разработчикам масштабироваться и работать над многочиповым программным обеспечением искусственного интеллекта».
Профессионал отрасли сделал долгую карьеру во многих компаниях, включая Apple, где он разработал чип M1, AMD, Intel и Tesla, прежде чем стать генеральным директором Tenstorrent, стремясь конкурировать с почти монополией Nvidia в области вычислений на базе искусственного интеллекта. Компания, которая собирается выпустить Blackhole второго поколения в начале 2025 года, надеется превзойти прочно укоренившуюся Nvidia, обслуживая крайние варианты использования и дополнительные потребности, которые Nvidia не может удовлетворить.
Источник: Tomshardware.com
0 комментариев