Tiny Corp решает выпустить версию своего ИИ-сервера TinyBox на видеокартах AMD и Nvidia

25 марта 2024, 18:47 / Технологии → Новости / Технологии

Tiny Corp, похоже, пришла к твердому решению относительно того, будет ли она следовать своему первоначальному плану использования графических процессоров AMD

Advanced Micro Devices, Inc. (AMD, дословный перевод с англ. — «передовые микроустройства») — производитель интегральной микросхемной электроники. Второй по объему производства и продаж производитель процессоров архитектуры x86 c долей рынка 16,9 %▲(2014), а также один из крупнейших производителей графических процессоров (после приобретения ATI Technologies в 2006 году), чипсетов для материнских плат и флеш-памяти. Компания с 2009 года не имеет собственного производства и размещает заказы на мощностях других компаний. Википедия

или перейдет на графические процессоры Nvidia

NVIDIA Corporation (NASDAQ: NVDA) — американская компания, один из крупнейших разработчиков графических ускорителей и процессоров, а также наборов системной логики. На рынке продукция компании известна под такими торговыми марками как GeForce, nForce, Quadro, Tesla, ION и Tegra. Компания была основана в 1993 году. По состоянию на август 2006 года в корпорации насчитывалось более 8 тысяч сотрудников, работающих в 40 офисах по всему миру. Википедия

для питания своего сервера Tiny Box. Запутанный ответ заключается в том, что будет сделано и то, и другое. Однако цена на этот компактный сервер с искусственным интеллектом, оснащенный шестью графическими процессорами, будет сильно различаться в зависимости от вашего выбора: «красный — 15 тысяч долларов, зеленый — 25 тысяч долларов».

В феврале этого года TinyBox

с большой помпой стал достоянием общественности. Tiny Corp описала это как инновацию, которая может помочь демократизировать производительность искусственного интеллекта на уровне петафлопс. В то время компания была убеждена в преимуществе AMD, объясняя это тем, что графические процессоры Radeon

Radeon /ˈreɪdiːɒn/ — торговая марка графических процессоров и оперативной памяти, производимых компанией Advanced Micro Devices. Торговая марка была создана в 2000 году компанией ATI Technologies (в дальнейшем приобретённой компанией AMD). Графические решения этой серии пришли на смену серии Rage. Под этой маркой существует четыре большие группы устройств, которые могут быть классифицированы в первую очередь по поддерживаемой версии DirectX. Можно продолжить деление на меньшие классификационные единицы, например, по версии HyperZ, количеству пиксельных конвейеров, а также частоте работы процессора и памяти. Википедия

потребительского уровня работали с превосходными «полнофункциональными» каналами PCIe 4.0 x16 и одноранговыми соединениями, необходимыми для больших языковых моделей (в отличие от GeForce). Лучшие производительные модели, такие как AMD Radeon RX 7900 XTX, также можно было купить намного дешевле, и их было легче найти.

Благодаря своей заманчивой рекламной кампании Tiny Corp быстро заполнила свои книги заказов и на момент нашего первоначального отчета получила 583 предварительных заказа, которые надеялась выполнить в апреле этого года. Но после этого гиперпозитивного первого взгляда на TinyBox дела довольно быстро пошли под откос.

В начале марта опасения по поводу того, что оборудование AMD потребительского уровня будет работать так, как оно было задумано, в блоках ускорения искусственного интеллекта с несколькими графическими процессорами, вызвали разочарование и раздражение у Tiny Corp и ее основателя Джорджа Хотца.

Оказывается, программное обеспечение, лежащее в основе решения Tiny Box, не было готово к использованию. Команда Tiny Corp ожидала, что они смогут заставить TinyBox работать должным образом с графическими процессорами Radeon. Реальность заключалась в том, что «серьезные проблемы с драйверами» не позволяли TinyBox стать надежным решением. После периода публичных размышлений о том, следует ли отказаться от графических процессоров AMD и установить вместо них графические процессоры Nvidia или Intel

Thumbnail: Intel «И́нтел» («Intel Corp.», МФА: [ˈɪntɛl ˌkɔːpə'reɪʃən]) — производитель электронных устройств и компьютерных компонентов (включая микропроцессоры, наборы системной логики (чипсеты) и др). Штаб-квартира — в Санта-Кларе (США, штат Калифорния). Википедия

, Tiny Corp / Hotz связалась с генеральным директором AMD доктором Лизой Су в социальных сетях, и она, похоже, согласилась на переговоры, чтобы рассмотреть любые возникающие проблемы и обратиться за помощью к инженерам-программистам AMD. «Команда занимается этим», — написал тогда Су в Твиттере.

Две или три недели спустя мы сообщили, что Tiny Corp все еще испытывает трудности с тем, чтобы TinyBox на базе Radeon оправдал первоначально установленные ожидания. В нем говорилось, что «AMD TinyBox приостановлен». Судя по всему, все, что было нужно разработчикам Tiny Corp, — это доступ к прошивке AMD, но по какой-то причине, которая могла быть технической, юридической или какой-то еще, этого не произошло.

Перенесемся в сегодняшний день: компания Tiny Corp сообщает, что нашла полезный инструмент для отладки и диагностики графических процессоров AMD в пользовательском пространстве, который вселяет некоторую надежду. В свете этого открытия и его потенциала компания заявляет, что собирается продавать серверы Radeon и GeForce TinyBox.

«Если вам нравится возиться и чувствовать боль, покупайте красный (AMD). Драйвер по-прежнему приводит к сбою графического процессора и иногда зависает, но мы можем работать вместе, чтобы улучшить его», — поясняется в твите. Он также намекнул, что AMD сделала что-то, чтобы сделать TinyBox на базе Radeon более привлекательным решением. «Ожидайте анонса от AMD, это не все, о чем мы просили, но это только начало», — заявила Tiny Corp.

«Если вы хотите, чтобы «это просто работало», покупайте зеленые. Вы платите больше, но это очень надежно», — говорится в недавнем твите. Однако решение AMD стоит 15 000 долларов, а выбор Nvidia означает, что цена вырастет до 25 000 долларов. Это повышение цены на 67%.

Несмотря на всю вышеперечисленную драму, TinyBox остается продуктом, за которым стоит следить. Если читать между строк, похоже, что вариант AMD имеет шанс приблизиться к статусу «он просто работает» в ближайшие месяцы, так что, возможно, сейчас стоит отойти в сторону и понаблюдать. Тем, кто хотел приобрести TinyBox на базе Intel Arc, разработчики сегодня сказали, что прототип существует, но «его поставки не планируются».