SambaNova запускает самую быструю платформу искусственного интеллекта на базе своего чипа SN40L
Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ.
Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами.
Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия
Читайте также:Rambus представляет первый в отрасли контроллер IP HBM4Разработчик Питер Молинье: «ИИ изменит правила игры»Nvidia: «Мы не получали повестку от Минюста США»Министерство юстиции США вызвало Nvidia в рамках антимонопольного расследования в сфере ИИMicrosoft добавит в Windows 11 функцию сканирования ИИ аудио- и видеофайлов
Генеральный директор (англ. Director-general или General director, нем. Generaldirektor) — директор, высшая административная должность, широко используемая во многих странах мира, но, иногда, в различных значениях. Согласно определениям российских терминологических словарей (напр. Википедия
Ме́та — многозначный термин. Википедия
Читайте также:Релиз версии Hitman 3 VR Reloaded для шлемов виртуальной реальности состоится 5 сентябряОбъявлено окно релиза Batman: Arkham Shadow для VR: игра выйдет в октябреВышел трейлер Hitman 3 VR Reloaded для Quest 3Разработку VR-версии GTA: San Andreas приостановили на неопределённое времяРазработку Grand Theft Auto: San Andreas VR ещё не завершили
OpenAI — американская научно-исследовательская организация, занимающаяся разработками в области искусственного интеллекта. В состав OpenAI входят зарегистрированная в штате Делавэр некоммерческая организация OpenAI, Inc и её дочерняя коммерческая компания OpenAI Global, LLC. OpenAI ставит перед собой цель разработать «безопасный и полезный» сильный искусственный интеллект, который организация определяет как «высокоавтономные системы, превосходящие человека в выполнении наиболее экономически ценной работы». На пути к этой цели организация создала несколько больших языковых моделей, в том числе GPT-4 и ChatGPT, а также моделей для генерации изображений, как DALL-E; в прошлом она публиковала модели с открытым исходным кодом.
Некоммерческая организация OpenAI была основана в декабре 2015 года; её сопредседателями стали Сэм Олтмен и Илон Маск. Википедия
Читайте также:Создатель YouTube судится с Nvidia и OpenAI за использование видео в обучении ИИOpenAI создала метод текстовых водяных знаков для обнаружения контента, написанного ChatGPTOpenAI обсуждает с Broadcom создание чипов для ИИMicrosoft Azure China предлагает китайскому бизнесу лазейку для ухода OpenAIВзлом OpenAI: угроза национальной безопасности
Модель с наивысшей точностью воспроизведения — SambaNova работает на частоте 405B при 132 T/S
«Конкуренты сегодня не предлагают разработчикам модель 405B из-за своих неэффективных чипов. Поставщики, работающие на графических процессорах NVIDIA, снижают точность этой модели, нанося вред ее точности и запуская ее на недопустимо низких скоростях», — продолжил Лян. «Только SambaNova запускает 405B — лучшую из созданных моделей с открытым исходным кодом — с полной точностью и скоростью 132 токена в секунду».
Сто́имость — экономический термин, имеющий несколько разных значений: в экономической теории величину соотношений (пропорцию) при добровольном обмене товарами называют «меновой стоимостью», но природу и суть стоимости разные экономические школы видят по-своему; в бухгалтерском учёте и статистике — выраженная в деньгах величина затрат на приобретение или изготовление объекта, ранее стоимость в бухгалтерском учёте также могла пониматься как «результат умножения (таксировки) количества товаров на цену одной товарной единицы»; в повседневной речи — цена товара («Сколько сто́ят спички?»), затраты на приобретение («Мне это стоило 1 000 рублей.»), близка к терминам затраты, себестоимость. Википедия
Читайте также:Арестованы экс-руководители Samsung за краденые технологии памяти для завода в КитаеПроизводитель чипов из Китая обещает высокую производительность 7-нм процессораНовые ноутбуки Swift от Acer оснащены чипами Intel, AMD и QualcommКитайская компания Unisoc выпускает «первый в мире» чип безопасности с открытой архитектурой RISC-VПациент Neuralink И. Маска победил ботов в Counter-Strike силой мысли
«Рабочие процессы агентов обеспечивают превосходные результаты для многих приложений. Поскольку для получения конечного результата им необходимо обрабатывать большое количество токенов, быстрая генерация токенов имеет решающее значение. Лучшей открытой моделью весов на сегодняшний день является Llama 3.1 405B, а SambaNova — единственный поставщик, который запускает эту модель с точностью 16 бит и скоростью более 100 токенов в секунду. Это впечатляющее техническое достижение открывает захватывающие возможности для разработчиков, использующих LLM», — заявил доктор Эндрю Нг, основатель DeepLearning.AI, управляющий генеральный партнер AI Fund и внештатный профессор кафедры компьютерных наук Стэнфордского университета.
Независимые тесты оценивают SambaNova Cloud как самую быструю платформу вывода искусственного интеллекта
«Artificial Analysis провела независимый сравнительный анализ SambaNova, зафиксировав рекордную скорость в 132 выходных токена в секунду на своей конечной точке облачного API Llama 3.1 405B. Это самая высокая выходная скорость, доступная для этого уровня интеллекта среди всех конечных точек, отслеживаемых Artificial Analysis, превышающая скорость передовых моделей, предлагаемых OpenAI, Anthropic и Google. Конечные точки Llama 3.1 от SambaNova будут поддерживать зависящие от скорости варианты использования ИИ, в том числе для приложений, требующих ответов в реальном времени или использующих агентные подходы к использованию языковых моделей», — сказал Джордж Кэмерон, соучредитель Artificial Analysis.
Первая платформа для агентного ИИ - SambaNova запускает Llama 3.1 70B на 461 T/S
Llama 3.1 70B считается моделью с наивысшей точностью для вариантов использования агентного ИИ, требующих высокой скорости и низкой задержки. Ее размер делает ее пригодной для тонкой настройки, производя экспертные модели, которые можно объединять в многоагентные системы, подходящие для решения сложных задач.
SambaNova Cloud позволяет разработчикам запускать модели Llama 3.1 70B со скоростью 461 транзакция/с и создавать агентские приложения, работающие с непревзойденной скоростью.
«Как ведущий сторонник интерактивных SaaS-решений для повышения эффективности продаж на базе ИИ, Bigtincan рада сотрудничать с SambaNova. Благодаря впечатляющей производительности SambaNova мы можем достичь повышения эффективности Bigtincan SearchAI до 300%, что позволит нам запускать самые мощные модели с открытым исходным кодом, такие как Llama во всех ее конфигурациях, и агентские рабочие процессы ИИ с непревзойденной скоростью и эффективностью», — сказал Дэвид Кин, генеральный директор Bigtincan Solutions, SaaS-компании, котирующейся на ASX.
«Как ведущая платформа для создания автономных агентов кодирования, Blackbox AI рада сотрудничать с SambaNova. Интегрируя SambaNova Cloud, мы выводим нашу платформу на новый уровень, позволяя миллионам разработчиков, использующих Blackbox AI сегодня, создавать продукты с беспрецедентной скоростью, что еще больше укрепляет наши позиции как платформы, к которой обращаются разработчики по всему миру», — заявил Роберт Ризк, генеральный директор Blackbox AI.
«Поскольку ИИ переходит от впечатляющих демонстраций к реальным бизнес-потребностям, стоимость и производительность выходят на первый план», — сказал Алекс Ратнер, генеральный директор и соучредитель Snorkel AI. «SambaNova Cloud упростит и ускорит разработку для разработчиков с помощью впечатляющей модели 405B от Llama. Доступный и высокоскоростной вывод SambaNova в сочетании с программной разработкой ИИ, ориентированной на данные, от Snorkel — это фантастическая модель для создания успеха ИИ».
Быстрый API SambaNova быстро внедряется с момента запуска в начале июля. С помощью SambaNova Cloud разработчики могут добавлять собственные контрольные точки, быстро переключаться между моделями Llama, автоматизировать рабочие процессы с помощью цепочки подсказок ИИ и использовать существующие точно настроенные модели с высокой скоростью вывода. Он быстро станет решением для вывода, которое подойдет разработчикам, которым требуется мощность 405B, полная гибкость и скорость.
Сегодня SambaNova Cloud доступен на трех уровнях: Free, Developer и Enterprise.
- Бесплатный уровень (доступен сегодня): предлагает бесплатный доступ к API всем, кто входит в систему
- Уровень разработчика (будет доступен к концу 2024 г.): позволяет разработчикам создавать модели с более высокими лимитами скорости с моделями Llama 3.1 8B, 70B и 405B
- Уровень Enterprise (доступен сегодня): предоставляет корпоративным клиентам возможность масштабирования с более высокими ограничениями скорости для поддержки производственных рабочих нагрузок.
Впечатляющая производительность SambaNova Cloud стала возможной благодаря чипу SambaNova SN40L AI. Благодаря уникальной запатентованной конструкции потока данных и трехуровневой архитектуре памяти SN40L может быстрее и эффективнее управлять моделями AI.
Источник: SambaNova
0 комментариев