Энтузиаст оснастил NAS-накопитель мощным графическим процессором для ChatGPT

Новостное издание StorageReview запускает чат-бота с искусственным интеллектом на NAS на базе видеокарты Nvidia RTX A4000, размещая возможности ChatGPT

Thumbnail: ChatGPTChatGPT — чат-бот с искусственным интеллектом, разработанный компанией OpenAI и способный работать в диалоговом режиме, поддерживающий запросы на естественных языках. ChatGPT — большая языковая модель, для тренировки которой использовались методы обучения с учителем и обучения с подкреплением. Данный чат-бот основывается на другой языковой модели от OpenAI — GPT-3.5 — улучшенной версии модели GPT-3. 14 марта 2023 года была выпущена языковая модель GPT-4, доступная тестировщикам и платным подписчикам ChatGPT Plus. Википедия

Читайте также:ChatGPT играет в Red Dead Redemption II — система машинного зрения перегруженаРазработчик внедрил GPT-2 в Excel, чтобы показать как «думает» искусственный интеллектGPT-4V плохо играет в Doom... пока«Забудьте о ChatGPT»: Microsoft Copilot хочет решить ваши самые большие рабочие проблемыChatGPT наконец-то делает вашу учетную запись более безопасной

на локальном сервере. Создатели компьютерного оборудования YouTube обычно имеют склонность к чему-то необычному и глупому, но StorageReview создал решение, уникальность которого не уступает своей полезности.

Как видно из встроенного видео на YouTube выше, Джордан из StorageReview справился с этой задачей без особых усилий. Основой проекта является QNAP TS-h1290FX, готовый NAS с 12 слотами NVMe, процессором AMD Epyc и 256 ГБ оперативной памяти «из коробки». Причина использования этого конкретного NAS двоякая: он позволяет добавлять внутренний графический процессор и поддерживает программу виртуализации гипервизора QNAP для создания виртуальных машин (ВМ). К этой оболочке добавлен Nvidia RTX A4000, графический процессор Ampere, который является самой мощной однослотовой видеокартой Nvidia.

Имея NAS, заполненный терабайтами данных, и готовую к использованию рабочую лошадку RTX, Джордан может использовать новую программу Chat with RTX, которая настраивает работу ChatGPT на ПК с вашей видеокартой, которая может использовать локальные файлы для данных.

Наличие NAS с искусственным интеллектом внутри может показаться непрактичным, но для мира, который становится все более зависимым от искусственного интеллекта, это решение имеет большой смысл. Использование искусственного интеллекта в корпоративном мире включает в себя анализ и оптимизацию данных и производительности, что потенциально связано с конфиденциальными данными, которые не хотелось бы размещать в открытом Интернете. Онлайн-модель ChatGPT обучается самостоятельному использованию, что вполне оправданно отпугивает пользователей с конфиденциальными данными от потенциальной утечки в базу данных ИИ

Thumbnail: Искусственный интеллектИску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

Читайте также:Актёры Baldur’s Gate 3 против голосов ИИBMW ощутила жар: компания отменяет подписку на подогрев сиденийШкольные учителя обеспокоены влиянием ChatGPT на подготовку учеников

. Наличие локального чат-бота с искусственным интеллектом, отключенного от открытого Интернета, но подключенного к вашим данным для этих решений, потенциально может изменить правила игры для компаний, ориентированных на безопасность, а размещение этого инструмента на NAS позволяет каждому в сети получить доступ к инструментам искусственного интеллекта.

Этот проект чрезвычайно полезен в технологической среде YouTube, которая становится все более ориентированной на новинки. Добавление возможностей ChatGPT к NAS, который сам по себе является мощной станцией (накопители NVMe емкостью 15 ТБ становятся все более распространенными в корпоративных условиях, а этот зверь QNAP подходит для 12 из них), не составляет труда для компаний, которые хотят использовать способность ИИ сделать себя более конкурентоспособными в быстро развивающемся мире. Здесь также можно избежать некоторых моральных проблем или страхов, связанных с языковыми моделями ИИ: использование полностью автономной языковой модели защищает вас, а обучение бота только на ваших данных гарантирует отсутствие пиратства или кражи данных.

Чтобы глубже погрузиться в проект и узнать, как его воспроизвести самостоятельно, прочтите статью на StorageReview. Если вам нужна помощь в запуске собственного проекта AI NAS, вам понадобятся лучшие твердотельные накопители и жесткие диски. А если вы хотите сделать что-то своими руками, подумайте о 3D-печати собственного корпуса NAS.

Подписаться на обновления Новости / Технологии

0 комментариев

Оставить комментарий


Новые комментарии

Указан неверный диаметр вентиляторов, не 80 мм, а 100 мм. И чип не 103, а 102.
  • Анон
С прошлым обновлением как раз и появилась эта ошибка. А новое как и написано не дают скачать.
  • Анон
При включении 3D Turbo Mode у вас максимум будет доступно 8 ядер и 8 потоков всего. т.е. если у вас 16 ядерный на 32 потока то будет всего 8 ядер и 8 потоков! Странная оптимизация!
  • Анон
После скачивания вышел синий экран СУПЕР!
  • Анон
требуется указать магазин и purchase date без этого не регистрирует
  • Анон
Россия на них клала❤❤❤❤, будет называться Ладушка 2.0 )))
  • Анон
ДА у меня тоже неработает уже все Вы не знаете каким способом вернуть все обратно СПАСИ
  • Анон
Хаетв Рустам Базарвич Хаетв
  • Анон
Очень довольна приложением. Пользуюсь сама и рекомендую другим.
16 способ - Ноутбук HP ProBook 4740s автоматически установлена камера HP HD Webcam [Fixed] при этом онлайн из браузера подключается камера к веб страницам, камера работает. С приложениями камера...
  • Анон

Смотреть все