Разработчик внедрил GPT-2 в Excel, чтобы показать как «думает» искусственный интеллект

Разработчик программного обеспечения и заядлый любитель электронных таблиц Ишан Ананд внедрил GPT-2 в Microsoft Excel. Еще более удивительно то, что это работает, давая представление о том, как работают большие языковые модели (LLM) и как базовая архитектура Transformer выполняет интеллектуальное предсказание следующего токена. «Если вы можете понять электронную таблицу, вы сможете понять ИИ

Thumbnail: Искусственный интеллектИску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

Читайте также:BMW ощутила жар: компания отменяет подписку на подогрев сиденийШкольные учителя обеспокоены влиянием ChatGPT на подготовку учеников

», — говорит Ананд. Таблица размером 1,25 ГБ доступна на GitHub, чтобы каждый мог ее загрузить и проверить.
Естественно, эта реализация GPT-2 в электронных таблицах несколько отстает от LLM, доступных в 2024 году, но GPT-2 был самым современным не так давно (в 2019 году) и привлек множество внимания. Важно помнить, что GPT-2 — это не что-то чтобы пообщаться, как это было до эпохи «ChatGPT». ChatGPT

Thumbnail: ChatGPTChatGPT — чат-бот с искусственным интеллектом, разработанный компанией OpenAI и способный работать в диалоговом режиме, поддерживающий запросы на естественных языках. ChatGPT — большая языковая модель, для тренировки которой использовались методы обучения с учителем и обучения с подкреплением. Данный чат-бот основывается на другой языковой модели от OpenAI — GPT-3.5 — улучшенной версии модели GPT-3. 14 марта 2023 года была выпущена языковая модель GPT-4, доступная тестировщикам и платным подписчикам ChatGPT Plus. Википедия

Читайте также:GPT-4V плохо играет в Doom... пока«Забудьте о ChatGPT»: Microsoft Copilot хочет решить ваши самые большие рабочие проблемыChatGPT наконец-то делает вашу учетную запись более безопаснойPictory GPT теперь позволяет создавать видео с помощью искусственного интеллекта в ChatGPTGrok Илона Маска представляет серьезную угрозу для ChatGPT

появился в результате проделанной работы над GPT-3 в 2022 году. Более того, Ананд использует здесь малую модель GPT-2, поскольку двоичный файл Microsoft Excel XLSB насчитывает 124 миллиона параметров, а полная версия GPT-2 использовала 1,5 миллиарда параметров, в то время как GPT-3 поднял планку до 175 миллиардов параметров, а GPT-4 до чудовищных 1,76 триллиона параметров.

GPT-2 работает в основном над интеллектуальным «предсказанием следующего токена», когда языковая модель архитектуры Transformer завершает ввод наиболее вероятной следующей части последовательности. Эта электронная таблица может обрабатывать всего 10 входных токенов, что очень мало по сравнению со 128 000 токенами, которые может обрабатывать GPT-4 Turbo. Тем не менее, это подходит для демонстрации, и Ананд утверждает, что его «введение low-code» идеально подходит в качестве основы LLM для таких специалистов, как технические руководители, маркетологи, менеджеры по продуктам, законодатели в области ИИ, специалисты по этике, а также для разработчиков и ученых новичков в ИИ. Ананд утверждает, что та же самая архитектура Transformer остается «основой для ChatGPT OpenAI, Claude от Anthropic, Bard/Gemini от Google и многих других LLM».

Выше вы можете увидеть, как Ананд объясняет свою реализацию электронной таблицы с GPT-2. При работе с несколькими листами первый лист содержит любую подсказку, которую вы хотите ввести (но помните об ограничении в 10 подсказок). Затем он рассказывает нам о токенизации слов, позициях и весах текста, итеративном уточнении предсказания следующего слова и, наконец, выборе выходного токена — предсказанного последнего слова последовательности.

Выше мы упоминали об относительно компактном LLM, используемом GPT-2 Small. Несмотря на использование LLM, который, возможно, не будет классифицирован как таковой в 2024 году, Ананд все еще расширяет возможности приложения Excel. Разработчик предостерегает от попыток использовать этот файл Excel на Mac (частые сбои и зависания) или от попыток загрузить его в одно из облачных приложений для работы с электронными таблицами, поскольку он не будет работать. Также рекомендуется использовать последнюю версию Excel. Помните, что эта таблица — в основном образовательное упражнение и развлечение для Ананда. Наконец, одним из преимуществ использования Excel на вашем ПК является то, что этот LLM работает на 100% локально, без вызовов API в облако.

Подписаться на обновления Новости / Технологии

0 комментариев

Оставить комментарий


Новые комментарии

1c пох на ваши операции, количество ядер и прочее. Умудрились написать ядро четко привязанное к Мгц. Единственный в мире продукт для 1го ядра.
  • Анон
Указан неверный диаметр вентиляторов, не 80 мм, а 100 мм. И чип не 103, а 102.
  • Анон
С прошлым обновлением как раз и появилась эта ошибка. А новое как и написано не дают скачать.
  • Анон
При включении 3D Turbo Mode у вас максимум будет доступно 8 ядер и 8 потоков всего. т.е. если у вас 16 ядерный на 32 потока то будет всего 8 ядер и 8 потоков! Странная оптимизация!
  • Анон
После скачивания вышел синий экран СУПЕР!
  • Анон
требуется указать магазин и purchase date без этого не регистрирует
  • Анон
Россия на них клала❤❤❤❤, будет называться Ладушка 2.0 )))
  • Анон
ДА у меня тоже неработает уже все Вы не знаете каким способом вернуть все обратно СПАСИ
  • Анон
Хаетв Рустам Базарвич Хаетв
  • Анон
Очень довольна приложением. Пользуюсь сама и рекомендую другим.

Смотреть все