Создаются модели искусственного интеллекта стоимостью 1 млрд долларов
Anthropic — американский стартап и общественно-полезная корпорация в сфере искусственного интеллекта (ИИ), основанная бывшими сотрудниками OpenAI. Anthropic специализируется на разработке общих систем искусственного интеллекта и языковых моделей, придерживаясь корпоративной этики ответственного использования ИИ. С конца 2022 года Google инвестировал в компанию почти 400 миллионов долларов, а Anthropic объявила о формальном партнерстве с Google Cloud. Википедия
Читайте также:Amazon инвестирует до $4 млрд в ИИ-стартап Anthropic
«Прямо сейчас 100 миллионов. Сегодня обучаются модели, которых больше миллиарда». Амодей также добавил: «Я думаю, если мы дойдем до десяти или ста миллиардов, а я думаю, что это произойдет в 2025, 2026, может быть, в 2027 году, и алгоритмические улучшения будут продолжаться такими же темпами, а улучшения чипов будут продолжаться такими же темпами, тогда я думаю, что Я считаю, что к тому времени у нас появится хороший шанс получить модели, которые будут лучше большинства людей во многих вещах».
ChatGPT — чат-бот с искусственным интеллектом, разработанный компанией OpenAI и способный работать в диалоговом режиме, поддерживающий запросы на естественных языках.
ChatGPT — большая языковая модель, для тренировки которой использовались методы обучения с учителем и обучения с подкреплением.
Данный чат-бот основывается на другой языковой модели от OpenAI — GPT-3.5 — улучшенной версии модели GPT-3. 14 марта 2023 года была выпущена языковая модель GPT-4, доступная тестировщикам и платным подписчикам ChatGPT Plus. Википедия
Читайте также:Илон Маск отказался от иска против OpenAI и АльтманаApple Intelligence: Siri получает трансплантацию мозга LLM, интеграцию ChatGPT и GenmojisНесколько экземпляров ChatGPT работают вместе, чтобы найти и использовать недостатки безопасностиChatGPT способен создавать атаки на чипы. Модель GPT-4 протестировали учёные UIUCЭнтузиаст оснастил NAS-накопитель мощным графическим процессором для ChatGPT
Таким образом, если модели ИИ будут становиться в десять раз мощнее каждый год, мы можем рационально ожидать, что оборудование, необходимое для их обучения, также будет как минимум в десять раз мощнее. Таким образом, аппаратное обеспечение может стать крупнейшим источником затрат при обучении ИИ. Еще в 2023 году сообщалось, что ChatGPT потребуется более 30 000 графических процессоров, а Сэм Альтман подтвердил, что обучение ChatGPT-4 стоит 100 миллионов долларов.
В прошлом году в дата-центры было поставлено более 3,8 миллиона графических процессоров. Учитывая, что новейший чип искусственного интеллекта Nvidia B200 стоит от 30 000 до 40 000 долларов, мы можем предположить, что оценка Дарио в миллиард долларов соответствует плану к 2024 году. Если достижения в исследованиях моделей и квантования будут расти с нынешней экспоненциальной скоростью, то мы ожидаем, что требования к оборудованию будут идти в ногу со временем, если только более эффективные технологии, такие как чип Sohu AI, становятся все более распространенными.
Мы уже можем видеть, как происходит этот экспоненциальный рост. Илон Маск хочет приобрести 300 000 чипов искусственного интеллекта B200, а OpenAI и Microsoft, как сообщается, планируют построить центр обработки данных искусственного интеллекта стоимостью 100 миллиардов долларов. При всем этом спросе мы можем увидеть, что поставки центров обработки данных с графическими процессорами в следующем году вырастут до 38 миллионов, если Nvidia и другие поставщики смогут идти в ногу с рынком.
Однако, помимо поставок самого аппаратного обеспечения, этим компаниям, работающим в области искусственного интеллекта, необходимо также позаботиться об электропитании и связанной с ним инфраструктуре. Общая расчетная потребляемая мощность всех графических процессоров центров обработки данных, проданных только в прошлом году, может обеспечить электроэнергией 1,3 миллиона домов. Если потребности центров обработки данных в электроэнергии будут продолжать расти в геометрической прогрессии, то вполне возможно, что нам может не хватить достаточного количества экономически выгодной электроэнергии. Кроме того, хотя этим центрам обработки данных нужны электростанции, им также нужна полностью модернизированная сеть, которая сможет обрабатывать все электроны, которые должны работать энергоемкие чипы искусственного интеллекта. По этой причине многие технологические компании, в том числе Microsoft, сейчас рассматривают возможность использования модульной ядерной энергии для своих центров обработки данных.
Искусственный интеллект быстро набирает обороты, и аппаратные инновации, похоже, не отстают. Таким образом, оценка Anthropic в 100 миллиардов долларов, похоже, соответствует ожиданиям, особенно если такие производители, как Nvidia, AMD и Intel, смогут ее реализовать. Однако, поскольку наши технологии искусственного интеллекта работают экспоненциально с каждым новым поколением, остается один большой вопрос: как это повлияет на будущее нашего общества?
Источник: Tomshardware.com
0 комментариев