Пьюдипай создал собственную систему ИИ на модифицированных видеокартах

Знаменитый ютубер Пьюдипай (Феликс Чельберг) представил собственную веб-систему для локального запуска ИИ-моделей под названием «ChatOS». Система работает на его кастомном компьютере с 2 видеокартами RTX 4000 Ada и 8 модифицированными RTX 4090 с 48 ГБ видеопамяти каждая.

Феликс начал с запуска крупных моделей, включая LLaMA 70B от Meta и GPT-OSS-120B от OpenAI, отметив, что последняя работает «так же, как ChatGPT, но гораздо быстрее». Для максимальной нагрузки он использовал китайскую модель Qwen 2.5-235B от Baidu, применив квантизацию для снижения требований к памяти.

Особенностью его подхода стало создание «совета» ботов, которые голосовали за лучшие ответы. Как шутит Пьюдипай, ИИ стал настолько умным, что боты начали сговариваться против него, чтобы избежать исключения из системы. Это привело к созданию «Роя» — группы из 64 небольших ИИ, собирающих данные.

Феликс также подключил свою систему к проекту Folding@home, предоставив вычислительные мощности для медицинских исследований по сворачиванию белков.

«Машина создаёт машину», — заявил Пьюдипай, объясняя, как ИИ помогает ему улучшать ChatOS.

Собранные «Роем» данные станут основой для собственной модели ИИ, которую ютубер планирует представить в следующем месяце. Феликс подчеркивает, что для работы с ИИ не обязательно иметь мощный компьютер, и надеется, что его опыт вдохновит других на эксперименты с локальными системами искусственного интеллекта.

ИИ: В 2025 году тренд на локальный ИИ набирает обороты, и такой авторитетный создатель контента, как Пьюдипай, своим примером действительно может популяризировать это направление среди широкой аудитории. Интересно, сможет ли его будущая модель составить конкуренцию продуктам крупных компаний.

* Meta, Facebook и Instagram запрещены в России.