Apple отказывается от GPU Nvidia в пользу TPU Google
Apple Inc. (МФА: [ˈæp(ə)l ɪŋk]; официальное русское написание — «Эппл») — американская корпорация, производитель персональных и планшетных компьютеров, аудиоплееров, телефонов, программного обеспечения. Один из пионеров в области персональных компьютеров и современных многозадачных операционных систем с графическим интерфейсом. Штаб-квартира — в Купертино, штат Калифорния. Википедия
Читайте также:Все игры Apple Arcade доступны для игры прямо сейчасРебекка Фергюсон в продолжении сериала «Укрытие» на Apple TV+ с 15 ноябряApple показала трейлер шоу «Плохая обезьяна» от создателя «Теда Лассо»СМИ: Apple усилит контроль за расходами на стримингApple представил трейлер второго сезона сериала «Дорога в тысячу ли»
NVIDIA Corporation (NASDAQ: NVDA) — американская компания, один из крупнейших разработчиков графических ускорителей и процессоров, а также наборов системной логики. На рынке продукция компании известна под такими торговыми марками как GeForce, nForce, Quadro, Tesla, ION и Tegra. Компания была основана в 1993 году. По состоянию на август 2006 года в корпорации насчитывалось более 8 тысяч сотрудников, работающих в 40 офисах по всему миру. Википедия
Читайте также:Энергопотребление NVIDIA Blackwell повышает требования к охлаждениюNVIDIA ускоряет разработку гуманоидной робототехникиNVIDIA представляет генеративные модели ИИ и микросервисы NIMНехватка GDDR6X затруднит поставки игровых GPU Nvidia с августаБывший разработчик Twitter рассказал о неиспользуемых GPU Nvidia после поглощения
Apple Intelligence — платформа искусственного интеллекта, разработанная компанией Apple Inc. Технология, основанная на сочетании обработки данных на устройстве и на сервере, была анонсирована 10 июня 2024 года на конференции WWDC 2024 в качестве функции операционных систем iOS 18, iPadOS 18 и macOS Sequoia, которые были анонсированы вместе с Apple Intelligence. Apple Intelligence включает в себя интеграцию с ChatGPT и будет бесплатной для всех пользователей с поддерживаемыми устройствами. Запуск бета-версии для разработчиков запланирован на конец 2024 года. Википедия
Google: Google — поисковая система. Google — компания Google Inc. Google Foundation — благотворительный фонд. Google.by — домен и сайт, до 2009 года принадлежавший белорусской компании ActiveMedia. Википедия
Читайте также:Google готовится к заключению самой крупной сделки в своей историиGoogle и Microsoft потребляют больше энергии, чем некоторые страныGemini AI пойман на сканировании PDF-файлов, размещенных на Google Диске, без разрешенияЛазерный мини-проектор Dangbei Atom Google TVНынешние ИИ имеют IQ только кошки, утверждает генеральный директор Google DeepMind
Системы, оснащенные чипами Google TPUv4 и TPUv5, сыграли важную роль в создании моделей Apple Foundation (AFM). Эти модели, AFM-сервер и AFM-on-device, были разработаны для поддержки онлайн- и офлайн-функций Apple Intelligence, о которых было объявлено еще на WWDC 2024 в июне.
Изображение: исследовательская статья Apple
AFM-сервер является крупнейшим LLM Apple, поэтому он остается только онлайн. Согласно недавно опубликованному исследовательскому документу, AFM-сервер Apple был обучен на 8192 чипах TPUv4, «представленных в виде слайсов 8 × 1024 чипов, где слайсы соединены между собой сетью центров обработки данных (DCN)». Предварительное обучение представляло собой трехэтапный процесс: начиная с токенов 6,3T, продолжая токенами 1T, а затем удлинение контекста с использованием токенов 100B.
Apple заявила, что данные, используемые для обучения ее AFM, включали информацию, полученную от веб-сканера Applebot (с учетом robots.txt), а также различные лицензированные «высококачественные» наборы данных. Он также использовал тщательно выбранный код, математические вычисления и общедоступные наборы данных.
Конечно, модель ARM-на-устройстве значительно сокращена, но Apple считает, что ее методы дистилляции знаний оптимизировали производительность и эффективность этой меньшей модели. В документе показано, что AFM-on-device представляет собой модель параметров 3B, полученную из модели сервера 6.4B, которая была обучена на полных токенах 6.3T.
В отличие от обучения AFM-сервера, для подготовки модели ARM на устройстве использовались кластеры Google TPUv5. В документе показано, что «AFM-on-device обучался на одном срезе 2048 чипов TPUv5p».
Интересно видеть, что Apple выпустила такой подробный документ, раскрывающий методы и технологии, лежащие в основе Apple Intelligence. Компания не славится своей прозрачностью, но, похоже, изо всех сил старается произвести впечатление на искусственный интеллект, возможно, потому, что уже опоздала.
Изображение: исследовательская статья Apple
Согласно внутреннему тестированию Apple, AFM-сервер и AFM-on-device превосходят другие тесты в таких тестах, как следование инструкциям, использование инструментов, написание и других. В качестве одного из примеров мы добавили диаграмму «Эталон письма» выше.
Если вас интересуют более подробные сведения об обучении и оптимизации, используемых Apple, а также дальнейшее сравнение тестов, ознакомьтесь с PDF-файлом, указанным во введении.
Источник: Tomshardware.com
0 комментариев