NVIDIA предоставит предприятиям возможности агентного ИИ-анализа с помощью Google Cloud

9 апреля 2025, 19:17 / Технологии → Новости / Технологии

NVIDIA сотрудничает с Google

Google: Google — поисковая система. Google — компания Google Inc. Google Foundation — благотворительный фонд. Google.by — домен и сайт, до 2009 года принадлежавший белорусской компании ActiveMedia. Википедия

Cloud, чтобы предоставить агентский ИИ предприятиям, стремящимся локально использовать семейство моделей ИИ

Thumbnail: Искусственный интеллект Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

Google Gemini, используя платформы NVIDIA Blackwell

Блэкуэлл, Блэквелл (англ. Blackwell) — английская фамилия. Википедия

HGX и DGX и NVIDIA Confidential Computing для безопасности данных. С платформой NVIDIA Blackwell в Google Distributed Cloud локальные центры обработки данных могут соответствовать нормативным требованиям и законам о суверенитете данных, блокируя доступ к конфиденциальной информации, такой как истории болезни пациентов, финансовые транзакции и секретная правительственная информация. NVIDIA Confidential Computing также защищает конфиденциальный код в моделях Gemini от несанкционированного доступа и утечек данных.

«Принося наши модели Gemini в локальные сети с революционной производительностью NVIDIA Blackwell и возможностями конфиденциальных вычислений, мы позволяем предприятиям раскрыть весь потенциал агентского ИИ», — сказал Сачин Гупта, вице-президент и генеральный менеджер по инфраструктуре и решениям в Google Cloud. «Это сотрудничество помогает гарантировать, что клиенты могут безопасно внедрять инновации без ущерба для производительности или простоты эксплуатации». Конфиденциальные вычисления с NVIDIA Blackwell предоставляют предприятиям техническую гарантию того, что запросы их пользователей к интерфейсу прикладного программирования моделей Gemini, а также данные, которые они использовали для тонкой настройки, остаются в безопасности и не могут быть просмотрены или изменены. В то же время владельцы моделей могут защититься от несанкционированного доступа или взлома, обеспечивая двухуровневую защиту, которая позволяет предприятиям внедрять инновации с моделями Gemini, сохраняя конфиденциальность данных.

Агенты ИИ, управляющие новыми корпоративными приложениями
Это новое предложение появляется, когда агентный ИИ преобразует корпоративные технологии, предлагая более продвинутые возможности решения проблем. В отличие от моделей ИИ, которые воспринимают или генерируют на основе полученных знаний, агентные системы ИИ могут рассуждать, адаптироваться и принимать решения в динамических средах. Например, в корпоративной ИТ-поддержке, в то время как модель ИИ на основе знаний может извлекать и представлять руководства по устранению неполадок, агентская система ИИ может диагностировать проблемы, выполнять исправления и автономно эскалировать сложные проблемы.

Аналогично в сфере финансов традиционная модель ИИ может выявлять потенциально мошеннические транзакции на основе шаблонов, но агентная система ИИ может пойти еще дальше, исследуя аномалии и принимая упреждающие меры, такие как блокировка транзакций до их совершения или корректировка правил обнаружения мошенничества в режиме реального времени.

Дилемма на месте
Хотя многие уже могут использовать модели с мультимодальным мышлением — интегрируя текст, изображения, код и другие типы данных для решения сложных проблем и создания облачных агентских приложений ИИ — те, у кого строгие требования к безопасности или суверенитету данных, пока не могут этого сделать. С этим объявлением Google Cloud станет одним из первых поставщиков облачных услуг, предлагающих возможности конфиденциальных вычислений для защиты рабочих нагрузок агентского ИИ в любой среде — будь то облако или гибрид.

Это решение, работающее на платформе NVIDIA HGX B200 с графическими процессорами Blackwell и NVIDIA Confidential Computing, позволит клиентам защищать модели и данные ИИ. Это позволяет пользователям достигать прорывной производительности и энергоэффективности без ущерба для безопасности данных или целостности модели.

Наблюдаемость и безопасность ИИ для агентного ИИ
Масштабирование агентного ИИ в производстве требует надежной наблюдаемости и безопасности для обеспечения надежной производительности и соответствия. Сегодня Google Cloud анонсировала новый GKE Inference Gateway, созданный для оптимизации развертывания рабочих нагрузок вывода ИИ с расширенной маршрутизацией и масштабируемостью. Интеграция с NVIDIA Triton Inference Server и NVIDIA NeMo Guardrails обеспечивает интеллектуальную балансировку нагрузки, которая повышает производительность и снижает затраты на обслуживание, обеспечивая при этом централизованную безопасность и управление моделью.

Заглядывая вперед, Google Cloud работает над повышением наблюдаемости для рабочих нагрузок агентного ИИ путем интеграции NVIDIA Dynamo, библиотеки с открытым исходным кодом, созданной для обслуживания и масштабирования моделей рассуждений ИИ на всех фабриках ИИ.