NVIDIA предоставит предприятиям возможности агентного ИИ-анализа с помощью Google Cloud

«Принося наши модели Gemini в локальные сети с революционной производительностью NVIDIA Blackwell и возможностями конфиденциальных вычислений, мы позволяем предприятиям раскрыть весь потенциал агентского ИИ», — сказал Сачин Гупта, вице-президент и генеральный менеджер по инфраструктуре и решениям в Google Cloud. «Это сотрудничество помогает гарантировать, что клиенты могут безопасно внедрять инновации без ущерба для производительности или простоты эксплуатации». Конфиденциальные вычисления с NVIDIA Blackwell предоставляют предприятиям техническую гарантию того, что запросы их пользователей к интерфейсу прикладного программирования моделей Gemini, а также данные, которые они использовали для тонкой настройки, остаются в безопасности и не могут быть просмотрены или изменены. В то же время владельцы моделей могут защититься от несанкционированного доступа или взлома, обеспечивая двухуровневую защиту, которая позволяет предприятиям внедрять инновации с моделями Gemini, сохраняя конфиденциальность данных.

Агенты ИИ, управляющие новыми корпоративными приложениями
Это новое предложение появляется, когда агентный ИИ преобразует корпоративные технологии, предлагая более продвинутые возможности решения проблем. В отличие от моделей ИИ, которые воспринимают или генерируют на основе полученных знаний, агентные системы ИИ могут рассуждать, адаптироваться и принимать решения в динамических средах. Например, в корпоративной ИТ-поддержке, в то время как модель ИИ на основе знаний может извлекать и представлять руководства по устранению неполадок, агентская система ИИ может диагностировать проблемы, выполнять исправления и автономно эскалировать сложные проблемы.

Аналогично в сфере финансов традиционная модель ИИ может выявлять потенциально мошеннические транзакции на основе шаблонов, но агентная система ИИ может пойти еще дальше, исследуя аномалии и принимая упреждающие меры, такие как блокировка транзакций до их совершения или корректировка правил обнаружения мошенничества в режиме реального времени.

Дилемма на месте
Хотя многие уже могут использовать модели с мультимодальным мышлением — интегрируя текст, изображения, код и другие типы данных для решения сложных проблем и создания облачных агентских приложений ИИ — те, у кого строгие требования к безопасности или суверенитету данных, пока не могут этого сделать. С этим объявлением Google Cloud станет одним из первых поставщиков облачных услуг, предлагающих возможности конфиденциальных вычислений для защиты рабочих нагрузок агентского ИИ в любой среде — будь то облако или гибрид.

Это решение, работающее на платформе NVIDIA HGX B200 с графическими процессорами Blackwell и NVIDIA Confidential Computing, позволит клиентам защищать модели и данные ИИ. Это позволяет пользователям достигать прорывной производительности и энергоэффективности без ущерба для безопасности данных или целостности модели.

Наблюдаемость и безопасность ИИ для агентного ИИ
Масштабирование агентного ИИ в производстве требует надежной наблюдаемости и безопасности для обеспечения надежной производительности и соответствия. Сегодня Google Cloud анонсировала новый GKE Inference Gateway, созданный для оптимизации развертывания рабочих нагрузок вывода ИИ с расширенной маршрутизацией и масштабируемостью. Интеграция с NVIDIA Triton Inference Server и NVIDIA NeMo Guardrails обеспечивает интеллектуальную балансировку нагрузки, которая повышает производительность и снижает затраты на обслуживание, обеспечивая при этом централизованную безопасность и управление моделью.

Заглядывая вперед, Google Cloud работает над повышением наблюдаемости для рабочих нагрузок агентного ИИ путем интеграции NVIDIA Dynamo, библиотеки с открытым исходным кодом, созданной для обслуживания и масштабирования моделей рассуждений ИИ на всех фабриках ИИ.

На Google Cloud Next посетите специальное выступление NVIDIA, изучите сессии, посмотрите демонстрации и пообщайтесь с экспертами NVIDIA.

Источник: NVIDIA Blog