Elloe AI: «иммунная система» для искусственного интеллекта

Основатель Elloe AI Оуэн Сакава хочет, чтобы его платформа стала «иммунной системой для ИИ» и «антивирусом для любого ИИ-агента».

Как Сакава рассказал в интервью за несколько дней до конференции TechCrunch Disrupt, идея заключается в добавлении слоя к большим языковым моделям (LLM) компаний, который проверяет ответы на наличие предвзятости, галлюцинаций, ошибок, проблем с соответствием требованиям, дезинформации и небезопасных выводов. Elloe AI является финалистом конкурса Startup Battlefield.

«ИИ развивается очень быстрыми темпами, и он движется так быстро без ограничителей, без страховочных сеток, без механизмов, которые предотвратили бы его сход с рельсов», — сказал Сакава.

Elloe AI представляет собой API или SDK — модуль, который располагается поверх выходного слоя модели ИИ. Как объяснил Сакава, это «инфраструктура поверх вашего конвейера LLM, которая проверяет каждый отдельный ответ».

Система стартапа имеет собственные слои, или «якоря», как их называет Сакава.

Первый якорь проверяет факты в ответах LLM по проверяемым источникам. Второй якорь проверяет, нарушает ли вывод какие-либо нормативные акты, такие как американский закон о конфиденциальности в здравоохранении HIPAA, европейский GDPR или раскрывает ли он личную информацию (PII). Последний якорь — это аудиторский след, который показывает, как принимались все предыдущие решения, и позволяет регуляторам анализировать «ход мыслей» модели.

Сакава подчеркивает, что Elloe AI не построена на LLM, поскольку, по его мнению, использование LLM для проверки других LLM — это просто «наложение пластыря на другую рану». Однако система Elloe AI использует методы ИИ, такие как машинное обучение. В процесс также вовлечены люди — сотрудники Elloe AI, которые следят за новыми правилами защиты данных и пользователей.

Узнать больше о Elloe AI можно на конференции Disrupt, которая проходит с 27 по 29 октября в Сан-Франциско (с 28 по 30 октября по московскому времени).