ИИ Palantir на основе GPT-4 может предлагать тактические советы на поле боя

Palantir — компания-разработчик программного обеспечения, основанная в 2003 году. Ее программное обеспечение предназначено для анализа, интеграции и визуализации больших объемов данных, что делает его полезным для различных отраслей, таких как финансы, здравоохранение и прочих. Клиентами Palantir являются спецслужбы, правоохранительные органы и военные. Штаб-квартира компании находится в Денвере, штат Колорадо (США), и имеет дополнительные офисы по всему миру. Palantir был предметом споров из-за его участия в государственных учреждениях, особенно его работы с иммиграционной и таможенной службой США (ICE) в области внутреннего наблюдения.

Платформа искусственного интеллекта Palantir может предлагать тактические ответы для сценариев на поле боя

Новое предложение Palantir — это платформа искусственного интеллекта Palantir (AIP), которая обеспечивает потенциальное технологическое преимущество на поле боя. AIP — это система интеграции языковых моделей, которая использует большие языковые модели, такие как OpenAI GPT-4 или Google BERT, для анализа как секретных, так и несекретных данных. Возможности AIP были представлены в демонстрации, в которой оператор следил за восточноевропейским театром военных действий. Система быстро анализировала ситуацию и предлагала тактические ответы.

Несмотря на впечатляющую демонстрацию, Palantir признает необходимость контролировать использование LLM (больших языковых моделей) и алгоритмов в конфиденциальных контекстах, таких как те, которые встречаются в военных операциях. Работа AIP основана на трех основных принципах: развертывание в секретной системе, предоставление пользователям возможности переключать область действия и действия каждого LLM, а также наличие лучших в отрасли средств защиты для предотвращения несанкционированных действий системы. Однако в демонстрации не были подробно описаны шаги, предпринимаемые для предотвращения «галлюцинаций» LLM, на которые опирается система, или создания соответствующих фактов и деталей, что вызывает опасения по поводу эффективности и надежности технологии.

Хотя возможности AIP могут обеспечить значительные преимущества на поле боя, крайне важно, чтобы использование такой технологии регулировалось и контролировалось в соответствии с законом и этическими нормами. Несмотря на потенциальные выгоды, последствия любых несанкционированных действий системы могут быть серьезными. Поэтому Palantir и другие компании, разрабатывающие аналогичные технологии, должны уделять первоочередное внимание этическим соображениям и обеспечивать наличие соответствующих мер безопасности для предотвращения неправомерного использования.