Musubi представила PolicyLM-1.7B — открытую модель для модерации контента за 50 миллисекунд

С распространением решающих моделей (decision models) по всей отрасли компания Musubi предложила новый способ их применения — модерацию контента. Во вторник Musubi анонсировала лёгкую решающую модель для модерации в реальном времени под названием PolicyLM-1.7B, выпущенную с открытыми весами.

Идея заключается в том, чтобы взять политику контента, написанную простым английским языком, и применить её к сообщениям менее чем за 50 миллисекунд. Модель Musubi по стоимости и скорости сопоставима с классификаторами ИИ, которые обеспечивают модерацию на большинстве социальных платформ, но благодаря гибкости современной LLM она способна применять сложные политики без специального обучения. Что ещё важнее, модели не потребуется переобучение при изменении политики, что позволяет людям, задающим правила, итеративно их дорабатывать сколько угодно.

Соучредитель и главный директор по ИИ Musubi Филип Янкович видит в этом способ дать менеджерам платформ возможность проактивно размечать контент.

«Продуктовые команды просто хотят лучше понимать, что происходит на их платформе, особенно когда объём контента растёт экспоненциально, — говорит Янкович. — Возможность размечать всё это очень масштабируемым и настраиваемым способом чрезвычайно полезна».

Решающие модели стали горячей темой в мире ИИ после сентябрьского релиза Jev от TypeSafe AI, вскоре после которого появились конкурирующие решающие модели от OpenAI и Amazon. Вместо вывода текста решающая модель выдаёт вероятности исходов, хотя в данном случае модель выдаёт бинарное суждение: либо контент попадает в категорию, либо нет. Ограничивая вывод модели набором предопределённых вариантов, решающие модели работают быстрее и дешевле больших языковых моделей, сохраняя при этом гибкость архитектуры трансформера.

Один из ранних сценариев применения — обуздание нежелательного поведения ИИ-агентов, так что вполне естественно применить ту же технологию и к человеческому нежелательному поведению.

Примечательно, что, по словам Янковича, его интерес к решающим моделям возник ещё до Jev — он восходит к проекту 2024 года под названием GLiNER (Generalist Model for Named Entity Recognition), в котором использовались многие из тех же техник.

Тем не менее Musubi не опасается сравнений. Напротив, компания стремится использовать новый интерес к решающим моделям, чтобы пролить свет на модерацию контента. «Если Jev привлёк ваше внимание, PolicyLM-1.7B — это модель того же типа, обученная специально для модерации контента, которую вы можете запустить самостоятельно», — говорится в анонсе продукта.