OpenAI: open-weight модели для policy-based модерации

OpenAI: open-weight модели для policy-based модерации

Факт: OpenAI опубликовала technical report по gpt-oss-safeguard-120b и gpt-oss-safeguard-20b. Это две open-weight reasoning модели, post-trained от gpt-oss моделей.

Что важно для модерации: модели обучены рассуждать от заданной политики и размечать контент в рамках этой политики. То есть фокус не на «общей безопасности», а на применении конкретного policy-текста к контенту.

Кого задевает:
— команды, которые строят внутреннюю модерацию;
— продукты с пользовательским контентом;
— compliance-команды, которым нужна проверяемая логика классификации;
— тех, кто сравнивает vendor moderation API и self-hosted подходы.

Отдельно: в отчёте есть baseline safety evaluations для gpt-oss-safeguard моделей, где в качестве baseline используются исходные gpt-oss модели.

Что делать: читать отчёт как техническую точку сравнения, а не как универсальную замену ручной policy-разработки. Для продакшена критичны собственные тесты на ваших правилах, языках и спорных кейсах.