OpenAI выпустила исследовательскую предварительную версию gpt-oss-safeguard-120b 29 октября 2025 года. Это открытая по весам модель для классификации контента по правилам, которые задаёт разработчик. Вместо фиксированного набора решений она анализирует переданную политику и применяет её к сообщениям, ответам модели или целым диалогам.

Содержание

Классификация по своей политике
Правила можно менять без переобучения классификатора
Характеристики и доступ
Открытые веса и структурированный вывод
Ограничения
Качество требует оценки на собственных правилах
Похожие модели OpenAI

Классификация по своей политике

Правила можно менять без переобучения классификатора

Разработчик передаёт модели формулировку правил безопасности во время запроса. gpt-oss-safeguard интерпретирует её и возвращает классификацию вместе с объяснением рассуждения. Такой подход может быть полезен для новых или узкоспециализированных категорий риска, когда заранее трудно собрать большую размеченную выборку. Для простых и массовых проверок обычный быстрый классификатор может быть экономичнее.

Характеристики и доступ

Открытые веса и структурированный вывод

Модель относится к варианту 120B семейства gpt-oss-safeguard, опубликована под лицензией Apache 2.0 и доступна для скачивания на Hugging Face. Официальный материал указывает совместимость с Responses API, настраиваемый уровень рассуждения и структурированный вывод. Это не готовый публичный фильтр OpenAI: организация сама разворачивает модель, задаёт политику и отвечает за проверку качества.

Ограничения

Качество требует оценки на собственных правилах

В опубликованном отчёте OpenAI отмечает, что специально обученные классификаторы на больших качественных наборах могут точнее работать со сложными категориями. gpt-oss-safeguard также может требовать больше вычислений и времени. Перед использованием в массовой модерации следует оценить полноту, ложные срабатывания, устойчивость к перефразированию и стоимость обработки на репрезентативных данных.

gpt-oss-safeguard-120b