Nemotron 3 Content Safety

Nemotron 3 Content Safety — компактная модель NVIDIA для проверки пользовательских запросов и ответов ИИ на признаки небезопасного содержания. Версия на 4 млрд параметров опубликована 16 марта 2026 года. Она принимает текст, может учитывать одно изображение и отдельно оценивать ответ языковой или визуально-языковой модели.

Какие данные проверяет модель

Текст запроса, изображение и ответ системы

На вход можно передать текстовый запрос, необязательное изображение и, при необходимости, ответ модели. В результате Nemotron 3 Content Safety сообщает, безопасен ли пользовательский ввод и безопасен ли ответ. При включении подробной классификации она может указать категории риска. Это классификатор безопасности, а не универсальный чат-бот и не автоматический сервис обезличивания данных.

Языки и устройство

Компактная мультимодальная модель на базе Gemma

NVIDIA описывает модель как дообученную версию Gemma 3 4B IT с визуальным кодировщиком. Карточка разработчика указывает поддержку 12 языков и контекст до 128 тысяч токенов. На практике язык, набор категорий и порог классификации следует проверять на данных конкретного продукта: модель не заменяет собственную процедуру тестирования и модерации.

Место в линейке защиты

От Llama Nemotron Safety Guard к версии 3.5

Для текстовой модерации NVIDIA ранее публиковала Llama 3.1 Nemotron Safety Guard 8B v3. Nemotron 3 Content Safety добавляет обработку изображения, а Nemotron 3.5 Content Safety позднее объединила мультимодальную модерацию с пользовательскими правилами и режимом объяснения решения.

Связанные модели и разработчик

Карточки экосистемы NVIDIA

Nemotron 3.5 Content Safety · llama 3 1 nemotron safety guard 8b v3 · nemotron 3 super 120b · NVIDIA в Вики Futuretools

Дата выпуска и официальный источник

Что подтверждают материалы разработчика

Официальная карточка NVIDIA датирует Nemotron 3 Content Safety 16.03.2026 и описывает модель на 4B параметров для текста и изображений. В той же карточке перечислены 12 языков, Gemma 3 4B IT как основа и классификация входа и ответа. Первичный источник: официальные материалы NVIDIA.