NVIDIA Nemotron-Labs-Diffusion 3B Base

Nemotron-Labs-Diffusion 3B Base — базовая модель для дообучения и генерации текста в трёх режимах.

Nemotron-Labs-Diffusion 3B Base — базовая 3B-контрольная точка семейства NVIDIA Nemotron-Labs Diffusion. Она предназначена прежде всего для разработчиков, которым нужен исходный чекпойнт для собственного дообучения или экспериментов с генерацией. Одна модель поддерживает авторегрессионный режим, диффузионную генерацию блоками и self-speculation — параллельную подготовку текста с авторегрессионной проверкой.

Базовая версия без инструкционной настройки

Исходная модель для экспериментов и адаптации

В отличие от чат-версии, Base не является вариантом, специально настроенным для прямого следования пользовательским инструкциям. Её можно использовать как стартовую точку для дальнейшей адаптации на доменных данных, если разработчик располагает подходящим обучающим контвейером и оценивает результаты на собственных задачах. Для готовых диалоговых запросов NVIDIA выпускает отдельный 3B Instruct.

Три режима генерации

Один чекпойнт, разные способы декодирования

В авторегрессионном режиме модель выдаёт токены слева направо, как обычная языковая модель. Диффузионный режим параллельно заполняет блок токенов и уточняет его в несколько проходов. В self-speculation та же модель сначала предлагает несколько токенов, затем проверяет их авторегрессионно и использует общий KV-кэш. Выбор режима меняет скорость и расход вычислений во время генерации, но не превращает модель в три отдельных набора весов.

Размер и лицензия

3 млрд параметров в линейке 3B–14B

3B — младший размер текстовых моделей семейства; для сравнения доступны базовые 8B и 14B варианты. NVIDIA опубликовала семейство 23 мая 2026 года и распространяет текстовые модели по NVIDIA Nemotron Open Model License. Фактические требования к памяти зависят от точности весов, длины контекста и реализации инференса.

Связанные модели и разработчик

Семейство Nemotron-Labs Diffusion

NVIDIA Nemotron-Labs-Diffusion 3B Instruct · NVIDIA Nemotron-Labs-Diffusion 8B Base · NVIDIA Nemotron-Labs-Diffusion 14B Base · NVIDIA в Вики Futuretools

Публичный выпуск и первичный источник

Карточка модели NVIDIA

Модельная карточка NVIDIA обозначает чекпойнт как Base; анонс семейства от 23.05.2026 перечисляет базовые и инструкционно настроенные модели размеров 3B, 8B и 14B и три режима декодирования. Анонс линейки: NVIDIA: Nemotron-Labs Diffusion. Чекпойнт: Nemotron-Labs-Diffusion-3B-Base.