Llama Nemotron Nano 8B

Llama Nemotron Nano 8B — компактная рассуждающая модель NVIDIA из семейства Llama Nemotron, объявленного 18 марта 2025 года. В официальном техническом описании Nano названа моделью на 8 млрд параметров, дообученной на основе Llama 3.1 8B. NVIDIA ориентировала её на ПК и периферийные устройства, где важны ограниченные вычислительные ресурсы и быстрый отклик.

Рассуждение на локальной инфраструктуре

Компактная модель из семейства Nano, Super и Ultra

Семейство Llama Nemotron разделяет сценарии по размеру: Nano рассчитана на локальные устройства и периферийные системы, Super — на более производительный одиночный GPU, Ultra — на многопроцессорные серверы. Вариант Nano сохраняет основу Llama 3.1 8B и получает дополнительное обучение для инструкций и задач рассуждения.

Работа в двух режимах

Включение рассуждения через системные инструкции

NVIDIA описывает режимы с рассуждением и без него, переключаемые системным сообщением. Это позволяет использовать одну модель для задач, где требуется пошаговое решение, и более прямых запросов. Режим не следует понимать как гарантию корректного вывода: результат по-прежнему зависит от запроса, входных данных и выбранной конфигурации запуска.

Продолжение поколения

Связанные размеры и версия Nano VL

Более крупные представители этой линейки — Llama Nemotron Super 49B и Ultra 253B. Для анализа документов NVIDIA создала отдельную визуальную модель Llama Nemotron Nano VL.

Дата выпуска и первичный источник

Подтверждение NVIDIA

NVIDIA объявила семейство Llama Nemotron 18.03.2025; датированный технический обзор указывает, что Nano — 8B-модель на основе Llama 3.1 8B, рассчитанная на ПК и edge-развёртывание и поддерживающая режимы reasoning on/off. Официальный материал: NVIDIA.

Сведения о разработчике и его моделях: NVIDIA в Вики Futuretools.ru.