Llama Nemotron Nano 8B
Llama Nemotron Nano 8B — компактная модель рассуждения NVIDIA на основе Llama 3.1 8B для ПК, рабочих станций и периферийных устройств.
Llama Nemotron Nano 8B — компактная рассуждающая модель NVIDIA из семейства Llama Nemotron, объявленного 18 марта 2025 года. В официальном техническом описании Nano названа моделью на 8 млрд параметров, дообученной на основе Llama 3.1 8B. NVIDIA ориентировала её на ПК и периферийные устройства, где важны ограниченные вычислительные ресурсы и быстрый отклик.
Рассуждение на локальной инфраструктуре
Компактная модель из семейства Nano, Super и Ultra
Семейство Llama Nemotron разделяет сценарии по размеру: Nano рассчитана на локальные устройства и периферийные системы, Super — на более производительный одиночный GPU, Ultra — на многопроцессорные серверы. Вариант Nano сохраняет основу Llama 3.1 8B и получает дополнительное обучение для инструкций и задач рассуждения.
Работа в двух режимах
Включение рассуждения через системные инструкции
NVIDIA описывает режимы с рассуждением и без него, переключаемые системным сообщением. Это позволяет использовать одну модель для задач, где требуется пошаговое решение, и более прямых запросов. Режим не следует понимать как гарантию корректного вывода: результат по-прежнему зависит от запроса, входных данных и выбранной конфигурации запуска.
Продолжение поколения
Связанные размеры и версия Nano VL
Более крупные представители этой линейки — Llama Nemotron Super 49B и Ultra 253B. Для анализа документов NVIDIA создала отдельную визуальную модель Llama Nemotron Nano VL.
Дата выпуска и первичный источник
Подтверждение NVIDIA
NVIDIA объявила семейство Llama Nemotron 18.03.2025; датированный технический обзор указывает, что Nano — 8B-модель на основе Llama 3.1 8B, рассчитанная на ПК и edge-развёртывание и поддерживающая режимы reasoning on/off. Официальный материал: NVIDIA.
Сведения о разработчике и его моделях: NVIDIA в Вики Futuretools.ru.