NVIDIA Nemotron 3.5 Super VL 120B-A12B — мультимодальная модель для агентов

NVIDIA Nemotron 3.5 Super VL 120B-A12B — крупная мультимодальная модель для ИИ-агентов и задач, где нужно одновременно разбирать документы, изображения, видео и длинный контекст. Она принимает текст, изображения и видео, а в ответ генерирует текст. Аудиовход в этой версии не поддерживается.

В названии 120B — общее количество параметров, а A12B — число параметров, участвующих в обработке одного шага. Это модель типа Mixture of Experts: для генерации выбирается часть специализированных блоков. Это снижает вычисления на шаг, но не означает, что все веса можно не хранить: модель остаётся крупной и требует мощного оборудования.

Для чего создана Super VL

Понимать не только текст

Модель умеет анализировать визуальные материалы вместе с текстовым запросом: например, извлекать сведения из документов и веб-страниц, разбирать таблицы, графики и диаграммы, сопоставлять кадры видео с описанием. NVIDIA позиционирует её для визуального рассуждения и агентных процессов, где работа проходит несколько этапов — от изучения источников до подготовки ответа или действия.

Мультимодальная архитектура

В основе лежит гибридная языковая архитектура Mamba-2 и Transformer с разреженной смесью экспертов. Для изображений используется визуальный энкодер C-RADIO, а отдельный компонент обрабатывает временную структуру видео. Такая конструкция позволяет передавать языковой части признаки из визуальных данных. При этом модель не является универсальным средством обработки любого типа медиа: в текущей версии она работает с текстом, изображениями и видео, но не принимает аудио.

Контекст до одного миллиона токенов

Большой объём документов и истории агента

Заявленный верхний предел контекста — до 1 048 576 токенов. Это позволяет передавать модели большие наборы документов или продолжительную историю агентной задачи. Миллион токенов — технический максимум, а не обязательный режим: чем длиннее вход, тем больше памяти и вычислительных ресурсов требуется для обслуживания запроса. Поддерживаемая длина также зависит от конкретного профиля запуска.

Вес модели занимает десятки гигабайт

Размер зависит от точности и способа квантования. В сборках Unsloth NVFP4 занимает около 79 ГБ, а вариант UD-Q4_K_XL — около 86,9 ГБ. Это объём файлов весов, а не полный гарантированный бюджет памяти: для запуска нужны дополнительные ресурсы под контекст, кэш и среду исполнения. Поэтому встречающиеся оценки около 82 ГБ следует понимать как ориентир для отдельных конфигураций, а не универсальное требование.

Запуск и варианты развёртывания

Локальный запуск и серверная инфраструктура

Для локального запуска доступны GGUF-сборки Unsloth, включая инструкции для llama.cpp и Ollama; также опубликованы варианты для vLLM. NVIDIA предоставляет модели в BF16 и NVFP4 и рекомендует выбирать профиль по конкретной видеокарте, точности и задаче. Для полного режима с длинным контекстом может потребоваться серверная или многокарточная конфигурация, а не обычный домашний компьютер.

Модель также доступна через NVIDIA NIM и облачные площадки. При использовании готового сервиса вычисления выполняются на его инфраструктуре; при самостоятельном развёртывании можно контролировать место хранения модели и обрабатываемых данных.

Открытые веса и лицензия

NVIDIA открыла веса модели и опубликовала учебные материалы и данные для отдельных задач. При этом доступность весов не означает, что в открытом доступе есть все использованные данные и компоненты обучения. Веса распространяются по лицензии OpenMDW 1.1. Перед включением модели в коммерческий продукт следует проверить текст лицензии и правила выбранного способа развёртывания.

Super VL и более компактная Nemotron 3.5 Bolt

Super VL — большой исходный вариант для задач, которым важны визуальный анализ и длинный контекст. Если важнее запуск на системе с бюджетом около 24 ГБ, NVIDIA предлагает отдельную сжатую модель Nemotron 3.5 Bolt: она создана на основе Super VL, но имеет другой состав параметров и заметно более жёсткое квантование. Это самостоятельная модель, а не просто уменьшенный файл той же сборки.

В семействе также доступны Nemotron 3.5 Lightning, Nemotron 3 Super и другие модели на странице NVIDIA в Вики Futuretools.

Сборки и материалы: GGUF от Unsloth, руководство Unsloth, технические материалы NVIDIA и инструкция по NVIDIA NIM.