Granite 4.0-H-Micro — компактная гибридная модель IBM на 3 млрд параметров

Granite 4.0-H-Micro — открытая модель IBM на 3 млрд параметров для локальных и периферийных сценариев, а также быстрых шагов внутри ИИ-агентов. Она вышла 2 октября 2025 года в семействе Granite 4.0. Разработчик и другие его проекты описаны в IBM Granite в Вики Futuretools.

Назначение и возможности

Модель сочетает блоки Mamba-2 и Transformer, чтобы обрабатывать длинный контекст с меньшей нагрузкой на память, чем у традиционной архитектуры Transformer. IBM описывает H-Micro как плотную гибридную модель; её можно использовать для низколатентных ответов, вызова функций и как небольшой компонент в более крупной агентной системе.

Архитектура, контекст и доступ

Веса Granite 4.0 опубликованы под лицензией Apache 2.0. Контекст в карточке OpenRouter ограничен примерно 131 тысячей токенов, хотя IBM сообщает об обучении семейства на последовательностях до 512 тысяч токенов. Эти значения относятся к разным характеристикам: предел API-провайдера может быть ниже длины обучающих примеров.

Другие версии и близкие модели

Сравнить можно с Granite 4.0, Granite 4.2. Варианты отличаются размером, специализацией и способом предоставления; для API также важны лимиты конкретного провайдера.

Подробности доступны в официальном источнике или карточке модели.