MiniMax-01 — языковая и визуальная модели с длинным контекстом

MiniMax-01 — выпущенное MiniMax семейство из языковой модели MiniMax-Text-01 и мультимодальной MiniMax-VL-01. В линейке сочетаются архитектура MoE и механизм Lightning Attention.

MiniMax-01 — семейство моделей, которое MiniMax представила 15 января 2025 года. В него вошли MiniMax-Text-01 для работы с текстом и MiniMax-VL-01 для понимания изображений. В каталоге OpenRouter семейство представлено одной карточкой; фактические возможности зависят от подключённого провайдера. О разработчике — Вики FutureTools: MiniMax.

Как устроено семейство MiniMax-01

В основе текстовой модели лежит смесь экспертов (MoE): всего в ней 456 млрд параметров, из которых при обработке каждого фрагмента текста задействуется около 45,9 млрд. Архитектура объединяет Lightning Attention и стандартное внимание. Такой подход позволяет работать с длинными последовательностями, не активируя все параметры на каждом шаге.

Контекст зависит от способа запуска

В техническом отчёте MiniMax указала контекст до 1 млн токенов при обучении и возможность расширения инференса до 4 млн. Карточка OpenRouter на момент сверки показывает около 1 млн токенов. Это не означает, что каждый API-провайдер принимает запрос такого размера: перед интеграцией нужно проверить ограничения конкретного маршрута.

Текст и изображения

MiniMax-Text-01 предназначена для генерации и анализа текста. Визуальные запросы относятся к MiniMax-VL-01. Поэтому поддержка изображений в интеграции зависит от того, какой вариант семейства фактически доступен у выбранного поставщика.

Дата выпуска и сведения об архитектуре приведены в официальном объявлении MiniMax; техническое описание опубликовано в отчёте MiniMax-01. Модель также доступна в карточке MiniMax-Text-01 на Hugging Face.