Qwen2.5 72B Instruct — старшая открытая модель семейства Qwen2.5
Qwen2.5 72B Instruct — старшая инструктивная версия семейства Qwen2.5. Она рассчитана на сложные диалоги, анализ, генерацию длинных текстов и многоязычные задачи, но требует существенно больше вычислительных ресурсов, чем младшие модели серии. 2024-09-19 года Qwen представила эту версию. Разработчик и линейка моделей описаны на странице Qwen и Alibaba в Вики Futuretools.
Что представляет собой Qwen2.5 72B Instruct
Число в названии обозначает приблизительное количество параметров. Плотная архитектура использует всю сеть при генерации, тогда как MoE активирует только часть экспертов; поэтому одинаковые числа параметров не всегда означают одинаковые требования к вычислениям. В карточке OpenRouter для этого маршрута указано контекстное окно до 32 768 токенов. Это открытая модель, доступная для самостоятельного развёртывания; конкретные требования к памяти и скорость зависят от формата весов, квантования, движка и оборудования.
Архитектура и вариант обучения
В официальном анонсе Qwen указывала улучшения серии в знаниях, математике, программировании, следовании инструкциям и работе с таблицами и другими структурированными данными. Конкретные возможности запуска зависят от формата весов и оборудования. Карточка OpenRouter указывает контекст 32 тысячи токенов для соответствующего API-маршрута; это значение может отличаться от настроек локальных сборок.
Возможности и практическое применение
Модель можно использовать для диалога, генерации и анализа текста, а также для задач, соответствующих её настройке. При выборе стоит учитывать не только размер модели, но и доступную память, длину контекста, скорость ответа и наличие подходящего программного обеспечения.
Место в семействе Qwen
Эта версия относится к линейке Qwen2.5. Среди связанных моделей — Qwen2.5 7B Instruct, Qwen2.5-VL 72B Instruct, Qwen2.5-Coder 32B Instruct. Выбор между ними зависит от того, нужны ли мультимодальный ввод, специализация на коде, режим рассуждения, открытые веса или облачный API.
Технические сведения и материалы выпуска опубликованы в официальном материале Qwen или карточке модели. Параметры API-маршрута, включая контекст, следует перепроверять у выбранного поставщика.