Qwen2.5

Qwen2.5 — семейство языковых моделей Alibaba Cloud, представленное 19 сентября 2024 года. В основной линейке опубликованы размеры 0,5B, 1,5B, 3B, 7B, 14B, 32B и 72B. Отдельно разработчик выпустил специализированные ветки для программирования и математики, а также модели для визуальных задач. Поэтому страница описывает базовое текстовое семейство; специализированные версии разобраны отдельно.

Работа с текстом и длинным контекстом

По описанию Qwen Team, модели обучались на данных объёмом до 18 трлн токенов и улучшили следование инструкциям, создание длинных ответов, работу с таблицами и выдачу структурированных данных, например JSON. Заявленная поддержка включает более 29 языков, среди них русский. Для базового семейства указаны контекст до 128 тысяч токенов и генерация до 8 тысяч токенов. Эти пределы зависят от конкретной версии и программной оболочки.

Как выбрать размер

Небольшие модели проще запускать на локальном оборудовании и использовать для узких задач; варианты 32B и 72B требуют больше памяти и вычислений, но подходят для более широкого спектра запросов. Параметры модели — только один фактор: производительность зависит также от длины контекста, точности вычислений и скорости используемого ускорителя.

Специализированные ветки

Для программного кода Alibaba развивала Qwen2.5-Coder, для вычислений и математических задач — Qwen2.5-Math. Визуальный анализ изображений и видео поддерживает Qwen2.5-VL. У опубликованных весов условия лицензии могут различаться между размерами; перед коммерческим внедрением проверяйте лицензию конкретного файла.

Сведения о разработчике и его моделях: Alibaba в Вики Futuretools.ru.

Официальный источник: материал разработчика.