Phi-3 Small

Microsoft представила Phi-3 Small на конференции Build 21 мая 2024 года как расширение линейки Phi-3. Версия содержит 7 млрд параметров и рассчитана на задачи, для которых Mini может не обеспечить нужную глубину обработки, но крупные модели слишком дороги или требовательны к оборудованию.

Место в семействе

Средний размер между Mini и Medium

Phi-3 Small расположена между 3,8-миллиардной Mini и 14-миллиардной Medium. Microsoft открыла варианты Instruct с контекстом 8K и 128K: microsoft/Phi-3-small-8k-instruct и microsoft/Phi-3-small-128k-instruct. Они относятся к одному поколению; основной выбор зависит от требуемого контекста и аппаратных ограничений.

Обработка инструкций

Языковые и кодовые сценарии

Модель обучена отвечать на инструкции и подходит для генерации текста, программирования, анализа материалов и составных запросов. В анонсе Microsoft приводит результаты собственных сравнений с другими компактными моделями. Для рабочего выбора следует повторить оценку на типовых запросах компании, а не ориентироваться только на общий рейтинг.

Память и качество

Условия запуска влияют на результат

Более крупная модель требует больше вычислительной памяти, чем Phi-3 Mini. Вариант длинного контекста увеличивает требования ещё сильнее. Веса можно дообучать и развёртывать в совместимой среде, однако потребуется проверять качество ответов, лицензирование, безопасность данных и скорость на целевом оборудовании.

Место Phi-3 Small в линейке

Промежуточный размер между Mini и Medium

Версия Small на 7 млрд параметров заняла среднее положение между Phi-3 Mini на 3,8 млрд и Phi-3 Medium на 14 млрд. Microsoft выпустила варианты инструкционной настройки с окнами 8K и 128K. Различия 8K и 128K касаются доступной длины контекста; это не две новые модели с отдельными релизами. Веса распространяются отдельными официальными репозиториями, приведёнными в списке источников.

Когда рассматривать эту модель

Баланс размера и доступного контекста

Phi-3 Small может быть промежуточным вариантом, если Mini недостаточно на конкретных тестах, а Medium предъявляет чрезмерные требования к памяти. Перед выбором нужно сравнить не только число параметров, но и качество на целевых задачах, формат весов, выбранное окно контекста и скорость на доступном оборудовании. Microsoft публиковала бенчмарки для своего набора задач; при переносе на русский язык их следует перепроверить.

Связанные модели и разработчик

Другие версии семейства Phi

Phi-3 Mini · Phi-3 Medium · Phi-3 Vision · Phi-3.5 Mini · Microsoft AI в Вики Futuretools

Первичные источники

Материалы Microsoft и карточки опубликованных весов

анонс Phi-3 Small, Medium и Vision на Microsoft Build · вариант Phi-3 Small с контекстом 8K · вариант Phi-3 Small с контекстом 128K