Phi-2

Microsoft Research выпустила Phi-2 12 декабря 2023 года. Модель на 2,7 млрд параметров стала следующим поколением после Phi-1 и Phi-1.5: разработчики сосредоточились на понимании языка, здравом смысле и логических задачах при малом размере модели.

Что умеет Phi-2

Текстовые задачи и логические ответы

Модель предназначена для продолжения и анализа текста, ответов на вопросы, базового рассуждения и задач с кодом. В релизе Microsoft сообщила о результатах на академических бенчмарках, где Phi-2 сравнивалась с моделями, заметно крупнее по числу параметров. Эти тесты помогают понять исследовательские возможности, но не заменяют оценку на данных конкретной компании.

Размер и публикация

Весы доступны для исследовательского запуска

Phi-2 включает 2,7 млрд параметров и опубликована как открытая модель на Hugging Face и в каталоге Azure AI Studio. Разработчик отмечал, что малый размер облегчает эксперименты с интерпретируемостью, безопасностью и дообучением. Для локального запуска всё равно требуется совместимое оборудование и проверка условий лицензии.

Что учитывать

Небольшая модель не равна универсальному ассистенту

Phi-2 не предоставляет сама по себе интерфейс, поиск, подключение к внутренним данным или защиту от ошибок. Модель может уверенно выдавать неверную информацию и не знает событий после среза обучающих данных. Перед использованием необходимо настроить обработку запросов, оценить ответы и ограничить применение в сценариях с высокой ценой ошибки.

Что изменилось по сравнению с Phi-1.5

Больше параметров и шире набор текстовых задач

Phi-2 выросла до 2,7 млрд параметров, а её обучение было нацелено на общие языковые навыки и рассуждения, а не только на Python. В анонсе Microsoft отдельно упоминает здравый смысл, понимание языка и математические задачи. Такой переход сделал семейство Phi заметнее за пределами генерации кода, но сам по себе не превратил Phi-2 в универсальный сервис: модель поставлялась как исследовательские веса и требует собственной оболочки.

Доступность и оценка

Сопоставляйте модель с конкретной задачей

Microsoft опубликовала модель для локальных экспериментов и предоставила её через Azure AI Studio. В статье представлены результаты на наборах тестов общего понимания и рассуждения, а также описаны улучшения при подготовке синтетических данных. При повторении этих показателей важно учитывать формат запроса, настройку и оборудование. Для прикладного сценария следует отдельно проверить качество на собственных русскоязычных примерах: опубликованные оценки не являются гарантией результата на русском языке.

Связанные модели и разработчик

Другие версии семейства Phi

Phi-1.5 · Phi-3 Mini · Phi-3 Small · Phi-4 · Microsoft AI в Вики Futuretools

Первичные источники

Материалы Microsoft и карточки опубликованных весов

анонс Phi-2 от Microsoft Research · официальные веса Phi-2 от Microsoft