Llama 2

Llama 2 — второе поколение языковых моделей Meta, выпущенное 18 июля 2023 года. Семейство включает модели на 7, 13 и 70 млрд параметров, а для диалоговых задач компания подготовила версии Llama 2-Chat. Meta открыла загрузку весов для исследований и коммерческого использования на условиях собственной лицензии Llama 2.

Базовая и диалоговая модели

Три размера для разных вычислительных условий

Предварительно обученные модели предназначались для дообучения и самостоятельных прикладных задач. Llama 2-Chat дополнительно настраивалась на диалог. Это разные варианты одной линейки, а не последовательные выпуски. Meta публиковала каждый из размеров 7B, 13B и 70B, чтобы разработчики могли выбирать компромисс между ресурсами и возможностями модели.

Что изменилось по сравнению с LLaMA

Шире доступ и отдельная лицензия

Первое семейство LLaMA выдавалось исследователям по заявке. Для Llama 2 Meta открыла веса шире и разрешила коммерческое применение с условиями, перечисленными в лицензии и правилах допустимого использования. Это не стандартная лицензия Apache или MIT: перед внедрением в продукт нужно учитывать ограничения Meta.

Последующие поколения

От Llama 2 к Code Llama и Llama 3

На базе Llama 2 Meta создала отдельную кодовую линейку Code Llama. Следующее универсальное поколение — Llama 3, после которого появились Llama 3.1, Llama 3.2 и Llama 3.3.

Дата выпуска и источник

Что подтверждают материалы разработчика

Meta объявила Llama 2 18.07.2023, указала размеры 7B, 13B и 70B, а также базовые и диалоговые версии. Компания разрешила исследовательское и коммерческое использование на условиях лицензии Llama 2. Первичный источник: официальная публикация или карточка Meta.

Сведения о разработчике и его моделях: Meta в Вики Futuretools.ru.