Llama 3.2 1B — языковая модель для локальных и мобильных устройств

Llama 3.2 1B — самая компактная версия текстовой линейки Llama 3.2, выпущенная Meta 25 сентября 2024 года. Модель рассчитана на периферийные устройства и мобильные сценарии, где важны небольшие требования к памяти и возможность выполнять запросы рядом с пользователем. Разработчик — Meta AI в Вики Futuretools.

Возможности и особенности

Версия 1B предназначена для генерации текста и не относится к мультимодальным моделям 11B и 90B, которые Meta выпустила в составе того же семейства. Для лёгких вариантов компания заявила контекст до 128 тысяч токенов, многоязычный текстовый ввод и функции для краткого пересказа, переформулирования и следования инструкциям.

Где модель может быть полезна

Небольшой размер облегчает локальное развёртывание, но у такой модели ограничен запас знаний и глубина решения сложных задач по сравнению с более крупными вариантами. Она уместна для простых операций на устройстве, предварительной обработки текста и функций, которым не нужен внешний облачный запрос.

Связанные версии

Обзор семейства: Llama 3.2. Версия с большим запасом возможностей — Llama 3.2 3B.

Подробности о выпуске и технических характеристиках приведены в официальной документации разработчика.