DeepSeek-V2-Lite

DeepSeek-V2-Lite — компактная открытая модель с архитектурой MoE: 16 млрд параметров и 32 тысячи токенов контекста.

DeepSeek сообщила о выпуске V2-Lite 16 мая 2024 года. Официальная карточка указывает 16 млрд параметров общей ёмкости, 2,4 млрд активных параметров и контекст до 32 тысяч токенов.

Компактная модель семейства V2

V2-Lite уменьшает масштаб основной DeepSeek-V2, сохраняя схему смеси экспертов. Это облегчает самостоятельный запуск по сравнению с полной моделью, хотя требования зависят от формата весов, точности и числа видеокарт.

Чем Lite отличается от Lite-Chat

В официальном списке моделей отдельно указаны базовая V2-Lite и V2-Lite-Chat, дообученная для диалогового использования. Эта карточка посвящена базовому варианту; чат-версия вынесена отдельно.

Место в истории DeepSeek

V2-Lite вышла через десять дней после основной V2 и до нескольких обновлений API. Откройте DeepSeek-V2 DeepSeek-V2-Lite-Chat DeepSeek-V2-0517

Другие выпуски DeepSeek собраны на странице разработчика в Вики Futuretools.ru.

Дата и сведения сверены с официальным источником DeepSeek. Дата и размеры модели взяты из раздела News и таблицы моделей в официальном репозитории DeepSeek-V2.