Mistral 7B 0.3

Mistral 7B 0.3 — версия модели с расширенным до 32 768 элементов словарём токенизатора и контекстом 32 тысячи токенов.

Mistral 7B 0.3 — минорное обновление модели, опубликованное 22 мая 2024 года. Официальная карточка указывает контекст 32 тысячи токенов и Apache 2.0. В модельной карте разработчика главное изменение сформулировано точно: словарь увеличен до 32 768 элементов по сравнению с v0.2.

Что изменилось в v0.3

Расширенный словарь токенизатора

Mistral называет v0.3 обновлением v0.2 с расширенным словарём. В репозитории модели перечислены файлы токенизатора третьей версии. Это затрагивает разбиение текста на токены и совместимость артефактов: при использовании весов важно загружать токенизатор из того же релиза, а не подменять его файлами другой версии.

Контекст и варианты весов

32K для Base и Instruct

Карточка API показывает 32K контекста, а для модели опубликованы Base и Instruct-веса. Base подходит для дальнейшего обучения; Instruct настроена на выполнение пользовательских инструкций. Оба варианта относятся к одной датированной версии и распространяются по Apache 2.0.

Связь с предыдущими моделями

v0.2 и компактные Ministral

До v0.3 вышла Mistral 7B 0.2, где контекст был расширен до 32K. Для периферийного запуска разработчик позднее представил Ministral 3B и Ministral 8B. Эти модели имеют отдельные названия и самостоятельные страницы.

Дата выпуска и источник

Что подтверждают материалы разработчика

Официальные Mistral Docs и карточка репозитория указывают дату 22.05.2024, контекст 32K, Apache 2.0 и расширение словаря до 32 768 элементов; API-версия завершила работу 30.03.2025. Первичный источник: официальная публикация или карточка Mistral AI.

Сведения о разработчике и его моделях: Mistral AI в Вики Futuretools.ru.