Gemma

Gemma — первое семейство открытых моделей Google, представленное 21 февраля 2024 года. Компания выпустила веса двух размеров — 2B и 7B параметров; для каждого доступны предварительно обученная и instruction-tuned сборки. Модели обрабатывают текст и формируют текстовый ответ. Это загружаемые веса для самостоятельного запуска и настройки, а не пользовательский чат-сервис. В репозиториях Google варианты называются google/gemma-2b, google/gemma-2b-it, google/gemma-7b и google/gemma-7b-it.

Два размера и две стадии настройки

2B и 7B: базовая и instruction-tuned версии

Pretrained-вариант предназначен для дальнейшего обучения и адаптации. Суффикс -it обозначает модель, дообученную следовать инструкциям; она удобнее как исходная точка для диалогового интерфейса, но не становится готовым продуктом без приложения. Размер влияет на требования к памяти и скорость, поэтому сравнивать варианты следует в одной и той же среде и на одинаковом наборе задач.

Что умеет текстовая модель

Генерация, ответы и суммаризация

В карточке Google Gemma описана как модель для генерации текста, ответов на вопросы, суммаризации и рассуждений. Первая версия ориентирована прежде всего на английский язык. Качество на русском и в специализированной области нельзя выводить из общих тестов: для практического внедрения нужны собственные примеры, оценка ошибок и при необходимости дообучение.

Условия запуска и использования

Открытые веса не отменяют правила лицензии

Google опубликовала веса, инструменты и примеры для локального, серверного и облачного запуска. При распространении или коммерческом использовании необходимо соблюдать действующие условия Gemma и политику допустимого применения. Ответы могут быть неточными, а самостоятельное размещение требует от команды обеспечить безопасность, мониторинг и проверку результатов.

История семейства

Gemma 1.1 — отдельное обновление

5 апреля 2024 года Google выпустила Gemma 1.1 с улучшениями следования инструкциям; эта версия описана на отдельной странице. Далее вышла Gemma 2 с новой архитектурой и большими размерами. Эти даты и версии не следует объединять с первоначальным релизом Gemma.

Связанные модели и разработчик

Модели семейства Gemma

Gemma 1.1 · Gemma 2 · Gemma 3 · Gemma 4 · Google DeepMind в Вики Futuretools

Первичные источники

Документы, карточки и журнал релизов Google

анонс Gemma · карточка Gemma · официальный журнал выпусков Gemma · https://huggingface.co/google/gemma-2b · https://huggingface.co/google/gemma-2b-it · https://huggingface.co/google/gemma-7b · https://huggingface.co/google/gemma-7b-it