VaultGemma

VaultGemma — открытая языковая модель Google размером 1 млрд параметров, представленная 13 сентября 2025 года. Её официальный checkpoint — google/vaultgemma-1b. Особенность модели — обучение с дифференциальной приватностью на уровне последовательностей. Google указывает гарантию ε ≤ 2,0 и δ ≤ 1,1×10⁻¹⁰. Модель опубликована как исследовательская основа для изучения того, как приватность данных обучения влияет на способность модели усваивать полезные закономерности.

Что означает дифференциальная приватность

Ограничение влияния отдельного примера

Дифференциальная приватность задаёт математическую границу того, насколько присутствие одного примера в обучающем наборе может повлиять на распределение результатов модели. В случае VaultGemma Google приводит параметры гарантии на уровне последовательностей. Это полезнее понимать как формальную гарантию для процедуры обучения, а не как утверждение, что модель или приложение автоматически защищают любые данные при дальнейшей эксплуатации.

Исследовательская цель и компромиссы

Приватность, ресурсы и качество рассматриваются вместе

VaultGemma создавали с нуля, чтобы исследовать масштабирование языковых моделей при дифференциально-приватном обучении. Google описывает работу как исследование компромисса между вычислительными затратами, уровнем приватности и полезностью модели. Размер 1B предназначен, в частности, для последующего обучения специализированных моделей; карточка не заявляет, что VaultGemma является готовой корпоративной системой управления конфиденциальными данными.

Что проверить перед применением

Гарантия обучения не заменяет аудит системы

Если команда рассматривает приватное дообучение, нужно сверить точные параметры алгоритма и гарантии с техническим отчётом, проверить, распространяются ли они на выбранный fine-tuning и какие данные входят в расчёт. Также следует оценить качество на целевых сценариях: усиление приватности может менять полезность и поведение модели. Сама по себе загрузка открытых весов не делает приложение соответствующим законодательным или отраслевым требованиям.

Связь с семейством Gemma

Открытая основа для экспериментов

VaultGemma относится к линейке открытых весов Google, но выделяется приватностно-ориентированным способом обучения. Для сопоставления с базовыми моделями смотрите Gemma 3 и Gemma 4. Их характеристики или гарантии нельзя автоматически переносить на VaultGemma.

Связанные модели и разработчик

Страницы семейства Gemma

Gemma 3 · Gemma 4 · FunctionGemma · Google DeepMind в Вики Futuretools

Первичные источники

Документация Google и даты выпусков

страница VaultGemma · официальный журнал выпусков Gemma