undi95 — автор моделей и слияний открытых весов
undi95 публикует открытые языковые модели и объединённые версии весов; одна из таких моделей — ReMM SLERP 13B.
undi95 — автор и участник сообщества открытых моделей, публикующий модели и объединённые наборы весов на Hugging Face. Среди известных работ — ReMM SLERP 13B, экспериментальная модель, созданная методом слияния нескольких открытых моделей.
Что такое слияние моделей
Слияние весов объединяет параметры нескольких совместимых моделей без обычного полного цикла дообучения. Метод SLERP интерполирует веса по сферической траектории и может сохранять отдельные свойства исходных моделей. Результат зависит от выбранных источников и параметров объединения: это не гарантирует прирост качества по всем задачам.
Проверка происхождения и лицензий
Для производной модели важно изучить её карточку, базовые модели, использованный метод и лицензии исходных весов. Условия могут накладывать ограничения даже тогда, когда итоговый файл свободно скачивается. Перед коммерческим использованием следует проверить требования каждого исходного проекта.
Где искать релизы
Публичные материалы undi95 размещены на Hugging Face. Там можно посмотреть описание ReMM SLERP, связанные модели и файлы для локального запуска. Наличие готовых квантованных сборок не отменяет различий в качестве и точности между форматами.
Перечень работ доступен в профиле undi95 на Hugging Face.