OrcaCyber DeepSeek V4.1 Flash 1017 Abliterated

OrcaRouter опубликовала GGUF-веса DeepSeek V4.1 Flash 1017 с ослабленным механизмом отказов. Это не новый выпуск команды DeepSeek, а изменённая сборка её модели, рассчитанная на локальный запуск и исследования безопасности ИИ. Полная версия очень велика: для рекомендуемой сборки нужны примерно 236 ГБ памяти и более 346 ГБ дискового пространства.

Модель рассчитана на авторизованные исследования: проверку отказов, оценку устойчивости и red team-тестирование. Если нужен исходный выпуск без модификаций, смотрите страницу DeepSeek V4.1 Flash 1017. Другой вариант OrcaCyber на базе открытой модели описан в статье OrcaCyber Qwen3.8 Flash Next Abliterated.

Что именно выпустила OrcaRouter

Производная версия DeepSeek V4.1 Flash 1017

В репозитории на Hugging Face размещены квантованные GGUF-файлы производной версии DeepSeek V4.1 Flash 1017. Базовая модель — система «смеси экспертов» (Mixture of Experts, MoE) с 763 млрд параметров и контекстом до миллиона токенов. В каждом вычислении задействуется только часть экспертных блоков, но полный набор весов всё равно нужно разместить в памяти компьютера или на подключённом накопителе. Для анализа изображений опубликован отдельный проектор. Фактический размер контекста и скорость локальной работы зависят от сборки движка и доступной памяти.

Что означает abliterated

Термин abliterated здесь означает, что в весах изменён механизм, связанный с отказом на часть запросов. OrcaRouter позиционирует вариант как инструмент для легитимных исследований безопасности. Он не становится из-за этого точнее и не гарантирует правильных ответов; его выводы требуют обычной проверки.

Сколько памяти нужно для локального запуска

На странице весов доступны две сборки. Цифры памяти и размера загрузки приводит сам автор репозитория:

Mix-256G: рекомендуемая сборка

Mix-256G требует 235,8 ГБ памяти и 346,5 ГБ дискового пространства. В общий размер загрузки входит таблица Engram объёмом около 110,6 ГБ: она остаётся на SSD и подгружается по мере работы. На отложенном текстовом наборе выбор следующего токена совпал с исходной моделью в 93,7% случаев, а perplexity — показатель затруднённости предсказания текста — выросла на 2,4%. Это сравнение моделей на текстовом материале, а не оценка качества ответов в прикладных задачах.

Mix-128G: запуск с сильным снижением качества

Вариант «для 128 ГБ» помещается лишь с небольшим запасом: около 114 ГБ займёт модель, не считая операционной системы и самой программы. Его автор не считает эту сборку полноценной заменой версии на 256 ГБ. На том же тесте выбор следующего токена совпал с исходной моделью в 78,5% случаев, а perplexity выросла на 54,7%. Авторы советуют использовать её скорее для пробного запуска.

Что известно о снижении числа отказов

Как считали долю отказов

OrcaRouter сообщает о 91,5% меньшем числе отказов. В карточке модели приведены собственные измерения: на 500 вредоносных запросах средняя доля отказов снизилась с 87,4% у исходной контрольной точки до 7,4% у модифицированной версии. Проверка выполнялась на восьми ускорителях H200; ответы оценивал простой классификатор по начальным фразам. Авторы называют эти цифры ориентировочными, а не научной оценкой уровня публикации.

MMLU: один тест не доказывает сохранение всех возможностей

На тесте MMLU, который проверяет знания по широкому кругу дисциплин, изменённая модель набрала 92% против 91% у исходной. Но выборка включала только 300 вопросов. В самой карточке Hugging Face говорится, что разница укладывается в погрешность выборки и что это единственная проверка сохранности обычных возможностей. Поэтому утверждение «практически без потери способностей» не следует распространять на все типы задач.

Важно и то, что эти результаты получены на контрольной точке до квантования. Для файлов GGUF напрямую повторно проверили согласие распределений на текстовом наборе, а не все тесты отказов и знаний. Особенно осторожно стоит относиться к Mix-128G: автор указывает, что её поведение может заметно отличаться от исходной версии.

Как использовать веса

Локальный запуск

На странице Hugging Face перечислены GGUF-сборки и инструкции для llama.cpp. Сами файлы доступны после входа в аккаунт и принятия условий доступа — публичная карточка не означает анонимную загрузку. На момент публикации модели DeepSeek V4.1 ещё не было в основной ветке llama.cpp: для запуска авторы указывают специальную ветку изменений. Перед загрузкой сотен гигабайт проверьте актуальные требования, версию движка и доступное место на диске. Установка модели не сводится к загрузке одного файла: набор разделён на части, а таблица Engram хранится отдельно от памяти, в которой работает модель.

Облачный API OrcaRouter

У OrcaRouter есть также облачный API для этой модели. На странице сервиса она называется OrcaCyber DeepSeek V4.1 Flash Abliterated и доступна в рамках проверенного уровня Security Research, а не как обычный открытый endpoint. API-вариант не требует локально размещать веса, но запросы обрабатываются провайдером. Условия доступа и цену следует сверять на странице модели OrcaRouter.

Ограничения и ответственное применение

Назначение — исследования безопасности

В репозитории указано исследовательское назначение: изучение механизмов отказа, безопасности ИИ, устойчивости и разрешённое тестирование. У ослабления отказов есть очевидная обратная сторона: локальная модель может отвечать на запросы, которые исходная версия отклонила бы. Если её подключают к агенту или инфраструктуре, доступ к файлам, сети и системным командам нужно ограничить отдельно; сами веса таких ограничений не обеспечивают.

Весам назначена лицензия MIT, унаследованная от базовой модели. Перед использованием следует проверить условия лицензии и соблюдать применимое законодательство. Автор репозитория отдельно предупреждает, что ответственность за применение и результаты работы лежит на пользователе.

Скачать веса и проверить инструкции можно в репозитории OrcaRouter на Hugging Face. Конечная ссылка на API: OrcaCyber DeepSeek V4.1 Flash Abliterated.

Открыть GGUF-веса на Hugging Face