Private LLM
Запускает открытые языковые модели на iPhone, iPad и Mac без подключения к интернету после загрузки модели.
Языковые модели на устройствах Apple
Private LLM — приложение с разовой оплатой, которое запускает открытые большие языковые модели непосредственно на iPhone, iPad и Mac. После первоначальной загрузки модели подключение к интернету не требуется. Поддерживаются, среди прочих, DeepSeek R1, Llama 3.3, Qwen3, Phi 4 и Gemma 3. Для квантования используются OmniQuant и GPTQ; разработчик связывает этот подход с более высоким качеством ответов по сравнению с сопоставимыми приложениями.
Инструменты и условия использования
Приложение интегрируется с Siri и Apple Shortcuts для создания сценариев без кода. В macOS доступны инструменты в контекстном меню: ими можно переписывать, сокращать или исправлять выделенный текст. Учётная запись и подписка не требуются; приложение не отслеживает пользователей. Семейный доступ предусмотрен для шести человек.