Языковые модели на устройствах Apple

Private LLM — приложение с разовой оплатой, которое запускает открытые большие языковые модели непосредственно на iPhone, iPad и Mac. После первоначальной загрузки модели подключение к интернету не требуется. Поддерживаются, среди прочих, DeepSeek R1, Llama 3.3, Qwen3, Phi 4 и Gemma 3. Для квантования используются OmniQuant и GPTQ; разработчик связывает этот подход с более высоким качеством ответов по сравнению с сопоставимыми приложениями.

Инструменты и условия использования

Приложение интегрируется с Siri и Apple Shortcuts для создания сценариев без кода. В macOS доступны инструменты в контекстном меню: ими можно переписывать, сокращать или исправлять выделенный текст. Учётная запись и подписка не требуются; приложение не отслеживает пользователей. Семейный доступ предусмотрен для шести человек.