Локальный чат с языковыми моделями

Atomic Chat — бесплатное приложение с открытым исходным кодом, которое запускает языковые модели непосредственно на устройстве. Оно поддерживает более 1 000 моделей, включая Llama, Qwen, Gemma и Mistral, в форматах GGUF и ONNX. Приложение работает без интернета и облака, учётной записи не требуется; код доступен для проверки.

Запуск и локальная автоматизация

TurboQuant используется для ускорения вывода и экономии памяти. Встроенные агентные функции позволяют ИИ выполнять действия и автоматизировать рабочие процессы, а локальная память сохраняется между сеансами.