Тег: Локальные модели

Nemotron 3.5 Bolt E4B — локальная модель NVIDIA для помощников и роботов: 64K контекст, вызов инструментов и запуск на Jetson Orin Nano 8GB.

Aggressive-вариант Qwen3.8-27B от HauhauCS отвечает без отказов в тесте автора на 465 запросах. Модель поддерживает изображения и видео, имеет контекст 262K и доступна в нескольких GGUF-квантизациях.

Nemotron 3.5 Super VL — открытая мультимодальная модель NVIDIA на 120 млрд параметров, из которых 12 млрд активны на шаг. Она анализирует текст, изображения и видео, поддерживает контекст до 1 млн токенов и предназначена для запуска на мощной GPU-инфраструктуре.

Nemotron 3.5 Bolt — мультимодальная модель NVIDIA на 74 млрд параметров, из которых 9 млрд задействуются при генерации. Специально сжатая версия рассчитана на запуск в пределах 24 ГБ памяти.

Подборка GGUF-моделей Gemma, Qwen и MiniCPM для смартфона: размеры файлов, требования к памяти и ограничения пользовательских uncensored-сборок.

LFM2.5-24B-A2B — текстовая модель Liquid AI для локальных ИИ-агентов: 24 млрд параметров, контекст 131 тыс. токенов и вызов инструментов.

Light-OCR распознаёт текст в изображениях и PDF на устройстве. Библиотека для Node.js и C++ возвращает строки, координаты и оценку уверенности.

Whistle — открытая модель Cactus Compute весом 16,9 МБ для локального распознавания речи на CPU. Семь языков, метки времени слов и Python API.

FunctionGemma — модель Google на базе Gemma 3 270M, обученная преобразовывать естественные команды в структурированные вызовы функций и API.

Mu — компактная локальная модель Microsoft на 330 млн параметров для управления настройками Windows.

Multimodal Phi Silica добавляет анализ изображений к локальной модели Microsoft для Copilot+ PC.

Phi Silica — локальная языковая модель Microsoft для функций Copilot+ PC и приложений Windows.