PrismML — эффективные открытые модели для локального ИИ

PrismML разрабатывает компактные модели семейства Bonsai и методы низкоразрядного сжатия, позволяющие запускать мультимодальные системы на локальных устройствах.

PrismML — американская компания в области искусственного интеллекта, которая разрабатывает модели и инструменты для эффективного локального запуска. Команда PrismML выросла из исследователей Caltech; её направление — повысить полезные возможности модели на каждый гигабайт памяти, не ограничивая применение только облачной инфраструктурой.

Подход PrismML

Сжатие без потери основной функциональности

В центре линейки Bonsai — низкоразрядные представления весов. Они уменьшают файлы модели и требования к памяти по сравнению с полной точностью. Компания развивает тернарный формат, в котором веса кодируются тремя значениями, а также сборки для разных размеров устройств и вычислительных платформ.

Семейство Bonsai

Модели Bonsai предназначены для работы с текстом и изображениями, рассуждений, программирования и вызова инструментов. В сентябре 2026 года PrismML представила Ternary Bonsai 2 27B на основе Qwen3.8. Компания сообщает, что файл весов занимает около 5,9 ГБ и сохраняет 98,2% результата базовой модели в собственном наборе из 20 тестов.

Локальные модели и аппаратные платформы

Для разных версий семейства доступны форматы GGUF и MLX, а также собственные инструменты PrismML для запуска. Поддержка конкретных функций зависит от модели и движка: например, наличие текстовой модели не означает поддержку обработки изображений, если визуальная часть не включена в выбранную сборку.

Компания и исследования

PrismML публикует модели, технические материалы и демонстрации на собственном сайте и Hugging Face. Подробная карточка одного из актуальных выпусков: Ternary Bonsai 2 27B.

Официальные источники