AuroraASR-1M — крошечная модель для локальной расшифровки английской речи

AuroraASR-1M распознаёт английскую речь и может работать локально — без отправки аудиозаписи в облачный сервис. В самой компактной версии INT8 веса модели занимают 1,06 МБ. Разработчик также сообщает о скорости до 436 раз выше реального времени на одном потоке CPU.

За эти цифры приходится платить ограничениями: модель заметно уступает Whisper Tiny по точности, понимает только английский язык и выдаёт текст строчными буквами без пунктуации. Это экспериментальная компактная модель для сценариев, где размер и скорость важнее готового к публикации текста.

Как модель помещается в 1,06 МБ

AuroraASR-1M содержит около 949 тысяч параметров и использует архитектуру Conformer-CTC. Для распознавания ей не требуется отдельная языковая модель: аудио преобразуется в признаки, обрабатывается акустической моделью, а затем декодируется в последовательность символов.

Размер зависит от точности хранения весов: FP32 занимает 3,81 МБ, FP16 — 1,91 МБ, а INT8 — 1,06 МБ. Меньший файл проще хранить и загружать на устройство с ограниченной памятью. При этом, по пояснению разработчика, переход на INT8 сам по себе не ускоряет вычисления — скорость зависит от процессора, реализации и настроек запуска.

Работа без облачного распознавания

После загрузки весов модель можно запускать на CPU или GPU локально. Она обучена на англоязычном наборе LibriSpeech и принимает монофонический звук с частотой 16 кГц. Внешний языковой сервис для распознавания не используется.

Что означает скорость 436×

Разработчик измерял не только работу нейросети, но весь конвейер: извлечение признаков из аудио, распознавание и CTC-декодирование. В тесте использовали FP32, один поток одного виртуального CPU, закреплённый за ядром, и пакет размером один. На записи общей длительностью 13,3 минуты конвейер обработал звук со скоростью примерно 436× от реального времени.

В пересчёте на эту заявленную скорость десять минут аудио заняли бы около 1,4 секунды. Это результат конкретной тестовой среды, а не обещание такой же производительности на любом ноутбуке или телефоне. Для RTX PRO 6000 Blackwell в карточке модели указано 1 362× реального времени.

Почему размер и разрядность — не вся производительность

Малый объём весов снижает требования к хранению и передаче модели, но фактическая скорость зависит также от вычислительного устройства и программного конвейера. Поэтому сравнивать устройства следует на одинаковых аудиофайлах и с одинаковыми настройками декодирования.

Скорость — ценой точности

На тестовой части LibriSpeech test-clean AuroraASR-1M показала WER 11,43%, а на более сложной test-other — 26,50%. Для сравнения, в карточке приведены результаты Whisper Tiny English: 5,6% и 14,6% соответственно. Чем ниже WER, тем меньше ошибок в распознанных словах, поэтому по этим значениям Whisper Tiny точнее.

Разработчик предупреждает, что сравнение не идеально: модели могли оцениваться с разной нормализацией текста. В частности, Aurora выдаёт только строчные буквы без знаков препинания, а результаты сопоставлялись на нормализованном тексте. Тем не менее опубликованные цифры показывают главное практическое различие: Aurora экономит место и быстро обрабатывает звук, но хуже подходит там, где важна точная расшифровка.

Ограничения перед использованием

AuroraASR-1M рассчитана только на английскую речь. Она не расставляет запятые и точки и не сохраняет заглавные буквы, поэтому результат может потребовать дополнительной обработки. Это распознаватель речи, а не готовый диктофон с редактором, переводчиком или обработчиком команд.

• Подходит: для локального распознавания коротких англоязычных фраз, прототипов голосового управления и устройств, где критичны размер модели и автономная работа.
• Потребует доработки: если нужны пунктуация, форматирование текста, другая языковая поддержка или обработка шумных записей.
• Проверьте на своих данных: итоговая точность зависит от акцента, микрофона, фонового шума и условий записи.

Как запустить AuroraASR-1M

Модель опубликована на Hugging Face и поддерживает загрузку через библиотеку Transformers. Для этого способа в примере разработчика используется параметр trust_remote_code=True: он разрешает библиотеке выполнить код модели из репозитория. Перед запуском такого кода стоит просмотреть файлы проекта и проверить, что вы доверяете его автору.

Вес модели выпущен по лицензии Apache-2.0. AuroraASR-1M стоит рассматривать как узкоспециализированный вариант для локального распознавания, а не как замену более точным системам транскрибации. Если на первом месте точность и удобочитаемая расшифровка, опубликованные тесты говорят в пользу Whisper Tiny; если важны минимальный размер и скорость на ограниченном устройстве, Aurora предлагает другой компромисс.

Основные характеристики

• Параметры: 949 073.
• Размер весов: 1,06 МБ INT8; 1,91 МБ FP16; 3,81 МБ FP32.
• Язык: английский.
• Вход: монофоническое аудио, 16 кГц.
• Вывод: строчные буквы, без пунктуации.
• Лицензия: Apache-2.0.