Llama 3.1 70B — открытая модель Meta для сложных языковых задач

Llama 3.1 70B — большая instruction-tuned модель Meta, представленная 23 июля 2024 года. В семействе она занимает место между компактной 8B и флагманской 405B, сочетая более широкие возможности с меньшими требованиями, чем у крупнейшей версии. Разработчик — Meta AI в Вики Futuretools.

Возможности и особенности

Meta указывала для Llama 3.1 контекст до 128 тысяч токенов, поддержку восьми языков и улучшенное применение инструментов. Версия 70B ориентирована на сложные запросы, длинные тексты, программирование и многошаговый анализ. Для полноценного запуска обычно нужны серверные ресурсы или оптимизированная квантованная сборка.

Где модель может быть полезна

Открытые веса позволяют размещать модель в собственной инфраструктуре и адаптировать её под рабочие процессы. Качество генерации зависит от системной инструкции, набора инструментов и последующей проверки результата; размер 70B сам по себе не гарантирует точность.

Связанные версии

Обзор семейства: Llama 3.1. Более компактная версия — Llama 3.1 8B.

Подробности о выпуске и технических характеристиках приведены в официальной документации разработчика.