Llama Guard 4

Llama Guard 4 — модель безопасности Meta на 12 млрд параметров, представленная 29 апреля 2025 года. Она анализирует текст и изображения, чтобы классифицировать небезопасные входные запросы и ответы ИИ-систем. Meta описывает модель как плотную сеть, сокращённую из Llama 4 Scout; в тот же день компания сообщила о её ограниченном предварительном доступе через Llama API.

Текст и изображения в одной проверке

Защита мультимодальных приложений

Guard 4 позволяет проверять текстовые запросы и изображения до передачи их основной модели, а также использовать классификатор для контроля текстовых ответов. Meta перечисляет 14 категорий опасностей, включая злоупотребление интерпретатором кода. Это средство для построения фильтра, а не готовая политика безопасности: реакции на классификацию определяются разработчиком приложения.

Размер и доступ

12B, версия на основе Llama 4 Scout

По материалам Meta, Guard 4 — плотная модель на 12 млрд параметров, полученная сокращением Llama 4 Scout. Для локального развёртывания потребуются ресурсы, соответствующие этой модели; доступ к весам и условия использования регулируются лицензией семейства Llama 4. На момент анонса API был доступен в ограниченном предварительном режиме.

Развитие Llama Guard

От текстовых классификаторов к мультимодальности

До Guard 4 выпускались Guard 3 и отдельная визуальная Guard 3 11B Vision. Guard 4 объединяет работу с текстом и изображениями в одном поколении. Для защиты от атак, встроенных в пользовательские запросы, Meta отдельно обновила Prompt Guard.

Дата выпуска и источник

Что подтверждают материалы разработчика

Анонс Meta от 29.04.2025 подтверждает Llama Guard 4 как мультимодальную защитную модель; официальная карточка указывает 12B, текст и изображения, 14 категорий MLCommons и базу Llama 4 Scout. Первичный источник: официальная публикация или карточка Meta.

Сведения о разработчике и его моделях: Meta в Вики Futuretools.ru.