Llama Prompt Guard 2

Llama Prompt Guard 2 — обновлённое поколение небольших классификаторов Meta для защиты языковых приложений от prompt injection и jailbreak-попыток. Модели представлены 29 апреля 2025 года в размерах 22M и 86M параметров. Meta сообщает, что уменьшенный вариант быстрее и требует меньше вычислений, а большая версия улучшает распознавание атак по сравнению с исходной Prompt Guard.

Две версии по размеру

22M и 86M параметров

Prompt Guard 2 22M рассчитана на меньшие задержки и ограниченный вычислительный бюджет; модель 86M сохраняет больший размер и предназначена для ситуаций, где важнее качество распознавания. Обе выполняют классификацию входных сообщений и не заменяют основную языковую модель.

Защита от внедрённых команд

Проверка недоверенного ввода

Классификатор помогает находить команды, которые пытаются переопределить системные инструкции или заставить приложение выполнять нежелательные действия. Его можно включить в обработку текста из запросов, документов и других внешних источников. Итоговое решение — отклонить ввод, ограничить его или отправить на дополнительную проверку — принимает приложение.

Первая Prompt Guard

Обновление модели 2024 года

Предыдущая версия Prompt Guard была представлена в июле 2024 года. В 2025 году Meta обновила её в нескольких размерах; отдельная Llama Guard 4 решает соседнюю задачу — модерацию текстового и визуального содержимого, а не классификацию внедрённых инструкций.

Дата выпуска и источник

Что подтверждают материалы разработчика

Meta датирует выпуск 29.04.2025 и называет два размера Prompt Guard 2 — 86M и 22M; компания заявляет улучшение распознавания атак и снижение задержки у малой модели. Первичный источник: официальная публикация или карточка Meta.

Сведения о разработчике и его моделях: Meta в Вики Futuretools.ru.