PromptGuard
Фильтрует запросы к языковым моделям в реальном времени: блокирует prompt injection, скрывает персональные данные и предотвращает утечки.
Фильтрация запросов к языковым моделям
PromptGuard проверяет и очищает промпты и связанный с ними контекст в реальном времени, прежде чем передать запрос модели. Для этого используются эвристики, классификаторы машинного обучения и детекторы на базе языковых моделей. Система блокирует prompt injection, скрывает персональные данные и помогает предотвращать утечки.
Политики, журналы и поддерживаемые провайдеры
Заявленная задержка составляет менее 40 мс. Можно настраивать политики, просматривать журналы и аналитику. PromptGuard поддерживает OpenAI, Anthropic, Google/Gemini, Groq и Azure.