Chat with RTX — локальный чат-бот на основе пользовательских данных

Chat with RTX — демонстрационное приложение NVIDIA, позволяющее создать персонализированного ИИ-чат-бота, подключив к нему собственные источники данных, например документы, заметки или расшифровки видео. Инструмент использует генерацию с дополненной выборкой (RAG), TensorRT-LLM и ускорение RTX для быстрого предоставления контекстно-релевантных ответов.

Локальная работа

Чат-бот работает локально на ПК или рабочих станциях с Windows и RTX. Среди указанных сценариев — ускорение доступа к информации, повышение продуктивности и интеграция специализированного разговорного ИИ в рабочие процессы без облачной обработки.