Консультант с памятью (RAG)

☎️ ДИАЛОГИ И ОБЩЕНИЕ • Шаблон 15 из 25

Краткое содержание:

Система представляет собой AI-консультанта в Telegram, который отвечает на вопросы, используя собственную базу знаний (а также помнит историю диалога). Архитектура решает главную задачу: заставить AI генерировать ответы на основе предоставленных документов, а не выдумывать их. В этом нам помогает RAG.

Архитектура и принцип работы:

Система разделена на два воркфлоу для разграничения задач. Первый — это сам AI-агент, который обрабатывает запросы пользователя в реальном времени. Второй отвечает за пополнение базы знаний. Ключевой элемент — двухуровневая память в Supabase: краткосрочная (история диалога для контекста) и долгосрочная (векторная база знаний для поиска фактов).

Ключевых сценариев два:

Ответ на вопрос пользователя - Telegram Trigger получает сообщение. Если это голос, он транскрибируется через OpenAI Whisper. - Запрос поступает в главный узел Tools Agent. Этот агент имеет доступ к инструменту DATA_TOOL — векторному поиску по базе знаний Supabase. - Происходит семантический поиск: запрос пользователя преобразуется в вектор, и система находит в базе наиболее близкие по смыслу фрагменты текста. - Эти фрагменты вместе с историей диалога (краткосрочной памятью) и самим вопросом отправляются в GPT для генерации финального ответа.

Загрузка нового знания - Второй воркфлоу запускается триггером Google Drive Trigger при появлении нового файла. - Файл скачивается, из него извлекается текст (например, через Extract PDF). - Нода Recursive Character Text Splitter разбивает текст на небольшие, пересекающиеся фрагменты (чанки) — это важно для эффективного векторного поиска. - Каждый чанк преобразуется в эмбеддинг (вектор) через модель Embeddings OpenAI и загружается в базу данных Supabase, пополняя долгосрочную память агента.

Примеры использования:

Эта архитектура позволяет создавать узкоспециализированных ассистентов, работающих с вашими (или клиентскими) данными.

Внутренняя поддержка в компании В базу знаний загружаются все регламенты и инструкции. Агент отвечает на вопросы сотрудников, типа: "Какой у нас рекламный бюджет в этом месяце?", предоставляя точные выдержки из документов.

Техподдержка по продукту База знаний содержит техническую документацию. Агент помогает пользователям решать проблемы, следуя инструкциям, и снижает нагрузку на кожаную поддержку.

Ассистент-аналитик В базу загружаются отчеты, исследования или финансовые сводки. Это позволяет задавать вопросы вроде: "Какие ключевые риски были указаны в отчете за Q3?" или "Сравни рентабельность продуктов А и Б на основе годового отчета".