Консультант с памятью (RAG)

Краткое содержание:

Система представляет собой AI-консультанта в Telegram, который отвечает на вопросы, используя собственную базу знаний (а также помнит историю диалога). Архитектура решает главную задачу: заставить AI генерировать ответы на основе предоставленных документов, а не выдумывать их. В этом нам помогает RAG.

Архитектура и принцип работы:

Система разделена на два воркфлоу для разграничения задач. Первый — это сам AI-агент, который обрабатывает запросы пользователя в реальном времени. Второй **отвечает за пополнение базы знаний. Ключевой элемент — двухуровневая память в Supabase: краткосрочная (история диалога для контекста) и долгосрочная (векторная база знаний для поиска фактов).

Ключевых сценариев два:

1. Ответ на вопрос пользователя
   - Telegram Trigger получает сообщение. Если это голос, он транскрибируется через OpenAI Whisper.
   - Запрос поступает в главный узел Tools Agent. Этот агент имеет доступ к инструменту DATA_TOOL — векторному поиску по базе знаний Supabase.
   - Происходит семантический поиск: запрос пользователя преобразуется в вектор, и система находит в базе наиболее близкие по смыслу фрагменты текста.
   - Эти фрагменты вместе с историей диалога (краткосрочной памятью) и самим вопросом отправляются в GPT для генерации финального ответа.
2. Загрузка нового знания
   - Второй воркфлоу запускается триггером Google Drive Trigger при появлении нового файла.
   - Файл скачивается, из него извлекается текст (например, через Extract PDF).
   - Нода Recursive Character Text Splitter разбивает текст на небольшие, пересекающиеся фрагменты (чанки) — это важно для эффективного векторного поиска.
   - Каждый чанк преобразуется в эмбеддинг (вектор) через модель Embeddings OpenAI и загружается в базу данных Supabase, пополняя долгосрочную память агента.

Примеры использования:

Эта архитектура позволяет создавать узкоспециализированных ассистентов, работающих с вашими (или клиентскими) данными.

• Внутренняя поддержка в компании
  В базу знаний загружаются все регламенты и инструкции. Агент отвечает на вопросы сотрудников, типа: "Какой у нас рекламный бюджет в этом месяце?", предоставляя точные выдержки из документов.
• Техподдержка по продукту
  База знаний содержит техническую документацию. Агент помогает пользователям решать проблемы, следуя инструкциям, и снижает нагрузку на кожанную поддержку.
• Ассистент-аналитик
  В базу загружаются отчеты, исследования или финансовые сводки. Это позволяет задавать вопросы вроде: "Какие ключевые риски были указаны в отчете за Q3?" или "Сравни рентабельность продуктов А и Б на основе годового отчета".