К содержанию
BotLab

Искусственный интеллект и AI-интеграции

RAG для бизнеса

Опубликовано

Ответ из вашего файла

Общая модель отвечает «как обычно бывает». В компании нужно «как написано у нас»: в регламенте, в договоре, в карточке товара. Сначала ищут ваш фрагмент, потом по нему формулируют ответ. Связка с базой — в отдельной заметке, работы — на странице интеграции.

Как находится кусок

Документы режут на короткие части и складывают в поисковый индекс. Вопрос сравнивают с частями, несколько ближайших попадают в запрос к модели. Модель пишет ответ по ним и может назвать файл. Весь архив при каждом вопросе она не перечитывает.

Кусок не подпись

Абзац внутреннему сотруднику можно показать сразу. Сообщение клиенту, скидку и вывод «мы так обязаны» ждут человека или правила. Найденный текст — источник черновика, не проведённое решение.

Что попадает в индекс

Только утверждённые документы. Черновики договоров и папки кадров туда не кладут, иначе они всплывут в ответе сотруднику.

Соседняя карточка

Поиск легко приносит карточку похожего товара: слова совпали. Если код в вопросе не совпал с кодом в куске, ответ не отдаём как факт. Доступ к индексу такой же, как к исходным файлам. Удалили файл — кусок убирают при обновлении.

Объём и пересборка

Сборку держат число документов и то, как часто их меняют. Каждый вопрос — поиск плюс вызов модели. Слишком длинные куски и полная пересборка на каждую правку увеличивают и работу, и промахи.

Одна и та же страница

Если на вопрос всегда отвечает одна страница, дайте на неё ссылку. Индекс по всему архиву здесь не нужен.

Вопросы

RAG — это отдельная модель?

Нет. Сначала поиск находит кусок вашего документа, затем модель формулирует ответ по этому куску.

Что будет, если фрагмент не найден?

Ответ должен сказать, что в ваших документах фрагмента нет, а не заполнять пробел общей памятью.

Индекс можно открыть шире, чем папку?

Нет. Доступ к кускам режут так же, как к исходным файлам. Удалённый файл убирают из индекса при обновлении.