Искусственный интеллект и AI-интеграции
RAG для бизнеса
Опубликовано
Ответ из вашего файла
Общая модель отвечает «как обычно бывает». В компании нужно «как написано у нас»: в регламенте, в договоре, в карточке товара. Сначала ищут ваш фрагмент, потом по нему формулируют ответ. Связка с базой — в отдельной заметке, работы — на странице интеграции.
Как находится кусок
Документы режут на короткие части и складывают в поисковый индекс. Вопрос сравнивают с частями, несколько ближайших попадают в запрос к модели. Модель пишет ответ по ним и может назвать файл. Весь архив при каждом вопросе она не перечитывает.
Кусок не подпись
Абзац внутреннему сотруднику можно показать сразу. Сообщение клиенту, скидку и вывод «мы так обязаны» ждут человека или правила. Найденный текст — источник черновика, не проведённое решение.
Что попадает в индекс
Только утверждённые документы. Черновики договоров и папки кадров туда не кладут, иначе они всплывут в ответе сотруднику.
Соседняя карточка
Поиск легко приносит карточку похожего товара: слова совпали. Если код в вопросе не совпал с кодом в куске, ответ не отдаём как факт. Доступ к индексу такой же, как к исходным файлам. Удалили файл — кусок убирают при обновлении.
Объём и пересборка
Сборку держат число документов и то, как часто их меняют. Каждый вопрос — поиск плюс вызов модели. Слишком длинные куски и полная пересборка на каждую правку увеличивают и работу, и промахи.
Одна и та же страница
Если на вопрос всегда отвечает одна страница, дайте на неё ссылку. Индекс по всему архиву здесь не нужен.
Вопросы
RAG — это отдельная модель?
Нет. Сначала поиск находит кусок вашего документа, затем модель формулирует ответ по этому куску.
Что будет, если фрагмент не найден?
Ответ должен сказать, что в ваших документах фрагмента нет, а не заполнять пробел общей памятью.
Индекс можно открыть шире, чем папку?
Нет. Доступ к кускам режут так же, как к исходным файлам. Удалённый файл убирают из индекса при обновлении.