RAG (Retrieval-Augmented Generation) — подход, в котором генерацию ответа дополняют поиском подходящих материалов и передачей найденного контекста модели. Источником может быть база документов или поиск; конкретная реализация различается.
Как устроен процесс
Система ищет фрагменты, отбирает их и формирует контекст для ответа. Поиск может быть векторным, текстовым или комбинированным. Например, справочный помощник ищет действующие условия в базе компании, а затем составляет ответ со ссылкой на документ.
Границы
RAG не гарантирует актуальность, полноту и истинность: можно найти устаревший фрагмент или неверно его интерпретировать. Нужны проверка источника и соответствия ответа. Не всякая публичная ИИ-система использует одинаковую архитектуру, а наличие ясного текста или разметки не гарантирует его извлечения и цитирования. RAG также не требует обязательного графа знаний или фиксированной длины абзаца.