RAG-ассистент — агент, который отвечает на вопросы по документам компании и показывает источник вместо того, чтобы правдоподобно выдумывать; нужен, когда база знаний выросла настолько, что никто уже не помнит её всю наизусть.
У связки «найди — подложи — ответь» есть устоявшееся название: RAG, retrieval-augmented generation. Агент находит в базе куски текста, которые относятся к вопросу (тот самый поиск по смыслу из В5), подкладывает их в разговор перед тем, как отвечать, и формулирует ответ, опираясь именно на них — а не на то, что «помнит» из общего обучения.
Курс держится на одной формуле: агент доводит рутину до хорошего черновика с доказательствами и оставляет решение человеку. RAG — прямое воплощение этой формулы для вопросов и ответов: ответ — черновик, цитата из документа рядом с ним — доказательство, а если в базе знаний ответа нет, честный агент так и скажет, вместо того чтобы выдумать правдоподобную цифру.
Личный пример: ассистент нашей академии отвечает по базе из тысячи с лишним материалов — те же эмбеддинги из В5, поверх них поиск и сборка ответа с указанием источника. Самым сложным оказалось не подключить поиск, а подобрать размер кусков текста, чтобы ответы не обрывались на середине мысли: первая нарезка резала документы…