Спросите ChatGPT про условия доставки вашего магазина — он уверенно ответит. И соврёт: он никогда не видел ваших условий. Для болтовни это терпимо, для бота поддержки — катастрофа. Лечится это архитектурой под названием RAG. Разберём без математики.
Почему нейросеть выдумывает
Языковая модель не «знает факты» — она продолжает текст правдоподобно. Про то, что было в обучающих данных (Пушкин, Python), правдоподобно совпадает с правдой. Про ваш прайс в обучающих данных не было ничего — и модель генерирует то, как мог бы выглядеть типичный прайс. Уверенным тоном. Это и называют галлюцинацией.
Дообучать модель на своих данных — дорого и почти всегда не нужно. Есть способ проще.
Идея RAG: открытая книга
RAG — Retrieval-Augmented Generation, «генерация с подкреплением поиском». Вместо экзамена по памяти — экзамен с открытой книгой:
- Пользователь спрашивает: «Сколько стоит доставка в Казань?»
- Система ищет в ваших документах куски, похожие на вопрос, — и находит раздел про доставку.
- Модель получает вопрос плюс найденные куски и инструкцию: «Отвечай только по этим материалам. Нет ответа — скажи, что не знаешь».
- Пользователь получает ответ по вашему документу, часто со ссылкой на источник.
Модель больше не вспоминает — она пересказывает то, что ей только что показали. Это и убирает выдумки.
Как устроен поиск внутри
Обычный поиск по словам здесь не работает: клиент пишет «привезёте ли в Татарстан», а в документе — «доставка в регионы Поволжья». Совпадений по словам ноль, по смыслу — стопроцентное попадание.
Поэтому документы заранее нарезают на куски и превращают в эмбеддинги — числовые «отпечатки смысла». Близкий смысл — близкие числа, даже если слова разные. Вопрос превращается в такой же отпечаток, и система достаёт куски с самым похожим смыслом. Всё это происходит за доли секунды на каждый вопрос.
Что RAG даёт на практике
- Ответы по вашим данным — прайс, регламенты, договоры, база знаний.
- Обновление без переобучения — поменяли документ, переиндексировали, бот отвечает по-новому через минуты.
- Ссылки на источник — «согласно разделу 3 регламента доставки…» — можно проверить.
- Честное «не знаю» — правильный RAG молчит лучше, чем сочиняет.
- Права доступа — менеджер ищет по своим документам, бухгалтерия по своим.
Где RAG не спасает
- Мусор в документах. Два регламента противоречат друг другу — агент покажет оба. Порядок в базе знаний — ваша часть работы.
- Вопросы на рассуждение. «Что выгоднее: тариф А на 14 месяцев или Б с учётом акции» — это уже расчёт, а не поиск; такие сценарии проектируются отдельно.
- Кривая нарезка. Если таблицу с ценами разрезало пополам, модель получит половину прайса. Настройка нарезки под ваши документы — та самая инженерная работа, которая отличает рабочий RAG от демо за вечер.
Сколько это стоит
RAG-бот по базе знаний — типичный пилотный AI-проект: 40–80 часов разработки (сбор и нарезка документов, поиск, промпты, интерфейс в Telegram или на сайте). Плюс эксплуатация: сервер и токены модели — обычно единицы тысяч рублей в месяц при сотнях обращений в день.
RAG — это фундамент почти любого полезного агента: пять сценариев, где это окупается, разобрали в статье про AI-агентов для бизнеса.