RAG простыми словами: как нейросеть отвечает по документам компании

Вы пишете в чат поддержки интернет-магазина: «Купил кофемолку 20 дней назад, не понравилась. Можно вернуть?» Бот отвечает: «Да, по правилам магазина на возврат 30 дней. Сохраните упаковку и чек» — и прикладывает ссылку на правила возврата.

Языковая модель внутри бота этих правил никогда не видела: их не было в текстах, на которых её обучали. Бот сначала нашёл нужный пункт в базе знаний магазина, подложил его модели вместе с вопросом, и модель ответила по нему. Такая схема называется RAG.

RAG (Retrieval-Augmented Generation) — генерация ответа, дополненная поиском. Прежде чем отвечать, система ищет подходящие фрагменты в документах компании, на сайте или в интернете и передаёт их модели вместе с вопросом. RAG — не отдельная нейросеть, а способ устроить работу вокруг неё: сначала поиск, потом ответ по найденному.

Один вопрос, два бота

Без RAG

Купил кофемолку 20 дней назад, не понравилась. Можно вернуть?

У меня нет доступа к правилам вашего магазина. Уточните срок возврата у продавца.

С RAG

Купил кофемолку 20 дней назад, не понравилась. Можно вернуть?

Найдено в правилах возврата

Товар надлежащего качества можно вернуть в течение 30 дней с момента получения.

Да, можно: по правилам магазина на возврат 30 дней. Сохраните упаковку и чек.Источник: правила возврата

Зачем нейросети RAG, если она и так много знает

Языковая модель знает то, что было в её обучающих текстах. Правил возврата в вашем магазине там не было. Прайса, который вы обновили вчера, тоже. Внутренних регламентов, договоров и переписки с клиентами — тем более.

Спросите такую модель про возврат кофемолки — она честно скажет, что не видит правил магазина, и посоветует уточнить у продавца. Покупателю такой ответ бесполезен. А без строгих правил модель, которая чего-то не знает, может и выдумать правдоподобный ответ. Такие уверенные выдумки называют галлюцинациями нейросети.

Можно было бы дообучить модель на документах компании. Но дообучение меняет поведение модели — тон, формат, манеру отвечать, — а не добавляет ей знания. К тому же документы меняются каждую неделю. RAG решает задачу иначе: модель не меняют, а в момент вопроса дают ей нужные страницы.

Без RAG модель сдаёт экзамен по памяти, с RAG ей разрешают принести учебник. Учебник помогает, только если ответ в нём есть и нужную страницу удалось найти.

Как работает RAG

У RAG две части. Базу знаний готовят заранее и обновляют, когда меняются документы. А поиск и ответ запускаются на каждый новый вопрос.

Подготовка базы

1. Документы режут на куски. Если описать одним набором чисел целый регламент на 40 страниц, мелкие детали в нём растворятся. Поэтому текст делят на куски, в документации их называют чанками. Обычно кусок занимает от 500 до 1 000 токенов — страницу-другую текста, а соседние куски немного перекрываются, чтобы мысль на границе не потерялась.
2. Для каждого куска считают эмбеддинг — набор чисел, который описывает смысл текста. Куски с похожим смыслом получают похожие числа и на условной карте стоят рядом.
3. Эмбеддинги складывают в векторную базу — хранилище, которое быстро находит ближайшие точки на этой карте.

Документ превращается в базу для поиска

Документ

Правила возврата и обмена

Товар надлежащего качества можно вернуть в течение 30 дней с момента получения. Товары из «Уценки» со скидкой больше 30% возврату не подлежат, если у них нет брака. Обменять товар на другую модель можно в течение 14 дней.

режем на куски и считаем для каждого набор чисел

Векторная база

Товар надлежащего качества можно вернуть в течение 30 дней[0.12, −0.48, 0.31, …]

Товары из «Уценки» со скидкой больше 30% возврату не подлежат[0.09, −0.52, 0.27, …]

Обменять товар на другую модель можно в течение 14 дней[0.15, −0.41, 0.36, …]

Читайте такжеЭмбеддинги простыми словами: как нейросеть превращает смысл в числаОткуда берутся координаты смысла и почему поиск по ним находит «компенсацию», когда в тексте написано «возврат денег».

Ответ на вопрос

1. Вопрос превращают в эмбеддинг той же моделью, что и куски. Иначе координаты вопроса и кусков окажутся на разных картах, и сравнивать их будет бессмысленно.
2. Система находит несколько ближайших кусков — обычно от трёх до двадцати. Число задаёт тот, кто настраивает систему.
3. Из вопроса и найденных кусков собирают промпт. Например: «Ответь на вопрос покупателя, используя только эти куски. Если ответа в них нет, так и скажи». Слово Augmented в названии как раз про это: запрос дополнили найденным текстом.
4. Модель пишет ответ и указывает, из какого документа взяла факт.

Как RAG отвечает на вопрос

Вопрос

Купил кофемолку 20 дней назад, можно вернуть?

ищем самые близкие по смыслу куски

Векторная база

Товар надлежащего качества можно вернуть в течение 30 дней

Товары из «Уценки» со скидкой больше 30% возврату не подлежат

Обменять товар на другую модель можно в течение 14 дней

Курьерская доставка по Москве — 1–2 дня

Гарантия на кофемашины — 2 года, на кофемолки — 1 год

три найденных куска и вопрос уходят модели

Ответ

Да, можно: на возврат 30 дней. Если кофемолка из «Уценки» со скидкой больше 30%, вернуть её без брака нельзя.

Источник: правила возврата и обмена

Искать можно не только по эмбеддингам. Retrieval в названии значит просто «поиск»: по ключевым словам, по векторной базе или обоими способами сразу. RAG определяет порядок действий, а не способ поиска.

Термин появился в 2020 году в научной статье: там модель учили отвечать на вопросы, подглядывая в Википедию. Сейчас RAG устроен проще — готовую модель не трогают, а найденные куски просто вставляют в запрос. Поэтому собрать RAG можно поверх любой модели: ChatGPT, Claude, YandexGPT или GigaChat.

Из чего состоит RAG-система

Кроме шагов со схемы, в рабочей системе есть детали, которых на ней не видно. По их названиям проще разобрать предложение подрядчика и понять, где ломается бот.

Загрузчик вытаскивает текст из папок, Google Диска, SharePoint или Confluence, а из сканов — через распознавание. К каждому куску приписывают метаданные: из какого он документа, какого раздела, от какой даты. Эмбеддинги считает одна модель, а ответ пишет другая — GPT, Claude, Gemini, YandexGPT, GigaChat или открытая модель на своём сервере. Системный промпт задаёт правила: отвечать только по документам, ссылаться на источник, признаваться, если ответа нет. Права доступа отсекают документы, которые спрашивающему видеть нельзя. А набор тестовых вопросов и журнал ответов показывают, где система ошибается.

По устройству RAG делят на несколько видов:

Где вы уже пользуетесь RAG

Загрузка файлов в ChatGPT. Небольшие документы ChatGPT целиком кладёт в контекст модели. Если текста больше, чем помещается, ChatGPT кладёт в запрос часть, а остальное отправляет в личный поисковый индекс. Когда вы спрашиваете, он добирает из индекса подходящие куски, причём ищет сразу по словам и по смыслу.

«Проекты» в Claude. Пока файлов в проекте немного, Claude читает их целиком. Когда база знаний проекта подходит к пределу контекстного окна, Claude сам включает режим RAG, и проект вмещает до десяти раз больше материалов. В интерфейсе видно, как Claude ищет по файлам проекта отдельным инструментом.

Gemini Notebook, бывший NotebookLM. Сервис сначала находит самые подходящие фрагменты под ваш вопрос, а потом собирает из них ответ со ссылками на источники.

Нейро, Алиса и Perplexity. Базой здесь служит весь интернет. Нейро превращал диалог в поисковый запрос, выбирал пять документов из выдачи, и YandexGPT собирал из них ответ со ссылками на материалы. Perplexity тоже ищет в интернете в момент вопроса и нумерует источники в ответе.

Если чат-бот «не увидел» пункт, который точно есть в вашем файле, вероятно, его не нашёл поиск, и модель просто не получила этот кусок. Помогает загружать меньше документов — только нужные, давать файлам понятные названия и прямо называть нужный документ в вопросе: «по договору поставки, какой срок оплаты?».

Где RAG применяют в бизнесе

Чаще всего RAG ставят туда, где много повторяющихся вопросов по документам:

Несколько компаний опубликовали результаты своих систем:

Почти все эти цифры — оценки самих компаний или их подрядчиков. Исключение — LinkedIn: там команду поддержки разделили жребием на две группы, и одна работала с RAG-системой, а другая — как раньше. Время решения сократилось на 28,6% именно по сравнению с контрольной группой.

Почему RAG ошибается

RAG снижает число выдумок, но не убирает их.

Хороший пример — юридические ИИ-сервисы в США. Их продают как ответы «без галлюцинаций», потому что они ищут по базе законов и судебных решений. Исследователи из Стэнфорда проверили два крупнейших таких сервиса: они ошибались в 17–33% случаев. Среди ошибок были ответы со ссылкой на настоящий документ, в котором сказанного нет. Ссылка в ответе ещё не доказывает, что ответ верный: источник надо открыть и проверить.

Большая часть типичных сбоев случается ещё до того, как модель начала писать: поиск приносит ей не то, что нужно. Разберу их на том же магазине кофемолок.

В базе нет ответа, а модель всё равно отвечает. Покупатель спрашивает: «Вы принимаете оплату криптовалютой?» Про криптовалюту в правилах ничего нет. Но поиск не умеет возвращать пустоту: он всегда приносит самые похожие куски, даже если они не отвечают на вопрос. Здесь это будет кусок про оплату картой и СБП. Модель видит текст про оплату и может решить, что ответ где-то рядом: «Да, оплатить можно любым удобным способом».

Похожий на правду текст придаёт модели уверенности. В исследовании Google одна из моделей без всяких документов ошибалась в 10% ответов, а когда ей давали документы, где ответа не хватало, — в 66%. Поэтому в инструкции для модели прямо пишут: «Если ответа в найденных кусках нет, так и скажи».

Поиск принёс не тот кусок. Поиск по смыслу сравнивает, насколько куски похожи на вопрос, но не проверяет, отвечает ли кусок именно на него. Допустим, покупатель спрашивает: «Кофемолка не понравилась, можно её вернуть?» В базе два куска. В правилах возврата: «Товар надлежащего качества можно вернуть в течение 30 дней». В правилах обмена: «Если товар не понравился или не подошёл, его можно обменять на другую модель в течение 14 дней».

Кусок про обмен ближе к вопросу: в нём те же слова «не понравился», а в правилах возврата их нет. Поиск ставит обмен первым, а если система берёт мало кусков, возврат вообще не попадает к модели. Модель видит только правила обмена и честно отвечает: «Вернуть нельзя, можно только обменять в течение 14 дней». Ответ звучит уверенно и даже со ссылкой на источник, но он неверный.

Нарезка оторвала исключение от правила. Документ режут на куски механически, по длине, и граница может пройти посреди мысли. Допустим, в правилах возврата идут подряд две фразы: «Товар надлежащего качества можно вернуть в течение 30 дней» и «Это правило не действует для товаров из „Уценки“». При нарезке они попали в разные куски.

Покупатель спрашивает: «Можно вернуть кофемолку через неделю?» Первый кусок явно про возврат, и поиск его находит. Второй кусок сам по себе непонятно о чём: какое «это правило»? В нём нет ни слова про возврат, поэтому на вопрос он не похож и в выдачу не попадает. Модель отвечает «Да, в течение 30 дней» и ничего не говорит про уценку. Если покупатель брал кофемолку в «Уценке», он приедет в магазин и получит отказ, хотя бот пообещал возврат.

Правило и исключение попали в разные куски

Вопрос

Можно вернуть кофемолку через неделю?

Правила возврата после нарезки

Товар надлежащего качества можно вернуть в течение 30 дней

Это правило не действует для товаров из «Уценки»Сам по себе кусок непонятно о чём — поиск его не нашёл

Ответ

Да, можно вернуть в течение 30 дней.

Про уценку модель не узнала. Покупатель из «Уценки» приедет в магазин и получит отказ.

В базе лежат старая и новая версии документа. Раньше бесплатная доставка была от 3 000 ₽, теперь от 5 000 ₽, но старые условия из базы никто не удалил. На вопрос «С какой суммы бесплатная доставка?» поиск принесёт оба куска: по смыслу они почти одинаковые. Модель выберет один наугад или смешает их: «бесплатно от 3 000 или 5 000 ₽». Настройкой поиска это не лечится, только уборкой базы: старое удалить, у каждого документа указать дату.

Модель получила правильный кусок и всё равно ошиблась. В куске написано «30 дней с момента получения», а модель считает от даты заказа и отвечает, что срок вышел. Такие ошибки ловят только проверкой на тестовых вопросах.

Как улучшают поиск

Гибридный поиск ищет одновременно по смыслу и по точным словам, а потом объединяет результаты. Это нужно для артикулов, номеров договоров и кодов ошибок. Покупатель спрашивает: «Какая гарантия на KM-2040?» Для поиска по смыслу «KM-2040» — просто набор символов, и он может принести гарантию на похожую кофемолку. Поиск по точным словам найдёт документ, где стоит именно этот артикул.

Переранжирование — вторая, более внимательная проверка. Поиск по эмбеддингам быстрый, но грубый: он сравнивает наборы чисел. Поэтому сначала он отбирает, например, 20 кандидатов, а потом отдельная модель читает вопрос вместе с каждым кандидатом и выстраивает их по тому, насколько кусок действительно отвечает на вопрос. Это как сначала отобрать резюме по ключевым словам, а потом прочитать каждое. Но если нужного куска не было среди 20 кандидатов, переранжирование его уже не спасёт.

Справка к каждому куску лечит проблему оторванного исключения. Перед сохранением к каждому куску приписывают одну-две фразы о том, из какого он документа и о чём. Кусок «Это правило не действует для товаров из „Уценки“» превращается в «Из правил возврата магазина: это правило не действует для товаров из „Уценки“» — и теперь поиск понимает, что он про возврат. Anthropic, разработчик Claude, проверил этот приём: вместе с поиском по точным словам он почти вдвое сократил случаи, когда нужный кусок не попадал в двадцатку найденных, — с 5,7% до 2,9%. С переранжированием — до 1,9%.

Когда RAG не нужен

База маленькая. Если вся база знаний меньше 200 тысяч токенов (около 500 страниц), её можно целиком отдать модели в запросе, без всякого RAG. Если такие запросы кэшировать, ответ приходит больше чем вдвое быстрее и стоит до 90% дешевле. А у Claude и Gemini контекстное окно уже до миллиона токенов. Но больше контекста не значит лучше: на длинных текстах внимание модели размывается, а за длинный запрос приходится платить каждый раз.

Нужно поменять стиль, а не знания. Если модель должна писать в тоне вашего бренда или в строгом формате, RAG не поможет: он добавляет знания, а не меняет поведение. Это задача для подробной инструкции или дообучения.

Как я сделал RAG-бота для своего клуба

У меня есть Нейроцех — платный клуб про нейросети в работе, в нём около 300 участников. За два с лишним года там накопилось около 200 гайдов, 80 лекций, записи еженедельных вебинаров и десятки тысяч сообщений в чате. Найти в этом ответ на свой вопрос вручную почти невозможно, поэтому участники задавали одни и те же вопросы по кругу. Раньше в клубе был похожий бот, его сделал волонтёр. Волонтёр ушёл, и бот перестал работать.

Я собрал бота «Архивариус Нейроцеха» вместе с Claude Code. Участник упоминает его в чате клуба и задаёт вопрос, а бот отвечает по материалам клуба и под каждым ответом даёт ссылки на гайды, вебинары или сообщения, откуда взял факты.

Из чего он собран

• Бот — в Telegram, на Python.
• Векторная база — Qdrant. Работает прямо внутри бота, отдельный сервер базы не нужен.
• Эмбеддинги — открытая модель multilingual-e5-large. Она хорошо понимает русский, считается на обычном процессоре, и за неё не надо платить.
• Языковая модель — GPT-6 Luna от OpenAI, подключена через OpenRouter. Стоит $0,10 за миллион токенов на входе. Сначала бот работал на Claude Haiku 4.5, недавно я перевёл его на Luna. Это модель на поколение новее: на моём наборе тестовых вопросов она отвечает лучше и при этом дешевле.
• Обновление базы — каждую ночь бот сам забирает новые статьи с сайта клуба и новые сообщения из чата.

Как устроен Архивариус

Каждую ночь: обновление базы

Сайт клуба

Гайды, лекции, вебинары режутся на куски. У первого куска шапка: «[Вебинар | 5 марта 2026 | Название]»

Чат клуба

Модель вытаскивает из переписки за день отдельные факты с автором, повторы склеиваются

Векторная база Qdrant — куски с эмбеддингами multilingual-e5-large

поиск идёт по этой базе

На каждый вопрос

1. 1Вопрос в чате клуба«@ask_neurozeh_bot какие вебинары были про Claude Code?»
2. 2Модель переписывает вопрос в поисковые запросывебинар Claude CodeClaude Code от идеи до MVPвайбкодинг с Claude Codeи решает, где искать: в статьях сайта
3. 3Поиск по базеОколо 25 кандидатов из статей сайта и фактов из чата
4. 4Языковая модель пишет ответGPT-6 Luna получает лучшие куски с названиями и ссылками и отвечает только по ним
5. 5Проверка и отправкаБот оставляет только ссылки на сайт клуба и чат и отправляет ответ с блоком источников 📎 [1] [2]

Когда приходит вопрос, модель сначала переписывает его в несколько поисковых запросов и решает, где искать: в статьях сайта, в чате или там и там. Поиск собирает около 25 кандидатов, лучшие уходят модели вместе с вопросом, и она пишет ответ со ссылками. Перед отправкой бот проверяет, что все ссылки ведут на разрешённые адреса — сайт клуба и его чат, а не на что-то выдуманное. Если подходящих кусков в базе нет, бот не сочиняет, а так и отвечает — это правило прописано в его инструкции.

Какие проблемы пришлось решить

Первая версия бота заработала быстро, но отвечала плохо. До нормального качества я довёл её за несколько итераций, и почти все проблемы оказались в поиске, а не в модели.

Сообщения из чата вытесняли статьи. В первой версии я загрузил в базу 27 тысяч сообщений из чата как есть. Статей на сайте было около 200, а кусков из чата — в десятки раз больше, и поиск находил их просто статистически чаще. На вопрос «Какие вебинары были в Нейроцехе?» бот пересказывал болтовню из чата вместо того, чтобы дать список вебинаров со ссылками. Мешал и шум: еженедельные дайджесты, в которых упомянуты все темы недели, реплики вроде «+» и вопросы к старому боту. Они похожи на любой вопрос и при этом ничего не отвечают.

Как решил: перестал класть в базу сырые сообщения. Теперь каждую ночь модель читает переписку за день и вытаскивает из неё отдельные факты с автором: кто что посоветовал, какой инструмент что умеет. Повторы склеиваются, шум отсеивается. А поиск идёт по статьям и по фактам из чата отдельно, чтобы одно не вытесняло другое. После этого на вопрос про вебинары бот отвечает списком вебинаров с сайта, как на скриншоте выше.

Переранжирование замедляло бота и теряло нужное. Я добавил вторую проверку: модель смотрела на каждый найденный кусок и решала, подходит ли он к вопросу. По логам оказалось, что это добавляло около 10 секунд к каждому ответу. В 70% случаев проверка пропускала все куски и ничего не меняла, а в остальных выкидывала нужные: на «какие вебинары будут в марте» бот отвечал, что ничего не нашёл.

Как решил: выключил переранжирование. Порядок по близости из векторного поиска в моём случае работает лучше, а ответ приходит быстрее. Вывод простой: общий совет «добавьте переранжирование» надо проверять на своих вопросах, а не включать по умолчанию.

Вебинары не находились по типу и дате. Вопрос «какие вебинары были в марте» поиск понимал плохо: в самих кусках тип материала и дата встречаются редко.

Как решил: добавил короткую шапку к первому куску каждой статьи — «[Вебинар | 5 марта 2026 | Название]». Кусок сам говорит, что он такое и когда был, и поиск находит его по таким вопросам.

Сейчас Архивариус работает в чате клуба: отвечает по материалам со ссылками на источники, а если ответа нет — честно говорит об этом. Чтобы качество не просело после очередной правки, я держу набор из 16 тестовых вопросов семи разных типов. Ответы на них оценивает отдельная модель-судья — по релевантности, полноте и источникам, и я прогоняю этот набор после каждого изменения. На нём же я проверял переход на GPT-6 Luna.

Как внедрить RAG в компании

Шаг 1. Выберите одну узкую задачу

Начинать лучше не с «бота, который знает всё о компании», а с одной задачи, где вопросы повторяются, ответы есть в документах и их легко проверить: ответы операторам поддержки по тарифам, вопросы сотрудников про отпуска и командировки, поиск по регламентам одного отдела. На ней видно, работает ли подход, а потом его можно расширять.

Шаг 2. Подготовьте документы

Качество ответов RAG упирается в качество базы. Хорошая модель по свалке файлов отвечает плохо. Что сделать с документами:

• Одна тема — один документ, с понятными заголовками. Заголовки помогают нарезке: кусок с заголовком «Возврат уценённых товаров» не потеряет контекст.
• Один актуальный экземпляр. Дубли и старые версии удалите или уберите в архив. Иначе поиск принесёт прошлогодний прайс.
• Владелец и дата в каждом документе. Так видно, что устарело и кто должен обновить.
• Сканы — через распознавание, таблицы — аккуратно. Скан без текстового слоя для поиска пустой. Сложные таблицы лучше переписать или проверить, как они распознались.
• Исключения рядом с правилом. Если исключение лежит в другом документе, поиск может его не принести.

Папка с документами до и после уборки

До

Регламент возврата FINAL v3 (новый).docx

какая версия актуальна?

Регламент возврата FINAL v2.docx

дубль

Уценка — исключения.txt

исключение оторвано от правила

Прайс 2024.xlsx

устарел

Скан договора.pdf

картинка без текста

После

Возврат и обмен.docx

правила и исключения вместе

Доставка.docx

обновлён 15.08.2026

Гарантия.docx

обновлён 20.07.2026

Прайс.xlsx

одна актуальная версия

Договор доставки.pdf

распознан, текст ищется

Шаг 3. Выберите готовый сервис или свою сборку

Собирать RAG с нуля нужно не всегда. Для многих задач хватает готового сервиса: загрузили документы — получили бота или ассистента.

Зарубежные решения. Поиск по документам компании есть в бизнес-тарифах OpenAI, Anthropic, Google и Microsoft: не только по загруженным файлам, но и по Google Диску, SharePoint, Slack и другим рабочим системам.

Цены проверены 28 сентября 2026 года.

Все эти сервисы показывают ссылки на источники и учитывают права доступа: в документации ChatGPT прямо сказано, что он видит только то, что каждому пользователю и так разрешено открыть. В бизнес-тарифах поставщики обещают не обучать модели на данных компании. На личных тарифах вроде Claude Pro правила другие, поэтому для работы берите командный.

Устроены они по-разному. Gemini Enterprise и Notion заранее строят индекс по данным компании — это классический RAG. Claude в режиме поиска по компании ничего не индексирует: он в момент вопроса обращается к каждому подключённому сервису и ищет там, как агент.

Отдельный вариант — собственные GPT в ChatGPT. Туда можно загрузить до 20 файлов и дать ссылку коллегам. Но по умолчанию такой GPT не называет файлы, из которых взял ответ, — это нужно отдельно прописать в его инструкции.

Если RAG нужно встроить в свой сайт, бота или CRM, у тех же компаний есть готовые инструменты для разработчиков.

Официально из России большинство из них не работает. России нет в списках поддерживаемых стран OpenAI, Anthropic и Google, а Microsoft не принимает новых клиентов из России с 2022 года. Если в документах есть персональные данные, к этому добавляется 152-ФЗ.

Решения для России. Нужны, если важно хранить данные в России или платить российской картой.

• Нейроэксперт от Яндекса — загружаете файлы и ссылки, и сервис, по словам Яндекса, отвечает только по ним. На запуске в 2025 году он был бесплатным, а в одну базу помещалось до 25 файлов и ссылок.
• «Алиса AI для бизнеса» в Яндекс 360 работает с загруженными договорами и базами знаний компании, ссылается на источники. По словам Яндекса, данные организации не участвуют в обучении моделей. Стоит 1 199 ₽ за сотрудника в месяц.
• Yandex AI Studio — конструктор для команды с разработчиком: ищет по базе до 10 тысяч файлов, по смыслу и по словам сразу, и подключается к Confluence и файловым хранилищам.
• Cloud.ru Managed RAG — RAG в российском облаке: вы кладёте документы в хранилище, а сервис сам готовит их к поиску.
• SaluteBot от Сбера — конструктор ботов с блоком «AI-ответ из базы знаний» на GigaChat, без кода.

Открытые решения на своём сервере. Если данные нельзя выносить за пределы компании, RAG можно поднять у себя вместе с открытой моделью. Open WebUI, AnythingLLM и Dify дают чат с базами знаний из коробки. Open WebUI и AnythingLLM умеют работать без интернета с локальными моделями. Поставить их может один разработчик, но поддерживать сервер и модель придётся самим.

Своя сборка с ИИ-агентом. Если нужен бот, который живёт в вашем Telegram-чате, ищет по вашему сайту или базе знаний и отвечает со ссылками, как Архивариус, его можно собрать самому с Claude Code или Codex. Код писать не придётся: агент сделает это по подробной инструкции.

Шаг 4. Разберитесь с данными и доступами

Персональные данные. ФИО клиентов, телефоны, паспортные данные — это персональные данные, и на них действует 152-ФЗ. Хранить их закон требует в базах на территории России (ст. 18). Отправить такие документы в зарубежный сервис — значит передать данные за границу. Перед этим нужно уведомить Роскомнадзор, а если страны нет в списке стран с достаточной защитой данных — как США, — ждать 10 рабочих дней, и Роскомнадзор может передачу запретить (ст. 12). Хранить базу с такими данными в индексе зарубежного сервиса мешает и требование о локализации. К тому же обрабатывать данные по поручению компании можно только по договору, а OpenAI, Anthropic и Google такие договоры с российскими компаниями не заключают. Если хранить данные граждан за рубежом, компании грозит штраф от 1 до 6 млн рублей, за повтор — до 18 млн (ст. 13.11 КоАП). Регламенты, инструкции и описания товаров без таких данных под эти статьи не попадают. Перед запуском на реальных данных покажите схему юристу.

Права доступа. RAG не должен отвечать стажёру цитатой из зарплатной ведомости, поэтому поиск должен учитывать, кто спрашивает: если сотрудник не может открыть документ сам, бот не должен отвечать по нему. Без этого векторная база становится дырой, через которую любой вытащит куски из чужих документов. У готовых сервисов проверьте, переносят ли они права из Google Диска или SharePoint.

Шаг 5. Проверьте качество до запуска

Впечатление от пары удачных ответов ничего не говорит о системе. Её проверяют на наборе тестовых вопросов:

1. Соберите реальные вопросы — из чата поддержки, почты, от сотрудников. Для начала хватит двадцати — важнее, чтобы вопросы были настоящими, а не придуманными за столом.
2. Для каждого вопроса отметьте, в каком документе лежит ответ, и запишите правильный ответ.
3. Добавьте несколько вопросов, ответа на которые в базе нет. Правильная реакция на них — «в документах этого нет».
4. Проверяйте отдельно поиск и ответ. Сначала — попал ли нужный кусок в найденные. Потом — верен ли ответ.
5. Меняйте по одному параметру и прогоняйте тот же набор снова.

Так может выглядеть набор тестовых вопросов для магазина:

Уже по такой таблице видно, что чинить: во второй строке — поиск, в четвёртой — инструкцию для модели или нарезку.

Для больших систем есть инструменты вроде RAGAS: они сами оценивают, нашёл ли поиск нужный кусок и опирается ли ответ на найденное.

Шаг 6. Посчитайте стоимость

Деньги в RAG уходят на три вещи: эмбеддинги при загрузке документов, хранение базы и генерацию ответов. Пример: база на 1 000 страниц и 1 000 вопросов в день.

• Эмбеддинги. 1 000 страниц — около 400–600 тысяч токенов. У Яндекса эмбеддинги стоят около 10 ₽ за миллион токенов, у OpenAI модель text-embedding-3-small — $0,02. Разовая загрузка базы обойдётся в несколько рублей.
• Хранение. Такая база весит меньше гигабайта. OpenAI первый гигабайт хранит бесплатно, Яндекс берёт 10,6 ₽ за гигабайт в день.
• Ответы. Основные расходы здесь. В каждый запрос уходят инструкция и пять найденных кусков — около 4 500 токенов, ответ — ещё 300. За день это 4,5 млн входящих и 0,3 млн исходящих токенов.

Цены проверены 28 сентября 2026 года. В строке Яндекса не учтены вызовы поиска и хранение индекса, цены Яндекса указаны с НДС, OpenAI — без налогов. Реальный счёт зависит от модели, длины вопросов и числа найденных кусков.

Разработку под ключ считают не по токенам, а по проекту. Российские подрядчики называют вилку от 200–300 тысяч рублей за простого бота до 1,5–5 млн за сложную систему с интеграцией в CRM или 1С.

Как ИИ-агенты ищут сами — и зачем им RAG

Классический RAG ищет один раз: получил вопрос, нашёл куски, ответил. ИИ-агент может искать несколько раз подряд: смотрит, что нашёл, переформулирует запрос, открывает другой документ и только потом отвечает. Так устроены режимы глубокого исследования в ChatGPT и похожих сервисах.

Claude Code, агент для программирования, от векторной базы отказался. Его команда рассказывала, что ранние версии использовали RAG с локальной векторной базой, но команда быстро поняла: агентный поиск, когда агент сам ищет по файлам проекта, обычно работает лучше. К тому же он проще, и у него нет проблем, которые были с векторной базой: с безопасностью, приватностью, надёжностью и устаревающим индексом.

Хоронить RAG из-за этого рано. В Cursor, другом редакторе кода с ИИ-агентом, проверили, что будет, если дать агенту поиск по смыслу в дополнение к обычному поиску по тексту. Точность ответов выросла в среднем на 12,5%. Для агента RAG — ещё один инструмент: поиск по смыслу выручает, когда по точным словам ничего не находится.

Читайте такжеКак создать ИИ-агента: пошаговый гайд для новичкаИз чего состоит агент, где у него знания и инструменты и как собрать первого агента без кода.

Подключить агенту поиск по вашей базе знаний можно и через MCP — стандарт, по которому агенты получают доступ к внешним инструментам.

Частые вопросы

Как расшифровывается RAG? Retrieval-Augmented Generation — генерация, дополненная поиском. Retrieval — найти, Augmented — дополнить запрос найденным, Generation — написать ответ.

RAG — это модель? Нет. Это способ построить систему вокруг любой языковой модели: сначала поиск, потом ответ по найденному. Одну и ту же модель можно использовать и с RAG, и без него.

RAG избавляет от галлюцинаций? Снижает их, но не убирает. Модель может получить не тот кусок, не получить нужный или неправильно прочитать правильный.

Чем RAG отличается от дообучения? RAG даёт модели нужные факты в момент вопроса и не меняет саму модель. Обновили документ и базу — система отвечает по новой версии. Дообучение меняет саму модель и лучше подходит, чтобы закрепить стиль и формат.

Можно ли внедрить RAG без программиста? Да, если хватает готового сервиса: загрузить документы в корпоративный ChatGPT, Claude или «Алису AI для бизнеса» может любой сотрудник. Программист нужен, чтобы подключить базу к своему сайту или CRM, настроить права доступа или поднять систему на своём сервере.

Можно ли загружать в ChatGPT документы с персональными данными? Российской компании по умолчанию — нет. Это передача данных за границу: нужно заранее уведомить Роскомнадзор и выждать срок, а хранить такие данные за рубежом мешает требование о локализации. Документы без персональных данных под эти ограничения не попадают. С персональными данными без юриста не начинайте.

Сколько стоит RAG? Сервисы для команд стоят фиксированную сумму за пользователя в месяц. Своя система на API при 1 000 вопросов в день обходится примерно в 10–80 тысяч рублей в месяц за генерацию ответов в зависимости от модели, разработка под ключ — от сотен тысяч рублей.

Обязательно нужна векторная база? Нет. Искать можно и по ключевым словам. Векторная база нужна, чтобы находить текст по смыслу, когда вопрос сформулирован другими словами.