RAG простими словами: як AI відповідає за документами компанії

RAG — це коли AI не відповідає «з голови», а спершу шукає у ваших документах: регламентах, договорах, прайсах, інструкціях. Знайдені фрагменти він отримує разом із запитанням і будує відповідь лише з них. Тому чат-бот з базою знань називає вашу ціну й ваш строк доставки, а не середні по інтернету, і показує, з якого документа це взяв.

Нижче — як це влаштовано всередині, коли RAG не потрібен і вистачить готового інструмента, типові помилки та ціни. Як виглядає готове рішення для команди, показано на сторінці AI-асистента за документами компанії.

Що таке RAG: визначення і звідки термін

RAG (retrieval-augmented generation) — це архітектура, у якій мовна модель будує відповідь не лише зі своїх загальних знань, а з фрагментів ваших документів, знайдених пошуком під конкретне запитання.

Назву запровадили дослідники Facebook AI Research (нині Meta AI) з колегами у статті 2020 року: вони поєднали мовну модель із пошуковим індексом Вікіпедії, щоб вона точніше відповідала на фактичні запитання. Відтоді це стандартний спосіб дати моделі знання конкретної компанії.

У назві три слова, і кожне — окремий крок:

• retrieval — пошук: система знаходить у базі фрагменти, близькі за змістом до запитання;
• augmented — доповнення: ці фрагменти додають до запиту, який отримує модель;
• generation — генерація: модель формулює відповідь, спираючись на них.

Найпростіше порівняння — іспит із відкритим конспектом. Мовна модель — це студент, який добре формулює, але ваших регламентів ніколи не бачив. RAG дозволяє йому перед кожною відповіддю зазирнути в конспект. Якщо в конспекті помилка або потрібної сторінки немає, помилиться й студент.

З цього випливають три практичні речі:

• Знання оновлюються без перенавчання. Замінили файл у папці — після синхронізації асистент відповідає вже за новою версією.
• Відповідь можна перевірити. До неї додається назва документа й пункт, тож людина не мусить вірити на слово.
• Якість залежить від пошуку не менше, ніж від моделі. Якщо система знайшла не той фрагмент, найсильніша модель відповість неправильно — упевнено й гарною мовою.

У статті що таке AI-агент простими словами ми називали знання однією з п’яти складових агента. RAG — це якраз про неї.

Як працює чат-бот з базою знань: шлях одного запитання

Робота ділиться на два етапи. Підготовка бази (кроки 1–4) виконується один раз і повторюється, коли документи змінюються. Відповідь на запитання (кроки 5–8) — щоразу, коли хтось пише боту.

Кілька пояснень до таблиці.

Ембединги потрібні, щоб шукати за змістом, а не за збігом слів. «Відпустка частинами» і «розділити відпочинок на два тижні» не мають спільних слів, але їхні вектори близькі — тому система знайде потрібний пункт регламенту.

Векторна база — це сховище таких векторів. У брифах, які ми аналізували, замовники найчастіше називають pgvector, Qdrant і Chroma. Для більшості компаній вибір бази важить менше, ніж якість розбиття документів на фрагменти.

Гібридний пошук поєднує пошук за змістом із пошуком за точними словами. Вектори добре ловлять сенс, але гірше — артикул «KT-2207», номер договору чи прізвище. Тому в робочих системах працюють обидва способи одразу.

Наскільки важлива ця «кухня», показують дані Anthropic за вересень 2024 року. Коли до кожного фрагмента додавали короткий контекст і поєднували векторний пошук із пошуком за словами, частка запитів, у яких потрібний фрагмент не потрапив до двадцяти найкращих, зменшилася на 49%. З переранжуванням — на 67%. Модель, яка пише відповідь, при цьому не змінювалася.

Одне запитання крок за кроком

Приклад умовний: магазин, документи й клієнт вигадані. На сайті магазину кавового обладнання клієнт пише в чат: «Чи можна оплатити кавомолку частинами і яка на неї гарантія?»

1. Бот для клієнтів має доступ лише до публічних документів: умов оплати, гарантії, доставки. Внутрішніх регламентів і договорів із постачальниками в його базі немає.
2. Пошук знаходить три фрагменти: розділ «Оплата частинами» з умов оплати, пункт про гарантію на кавомолки й загальні гарантійні умови.
3. Модель відповідає двома реченнями й додає посилання на обидві сторінки.
4. Клієнт питає далі: «А вона підійде до моєї кавоварки?» У документах про сумісність нічого немає. Бот так і каже й передає розмову менеджеру з коротким резюме.

RAG, «усе в промпт» чи донавчання: що обрати

RAG — не єдиний спосіб навчити AI відповідати за вашими документами, і не завжди найкращий.

Орієнтир дала Anthropic у тій самій публікації 2024 року: якщо база знань менша за 200 000 токенів — це приблизно 500 сторінок, — її можна цілком передавати моделі, і RAG не потрібен. Відтоді контекстні вікна зросли: в актуальних моделей Claude це до 1 млн токенів (документація Anthropic, жовтень 2026 року). Але «влазить» не означає «вигідно»: що більше тексту в кожному запиті, то дорожча й повільніша кожна відповідь, а розмежувати доступи так не вийде.

Готові інструменти мають власні межі. Наприклад, у NotebookLM одне джерело — це до 500 000 слів або файл до 200 МБ (довідка Google, жовтень 2026 року).

Донавчання часто плутають із RAG. Воно змінює поведінку моделі — тон, формат, термінологію, — але погано підходить для фактів, які змінюються. Щоб оновити прайс, модель довелося б тренувати заново, а послатися на документ вона не зможе.

Коли RAG не потрібен і що можна зробити самому

Розробка асистента за документами виправдана не завжди. Ось чотири ситуації, де вона зайва.

Документів небагато, і користується ними одна команда. Спробуйте готовий інструмент:

1. Зберіть актуальні версії документів в одну папку.
2. Завантажте їх у NotebookLM або в проєкт у ChatGPT чи Claude.
3. Поставте 20–30 запитань, які працівники справді ставлять, і перевірте кожну відповідь за джерелом.
4. Якщо результат влаштовує — можливо, більше нічого не потрібно.

Перед завантаженням договорів і персональних даних прочитайте умови свого тарифу: правила зберігання й використання даних у різних сервісів і планів різні.

Потрібен FAQ-бот на 30–50 запитань. Таблиця «запитання — відповідь» цілком уміщається в інструкцію бота, і пошук тут не потрібен. Вистачить конструктора з AI-блоком або простого чат-бота для сайту.

Відповідь живе в системі, а не в документі. Залишок на складі, статус замовлення, борг клієнта — це запит до CRM чи 1С/BAS через API, а не пошук у текстах. Такі задачі описано на сторінці інтеграцій AI з 1С, BAS і CRM.

Документи суперечать одне одному. Якщо на сайті одна ціна, а в прайсі інша, асистент чесно знайде обидві. Спершу варто навести лад у документах.

А ось ознаки, що RAG потрібен:

• документів сотні й більше, і вони оновлюються щотижня;
• різні люди мають бачити різне: продавець — прайс, бухгалтер — договори;
• у відповіді потрібне посилання на документ і пункт;
• асистент має відповідати в Telegram, Slack чи на сайті, а не в особистому акаунті працівника;
• керівнику потрібен журнал: що питають і на що в документах немає відповіді.

Типові помилки в проєктах з базою знань

1. Завантажили все підряд. Чернетки, старі версії й дублікати потрапляють у базу нарівні з чинними документами, і асистент цитує те, що знайшов першим.
2. Скани без розпізнавання. PDF без текстового шару для пошуку порожній. Скани спершу розпізнають, і що чіткіший скан, то краща відповідь.
3. Прайси й таблиці порізано на шматки. Назва товару опинилася в одному фрагменті, ціна — в іншому. Таблиці краще зберігати як таблиці й шукати в них точно, а не «за змістом».
4. Немає прав доступу. В одному з брифів на біржі замовник окремо вимагав відкликати доступ у звільнених працівників. Про ролі варто подумати до запуску, а не після першого витоку.
5. Якість оцінюють «на око». Один замовник порахував: із 81 відповіді його бота 6 були шкідливими — з вигаданими ролями, сумами й строками. Інший вимагав приймати кожен етап «за вимірюваним критерієм (точність на тестовому наборі), не за демонстрацією». Тестовий набір із 50–100 реальних запитань потрібен до запуску.
6. Перевіряють відповідь, а не пошук. Якщо потрібний фрагмент не знайдено, модель уже не допоможе. У журналі має бути видно, що саме знайшла система.
7. Немає сценарію «не знаю». Вимога з брифу: якщо відповіді немає в базі знань, AI має сказати про це, з’єднати з менеджером «і ні в якому разі не вигадувати». Це правило записують в інструкції й перевіряють на запитаннях, відповідей на які в базі свідомо немає.
8. За документи ніхто не відповідає. Асистент не знає, що регламент застарів. Кожному документу потрібен власник, який його оновлює.

RAG зменшує кількість вигаданих відповідей, але не зводить її до нуля. Модель може неправильно прочитати знайдений фрагмент або поєднати два пункти, які один одного не стосуються. Тому посилання на джерело й журнал запитів — не прикраса, а спосіб контролю.

Що замовляють на українських біржах і скільки це коштує

Ми розібрали 187 AI-замовлень на Freelancehunt, Freelance.ua та Weblancer за червень–вересень 2026 року. RAG або векторний пошук прямо згадано в 14 з них. Асистент за базою знань для працівників — це 10 замовлень, і в цього сценарію найвища медіанна ціна серед усіх: близько 21 000 грн. Тут «ціна» — бюджет клієнта, а якщо його немає — медіана ставок фрилансерів. Вибірка мала, тож це орієнтир, а не статистика.

Що саме замовляли:

• асистента для операторів контакт-центру мережі медичних центрів — з вимогою не вигадувати ціни, виконавців і медичні показання;
• AI-агента для юридичної компанії: аналіз документів і законодавства, медіана ставок — 27 000 грн;
• Telegram-бота — помічника акаунт-менеджера, який відповідає на основі Google Docs;
• офлайн-AI для аналізу інженерної документації, медіана ставок — 25 000 грн;
• асистента-тьютора для онлайн-курсу мов, який не відповідає поза матеріалами курсу, — бюджет 25 000 грн.

Звідки ринкові цифри й чому вони так різняться, ми докладно розібрали в статті скільки коштує чат-бот і AI-агент.

Чекліст: чи готові ви до запуску

1. Чи є список із 50–100 реальних запитань працівників або клієнтів?
2. Чи зібрано актуальні версії документів в одному місці, а застарілі прибрано?
3. Чи відомо, хто відповідає за кожен документ і оновлює його?
4. Чи розпізнано скани і чи мають PDF текстовий шар?
5. Чи визначено ролі: хто що має бачити?
6. Чи є правило, кому передається запитання без відповіді?
7. Чи зрозуміло, де асистент відповідатиме: у Telegram, Slack чи на сайті?
8. Чи вирішено, які дані не можна передавати зовнішній моделі?
9. Чи записано критерій приймання — наприклад, на скільки запитань із тестового набору асистент має відповісти правильно й із джерелом?

Якщо на перші три запитання відповідь «ні», почніть із них: це робота з документами, а не з AI, і розробник тут не допоможе.

Як ми робимо асистентів за документами

• Прототип до основної оплати. Беремо частину ваших документів і список реальних запитань та показуємо відповіді з посиланнями на джерела.
• Джерело в кожній відповіді. Назва документа й пункт. Якщо відповіді в документах немає, асистент так і каже й передає запитання відповідальному.
• Ролі й журнал. Кожен бачить лише дозволене, а керівник — що питають найчастіше й на що немає відповіді.
• Ваші акаунти. Моделі оплачуєте за фактом, без нашої націнки. NDA за потреби підписуємо до обміну документами.
• Фіксована ціна. Від 35 000 грн, запуск зазвичай за 10–14 днів, 30 днів доопрацювань включено.

Той самий принцип ми застосовуємо в себе. Голосовий AI-агент на номері студії відповідає лише з бази перевірених відповідей — станом на жовтень 2026 року їх близько 165. Пунктів, які ще не підтверджені, він не бачить узагалі, а коли відповіді немає, каже, що уточнить у розробника. Це простіший механізм, ніж векторний пошук, але правило те саме: спершу знайти перевірене джерело, потім говорити.

Якщо документів небагато й користується ними одна команда, чесно порадимо почати з готового інструмента. Демо й деталі — на сторінці чат-бота з базою знань.