RAG-система под ключ: подготовка базы знаний для LLM
Готовим RAG-систему под ключ: чанкинг и разметка документов, индексация базы знаний и настройка векторного поиска для вашего ассистента. Проверяем точность retrieval на тестовых вопросах, работаем под NDA, данные — в РФ. Пилот на части базы знаний — бесплатно.
Что такое RAG и как он работает?
RAG (Retrieval-Augmented Generation) — архитектура, при которой модель перед ответом находит релевантные фрагменты во внешней базе знаний и добавляет их в контекст запроса. Модель не «запоминает» факты в весах, а обращается к актуальному индексу документов компании, поэтому ответы точнее, проверяемы и опираются на свежие данные, а не на знания времён обучения.
Индексация базы знаний
Документы преобразуются в векторные представления (embeddings) и загружаются в индекс для быстрого поиска.
Чанкинг документов
Тексты делятся на смысловые фрагменты нужного размера — так модель находит только релевантную часть.
Разметка метаданных
Фрагменты размечаются тегами, источником и датой — это повышает точность поиска и фильтрацию.
Векторный поиск
По запросу пользователя находятся ближайшие по смыслу фрагменты базы знаний.
Ре-ранжирование
Найденные фрагменты сортируются по релевантности перед передачей в контекст модели.
Генерация с цитированием
Модель формирует ответ на основе найденных фрагментов и указывает источник.
Как мы готовим базу знаний для RAG?
Подготовка базы знаний начинается с брифа по источникам данных — регламентам, базе поддержки, документации продукта. Дальше мы очищаем и структурируем документы, разбиваем их на чанки оптимального размера, размечаем метаданными и загружаем в векторную базу, после чего проверяем качество поиска на тестовых вопросах.
В каких форматах и инструментах готовим RAG?
Исходные документы принимаем в PDF, DOCX, HTML, Markdown и Confluence-экспорте, а базу знаний отдаём в виде JSON-чанков с метаданными, готовых к загрузке в векторную базу. Работаем с LangChain, LlamaIndex и популярными векторными базами — Qdrant, Weaviate, pgvector — либо интегрируемся в вашу существующую инфраструктуру.
Как контролируете качество ответов RAG-системы?
Качество RAG измеряем на двух уровнях: точность поиска (находит ли система нужный фрагмент) и качество ответа (использует ли модель найденный контекст без искажений и галлюцинаций). Считаем метрику recall@k для поиска, а ответы проверяет эксперт по рубрике полезности, точности и наличия ссылки на источник.
Recall@k поиска
Доля вопросов, для которых нужный фрагмент найден в топ-k результатов.
Проверка галлюцинаций
Эксперт сверяет, что ответ модели опирается только на найденный контекст.
Оценка полезности
Ответы оцениваются по рубрике: полнота, точность, релевантность вопросу.
Консенсус экспертов
Спорные ответы оценивают несколько специалистов, берём согласованную оценку.
SLA по точности
Целевые метрики recall и точности ответов закрепляются договором.
Данные в РФ
База знаний и индекс хранятся на инфраструктуре в РФ, 152-ФЗ, ISO 27001.
Сколько стоит подготовка RAG под ключ?
Цена RAG зависит от числа источников, объёма документов и того, нужны ли права доступа и закрытый контур. Пилот на одной базе показывает качество ответов на ваших вопросах, рабочая система добавляет источники и разграничение доступа. Три типовых объёма со сроками — в таблице ниже, точная смета фиксируется в договоре.
| Объём работ | Стоимость | Срок | Что входит |
|---|---|---|---|
| Пилот на одной базе | от 600 000 ₽ | 6–8 недель | Один корпус документов, оценка качества ответов на ваших вопросах |
| Рабочая система | от 1 200 000 ₽ | 10–14 недель | Несколько источников, права доступа, ответы со ссылкой на документ |
| В закрытом контуре | от 3 000 000 ₽ | от 4 месяцев | Своя модель на вашем железе, без выхода данных наружу, регламент обновления |
Отдельные работы и развитие системы после сдачи — 3 000 ₽ за час инженера. Разметка обучающих данных считается отдельно и по своим правилам — от 320 ₽ за час эксперта, а на объёмных задачах — за единицу данных. Вилки — ориентир для планирования бюджета, а не публичная оферта: точную смету и срок называем после разбора задачи и фиксируем в договоре.
Когда выбрать RAG, а когда дообучение (fine-tuning)?
RAG подходит, если ответы модели должны опираться на часто обновляемую базу знаний компании — регламенты, каталог, документацию — без переобучения модели. Fine-tuning выбирают, если нужно закрепить в модели стиль, формат ответа или узкую специфику домена, которая не меняется каждую неделю. Часто оба подхода комбинируют.
Пример проекта
RAG-ассистент по базе знаний службы поддержки страховой компании
Подготовили базу знаний из 4 000 документов: чанкинг, разметка метаданными и индексация за 3 недели. Recall@5 поиска — 96%, время ответа ассистента сократилось с 4 минут до 15 секунд. Показатели — типовой сценарий проекта такого класса, не кейс конкретного клиента.
Ключевые факты
Частые вопросы о RAG под ключ
Что такое RAG простыми словами?
RAG — это способ дать языковой модели доступ к внешней базе знаний: перед ответом система находит релевантные документы и добавляет их в запрос. Модель отвечает не только «по памяти», а с опорой на конкретные документы компании, что снижает число ошибок и галлюцинаций.
Чем RAG отличается от fine-tuning?
RAG подключает модель к внешней базе знаний без изменения самой модели — подходит, когда данные часто обновляются. Fine-tuning дообучает модель на примерах, закрепляя знания и стиль в весах, — подходит для устойчивой специфики. Подробнее — на странице /llm-rag/fine-tuning/.
Из каких документов можно собрать базу знаний?
Подойдут регламенты, документация продукта, база знаний поддержки, статьи, PDF, DOCX, HTML и экспорт из Confluence или Notion. Перед индексацией мы очищаем документы от дублей и устаревших версий, чтобы модель не отвечала по неактуальным данным.
Сколько стоит подготовка RAG под ключ?
Пилот на одной базе знаний начинается от 600 000 ₽, рабочая система с несколькими источниками и правами доступа — от 1 200 000 ₽, развёртывание в закрытом контуре — от 3 000 000 ₽. Цена зависит от объёма документов и сложности разбиения на фрагменты. Точную смету дадим после бесплатного пилота на части вашей базы знаний.
Гарантируете ли вы конфиденциальность документов?
Да. Каждый проект закрываем NDA, доступ к документам ограничен по ролям, а хранение и индексация происходят на инфраструктуре в РФ по 152-ФЗ. Для чувствительных данных возможна работа в изолированном контуре заказчика.
Подготовим RAG для вашей базы знаний
Пришлите пример документов — вернёмся с планом чанкинга, оценкой объёма и сроком в течение 1 рабочего дня.
Не любите формы — напишите на info@datamarkup.ru