Купить RAG-систему: что входит в ИИ-бота по документам компании и сколько это стоит

Как работает RAG простыми словами

RAG — retrieval-augmented generation, «генерация с поиском». Система не держит знания в голове модели, а работает как внимательный сотрудник с доступом к архиву:

1. Документы — регламенты, договоры, инструкции, прайсы — режутся на фрагменты по смыслу. У каждого фрагмента остаётся адрес: файл, раздел, дата.
2. По фрагментам строится индекс, чтобы искать не по точным словам, а по смыслу вопроса.
3. Когда сотрудник спрашивает, система проверяет его права и ищет только среди того, что ему можно видеть.
4. Несколько самых подходящих фрагментов уходят в модель вместе с вопросом.
5. Модель отвечает только по ним и приводит источник. Не нашла — так и говорит.

Поэтому RAG удобнее, чем «дообучение» модели на ваших данных: поменяли пункт регламента — ответ поменялся сразу, без переобучения. И любой ответ можно проверить, открыв источник.

Что входит в RAG-систему под ключ

Под словами «купить RAG» подрядчики понимают разное — от доступа к конструктору до готовой системы с правами и журналом. Когда сравниваете предложения, проверьте, что в состав работ входят:

• Разбор документов: форматы, дубли, устаревшие версии, кто и как будет обновлять базу.
• Индексация и настройка поиска под ваши документы, а не «загрузили папку как есть».
• Правила ответа: что отвечать, чего не отвечать, когда переводить на человека, как оформлять ссылку на источник.
• Права доступа: бухгалтерия не видит инженерные регламенты, подрядчик — внутренние инструкции. Права проверяются при поиске, а не при показе ответа.
• Подключение туда, где спрашивают: виджет на сайте, Telegram, MAX, корпоративный портал или чат.
• Проверочные вопросы и прогон по ним до приёмки.
• Инструкция по обновлению базы и журнал вопросов: что спрашивают и на что система не ответила.

Если какого-то пункта в предложении нет, уточните, кто его делает. Выпавший пункт потом обычно всплывает как «доработка».

Облако или закрытый контур

Главный вопрос, от которого зависят и цена, и согласование со службой безопасности, — где работает модель.

Облачная модель. Запросы и найденные фрагменты уходят провайдеру модели. На старте это дешевле: не нужен свой сервер, оплата по числу обращений. Подходит, если в документах нет коммерческой тайны и персональных данных или их можно исключить из индекса.

Закрытый контур (on-premise). Модель, индекс и журнал стоят на ваших серверах, наружу не уходит ничего — это проверяется сетевыми правилами. Нужен сервер с видеокартой, зато нет платы за каждое обращение. Подробнее — в статье про ИИ в закрытом контуре, про железо — на странице серверов для нейросетей.

Мы считаем оба варианта и показываем разницу в деньгах на вашем объёме вопросов — до начала работ, а не после.

Сколько стоит RAG-система

Работы по внедрению начинаются от 100 000 ₽. Итоговую цифру определяют:

• Состояние документов. Тысячи файлов — обычная история; дорого обходится не объём, а пять версий одного регламента, из которых непонятно, какая действует.
• Сканы без текстового слоя. Их нужно сначала распознать — это отдельная работа.
• Число ролей и сложность прав доступа.
• Интеграции: портал, CRM, 1С, каталог пользователей.
• Где работает модель: в облаке или на вашем сервере.

После запуска остаются ежемесячные расходы: обращения к облачной модели или содержание своего сервера и сопровождение. Варианты сопровождения — от самостоятельного обновления базы по инструкции до договора со сроком реакции — расписаны на странице разработки RAG-систем.

Как проверить RAG-систему до покупки

Демонстрация на чужих документах почти ничего не говорит о том, как система будет отвечать на ваших. Попросите прогон на ваших материалах:

• Возьмите несколько десятков реальных вопросов сотрудников и ответы на них из документов.
• Проверьте, что у каждого ответа есть ссылка на конкретный документ и раздел.
• Задайте вопросы, ответа на которые в базе нет: правильная реакция — «не знаю», а не уверенная выдумка.
• Проверьте права: сотрудник без доступа к документу не должен получить его содержимое даже пересказом.
• Поменяйте документ и убедитесь, что ответ поменялся.

У нас эти пункты записаны в критерии приёмки: система отвечает на согласованный список вопросов со ссылкой на источник, на вопрос вне базы говорит «не знаю», права проверены на двух ролях, а вы сами обновили документ и получили ответ по новой версии. Как собрать набор вопросов, — в статье как тестировать ИИ-помощника.

Что можно посмотреть у нас

Наша собственная разработка — платформа работы с документами «ДевБотРазум»: загрузка документов, разделение по доменам знаний, чат с ответами по содержимому. Это демонстрационный стенд: показываем его вживую по видеосвязи, о внедрениях у клиентов на этой платформе пока не говорим.

Тот же механизм в простом виде работает в консультанте на этом сайте — он отвечает по базе знаний, собранной из данных сайта. Пример отраслевого применения — чат абитуриента, который отвечает по правилам приёма со ссылкой на пункт документа; его мы тоже показываем как демо.

Где RAG не поможет

• Плохие документы не станут хорошими. Если регламент противоречит сам себе, система покажет оба места — решать всё равно человеку.
• Точность не измеряется одним числом из рекламы. Её меряют на вашем списке вопросов.
• Юридическую ответственность за ответ система не несёт. Где цена ошибки высока, оставляем подтверждение человеком.

Частые вопросы

Чем RAG-система отличается от обычного чат-бота с ИИ?

Обычный бот отвечает из общих знаний модели и может уверенно ошибаться. RAG-система сначала находит фрагмент в ваших документах и отвечает только по нему, со ссылкой на источник, поэтому ответ можно проверить.

Сколько стоит RAG-система под ключ?

Работы по внедрению — от 100 000 ₽. Отдельно считаются обращения к модели или свой сервер и сопровождение. Точную сумму называем, когда увидим объём документов, список интеграций и критерии приёмки.

Можно ли развернуть RAG без интернета, на своих серверах?

Да. Модель, индекс и журнал ставятся в ваш контур, наружу ничего не уходит. Нужен сервер с видеокартой — подбираем его под объём документов и число пользователей.

Что будет, если документ изменится?

После обновления базы система отвечает по новой версии. Откуда забирать документы — папка, диск, портал или выгрузка — настраивается при внедрении.

Сколько документов выдержит система?

Тысячи файлов — обычный объём. Ограничивает не количество, а порядок: дубли и устаревшие версии нужно убрать до индексации.

Есть ли у вас решение, которое можно посмотреть?

Да, платформу работы с документами «ДевБотРазум» и консультанта на этом сайте показываем вживую. Это демонстрация механизма, а не отчёт о внедрении у клиента.

Читайте дальше: Разработка RAG-систем под ключ, Локальный ИИ в закрытом контуре, ИИ-ассистент «Ассистент ПРО», ИИ-бот на сайт для бизнеса.