База знаний с ИИ: ассистент, который отвечает по вашим документам

Обычная база знаний — это папка на диске, вики или Confluence с поиском по словам. Чтобы найти ответ, нужно знать, как он назван в документе. Сотрудник пишет «как оформить отгул», а в регламенте написано «предоставление дня отдыха», и поиск ничего не находит. Проще спросить коллегу, поэтому новички месяц ходят с одними и теми же вопросами.

База знаний с ИИ ищет по смыслу и сразу отвечает. Насколько велика разница в поиске, я замерял на каталоге магазина: на запросах «своими словами» поиск по словам с учётом окончаний нашёл нужное в 8 случаях из 16, поиск по смыслу — в 15. Подробности — в статье про семантический поиск.

RAG (retrieval-augmented generation, генерация с опорой на найденное) — это схема, в которой модель отвечает не по памяти, а по тексту, который ей нашли прямо перед ответом. Шаги такие:

1. Документы (Word, PDF, Google Диск, Notion, Confluence)
2. Документы разбиваются на фрагменты и индексируются по смыслу
3. На вопрос подбираются подходящие фрагменты
4. Модель отвечает только по ним и ставит ссылки
5. Ответ в Telegram, Битрикс24 или окне на внутреннем сайте

Нарезка

Документы режутся на фрагменты по смыслу: пункт регламента, раздел инструкции. Слишком мелко — теряются связи, слишком крупно — модель читает лишнее и стоит дороже.

Поиск

Каждый фрагмент превращается в вектор — набор чисел, который описывает смысл. На вопрос ищутся фрагменты с близким смыслом, а точные совпадения (номера, названия) добавляются отдельно.

Ответ

Модель получает вопрос и найденные фрагменты и обязана отвечать только по ним, со ссылкой на источник. Подходящих фрагментов нет — ассистент так и говорит.

Главное следствие: базу не нужно «обучать». Изменился регламент — заменили файл, и ассистент отвечает по новой версии. Дообучение модели тоже бывает, но оно для другого: научить её вашим терминам и стилю, а не фактам.

У меня работает демо-ассистент по Трудовому кодексу и закону о персональных данных — открытые тексты, на которых удобно показывать. Его можно спросить прямо на странице ИИ-ассистент по базе знаний: каждый ответ со ссылкой на статью, а на вопрос не по теме он отказывает.

Я проверил его на 50 вопросах (подробно — в образце отчёта). На рабочей модели Qwen 3.8 27B: 47 верных ответов из 50, нужная статья найдена в 34 случаях из 35, все 11 вопросов вне базы отклонены. На каждый ответ ассистент читает в среднем 2024 токенов найденного текста, а пишет 68.

Сверку ответов с текстом статей делал мой ИИ-ассистент, не юрист. Набор из 50 вопросов небольшой, вопросы составил я сам: это проверка точности пересказа закона, а не юридическая экспертиза.

Самые показательные ошибки в проверке случились не в «уме» модели, а на стыках между шагами. Вот три типичных:

Опечатка в вопросе

«За сколько прадупреждать о сокращении»: из-за одной буквы поиск не нашёл статью 180, и ассистент отказал, хотя ответ в базе есть. Лечится исправлением опечаток до поиска.

Длинный документ, разрезанный на куски

Статья 81 о расторжении договора большая. В ответ на вопрос о прогуле до модели дошёл не тот кусок, и она заявила, что пункта о прогуле в статье нет. Лечится тем, что длинные документы отдаются целиком или с соседними фрагментами.

Вопрос «по-житейски»

«Меня уволили, пока я был в отпуске» — в тексте закона таких слов нет. Поиск промахнулся, и одна из дешёвых моделей уверенно ответила неверно. Лечится второй проверкой «найденное вообще про вопрос?» и житейскими формулировками в индексе.

Все шесть видов ошибок, которые я поймал, разобраны в статье про галлюцинации нейросети.

Документы

Выгрузка регламентов, инструкций, договоров: Word, PDF, Google Диск, Notion, Confluence. Текст из PDF часто приходит сломанным, поэтому PDF я разбираю отдельно: иначе портится поиск.

20 типичных вопросов

То, что новички и коллеги спрашивают чаще всего. Из них вырастает контрольный набор для замера.

Человек, который проверит ответы

Эксперт по теме, который скажет, где ответ верный, а где нет. Без него качество оценивается «на глаз».

Права доступа

При внедрении поиск идёт только по документам, к которым у сотрудника есть доступ: бухгалтер не увидит кадровые документы.

Где живут данные

Документы с персональными данными не отправляются зарубежным моделям: для них российская модель или ИИ на вашем сервере.

Главный вопрос к любому подрядчику: как вы узнаете, что ассистент отвечает правильно? Правильный ответ — числом, на ваших вопросах, до запуска.

• Контрольный набор из 50 вопросов, собранный вместе с вами, включая вопросы с опечатками и вопросы вне базы.
• Отдельная оценка поиска (нашёл ли нужный документ) и ответа (верно ли пересказал).
• Доля верных ответов и разбор ошибок по типам в отчёте.
• Тот же набор после каждого изменения: новых документов, модели, настроек.

Это входит в мой пилот: до 500 документов, 50 контрольных вопросов, отчёт о качестве, telegram-бот, 3–4 недели, от 90 000 ₽. Внедрение — интеграции, права доступа по отделам, автообновление базы, от 250 000 ₽. Поддержка — от 15 000 ₽/мес + модель по факту.