Об одном подходе к разработке информационно-справочных систем на основе больших языковых моделей

В статье рассматривается современный подход к разработке контекстно-вопросно-ответной системы, на-
правленной на обеспечение информационной поддержки процессов территориального управления. Основой
системы являются большие языковые модели, использующие подход Retrieval-Augmented Generation (RAG).
Источником данных для базы знаний послужили официальные доклады «О состоянии окружающей среды»,
включающие текстовую и табличную информацию. Для эффективного хранения и быстрого доступа к дан-
ным использовалась векторная база данных PostgreSQL с расширением pgvector. Основной компонент системы
– RAG-модель, включающая Bi- и Cross-энкодеры, которые обеспечивают качественную обработку контекста
и точный подбор релевантных ответов. Серверная часть системы разработана с использованием платформы Text
Generation Interface, а клиентская часть реализована на базе ReactJS и Telegram-бота, что обеспечило удобство
взаимодействия с пользователями. Результаты работы демонстрируют, что предложенный подход позволяет по-
высить точность и эффективность ответов за счет использования фильтров классификации запросов, адаптации
временных интервалов и быстрого поиска релевантной информации. Разработанный графический интерфейс
делает систему доступной для широкого круга пользователей. Полученные результаты подтверждают эффек-
тивность внедрения современных технологий искусственного интеллекта в задачи территориального управле-
ния. В перспективе предложенная система может быть адаптирована для других прикладных областей.