Разработка чатбота для второй линии поддержки

Гулич Анна Степановна

Аннотация


Актуальность работы обусловлена необходимостью создания и внедрения чат-бота – ассистента для службы технической поддержки на предприятии Nordic IT, занимающимся разработкой крупного программного продукта для работы с электронной почтой в сфере логистики морских грузоперевозок.
Цель работы: разработка чат-бота для службы технической поддержки на предприятии Nordic IT на базе большой языковой модели GPT-3.5-turbo.
Для достижения поставленной цели необходимо решение следующих задач:
изучить теоретические основы построения чат-ботов, современные решения и тенденции, особенности применения чат-ботов;
изучить существующие подходы к построению чат-ботов на базе больших языковых моделей;
обосновать выбранные методы, инструменты и технологии, использованные при построении чат-бота;
произвести сбор и предобработку данных из пяти внутренних источников компании Nordic IT, с целью их дальнейшего использования при построении чат-бота;
разработать и реализовать архитектуру чат-бота;
реализовать интеграцию чат-бота с Microsoft Teams - корпоративным мессенджером компании;
развернуть чат-бот в инфраструктуре Microsoft Azure;
выбрать и обосновать выбранные метрики качества, произвести оценку качества генерируемых ответов чат-бота;
произвести оценку экономической эффективности от внедрения чат-бота в деятельность предприятия Nordic IT.
Объектом исследования является разработка чат-бот приложений.
Предметом исследования являются разработка чат-ботов на базе больших языковых моделей с применением технологий Retrieval Augmented Generation (RAG) и fine-tuning.
Практическая значимость исследования заключается в применении разработанного чат-бота для повышения продуктивности работы службы поддержки предприятия Nordic IT, повышения скорости решения проблем, возникающих у пользователей программного продукта, разрабатываемого компанией, а также для снижения нагрузки на разработчиков за счет автоматизации ответов на часто задаваемые вопросы, поступающие от службы поддержки.
Вывод по результатам: был спроектирован, разработан и подготовлен к внедрению чат-бот на базе языковой модели GPT-3.5-turbo для второй линии службы поддержки в компании Nordic IT. Чат-бот был обучен на пяти внутренних источниках данных компании, для чего предварительно была проделана большая работа по предобработке данных с целью приведения их в формат, необходимый для построения чат-бота на базе языковой модели. Для построения чат-бота были применены технологии Retrieval Augmented Generation (RAG) и fine-tuning. В результате проведения оценки качества с помощью метода оценивания G-Eval, были получены положительные результаты, в результате чего было принято решение о внедрении чат-бота в деятельность компании. В заключении была произведена оценка экономической эффективности от внедрения, которая также показала целесообразность внедрения спроектированного чат-бота в деятельность компании.