Улучшение качества нейросетевых моделей естественного языка с помощью предоставления дополнительной информации
Аннотация
Борзунов А. А. УЛУЧШЕНИЕ КАЧЕСТВА НЕЙРОСЕТЕВЫХ МОДЕЛЕЙ ЕСТЕСТВЕННОГО ЯЗЫКА С ПОМОЩЬЮ ПРЕДОСТАВЛЕНИЯ ДОПОЛНИТЕЛЬНОЙ ИНФОРМАЦИИ. Квалификационная работа на степень бакалавра наук: стр. 35, табл. 1, рис. 4, библ. 18 назв..
Ключевые слова: обработка естественного языка, модели языка, нейронные сети, тематическое моделирование, векторные представления слов.
Модели естественного языка широко применяются в таких задачах, как распознавание речи и рукописного текста, машинный перевод, информационный поиск, генерация реплик в диалоговых системах, автодополнение и т. д.. Наиболее перспективными считаются модели языка, основанные на рекуррентных нейронных сетях. В данной работе исследуются методы улучшения качества и генеративных возможностей таких моделей с помощью предоставления дополнительной информации о семантической составляющей текста: вероятностной тематической модели и векторных представлений слов. Приводятся соответствующие экспериментальные результаты, рассматривается методика генерации текстов с распределением тематик, близком к заданному.
Ключевые слова: обработка естественного языка, модели языка, нейронные сети, тематическое моделирование, векторные представления слов.
Модели естественного языка широко применяются в таких задачах, как распознавание речи и рукописного текста, машинный перевод, информационный поиск, генерация реплик в диалоговых системах, автодополнение и т. д.. Наиболее перспективными считаются модели языка, основанные на рекуррентных нейронных сетях. В данной работе исследуются методы улучшения качества и генеративных возможностей таких моделей с помощью предоставления дополнительной информации о семантической составляющей текста: вероятностной тематической модели и векторных представлений слов. Приводятся соответствующие экспериментальные результаты, рассматривается методика генерации текстов с распределением тематик, близком к заданному.