Анализ методов оптимизации гиперпараметров для глубоких нейронных сетей
Аннотация
Выпускная квалификационная работа содержит 44 страницы, 22 рисунка, 46 библиографических источников.
Ключевые слова: глобальная оптимизация, гиперпараметры, ней ронная сеть, автокодировщик, поиск изображений по содержанию, neural network hyperparameter, machine learning hyperparameter, hyperparameter optimization, hyperopt, bayesian optimization, kriging, content-based image retrieval.
Ключевые авторы: Bergstra J., Snoek J., Bengio Y., Bardenet R.
Цель исследования: Анализировать применимость метода оптими зации гиперпараметров в различных задачах, которые решаются с помо щью нейронных сетей.
Задачи исследования:
— Предложить подходы к анализу методов оптимизации гиперпара метров, которые позволяют оценить применимость этих методов в кон кретной нейронной сети;
— оценить производительность различных методов обучения нейрон ной сети для проведения исследований;
— оценить применимость метода оптимизации гиперпараметров в за даче классификации цифр из набора данных MNIST;
— оценить применимость метода оптимизации гиперпараметров в за даче поиска изображений по содержанию на наборе данных CIFAR-10.
Ключевые слова: глобальная оптимизация, гиперпараметры, ней ронная сеть, автокодировщик, поиск изображений по содержанию, neural network hyperparameter, machine learning hyperparameter, hyperparameter optimization, hyperopt, bayesian optimization, kriging, content-based image retrieval.
Ключевые авторы: Bergstra J., Snoek J., Bengio Y., Bardenet R.
Цель исследования: Анализировать применимость метода оптими зации гиперпараметров в различных задачах, которые решаются с помо щью нейронных сетей.
Задачи исследования:
— Предложить подходы к анализу методов оптимизации гиперпара метров, которые позволяют оценить применимость этих методов в кон кретной нейронной сети;
— оценить производительность различных методов обучения нейрон ной сети для проведения исследований;
— оценить применимость метода оптимизации гиперпараметров в за даче классификации цифр из набора данных MNIST;
— оценить применимость метода оптимизации гиперпараметров в за даче поиска изображений по содержанию на наборе данных CIFAR-10.