Библиографическое описание:Многокритериальный алгоритм дифференциальной эволюции для поиска функции потерь в нейронных сетях : научное издание / Э. В. Морозов, В. В. Становов. - Текст : непосредственный // Наука и бизнес: пути развития. - 2024. - № 3. - С. 20-24. - Работа была поддержана Министерством науки и высшего образования Российской Федерации в рамках государственного задания № FEFE-2023-0004. - ISSN 2221-5182.
Аннотация:В работе предлагается подход к автоматической настройке коэффициентов функции потерь, выраженной в виде полинома, с помощью многокритериального алгоритма дифференциальной эволюции. Настройка коэффициентов в функции потерь происходит с целью повышения качества распознавания валидационной выборки по двум критериям: точности и f-мере. Найденная функция потерь дополнительно протестирована на ряде других архитектур сверточных нейронных сетей. Целью данной работы являются исследование множества альтернатив и построение фронта Парето для задачи настройки коэффициентов полиномиальной аппроксимации функции потерь в нейронных сетях. Для достижения указанной цели были решены следующие задачи: спроектирован и реализован многокритериальный алгоритм дифференциальной эволюции с сортировкой по недоминированию, реализована полиномиальная аппроксимация функции потерь, проведены эксперименты на задачах распознавания изображений с различными архитектурами.
In this study, an approach to automatic tuning of loss function coefficients is proposed, with loss function being implemented as a polynomial and optimized with multi-objective differential evolution algorithm. The tuning of the coefficients in the loss function is performed in order to improve the recognition quality on the validation sample according to two criteria - accuracy and f-measure. The found loss function is additionally tested on a set of other architectures of convolutional neural networks. The purpose of this study is to explore a set of alternatives and build a Pareto front for the problem of tuning the coefficients of the polynomial approximation of a loss function in neural networks. In order to achieve this goal, the following tasks were set and completed: the multi-objective differential evolution algorithm with non-dominated sorting was designed and implemented, polynomial approximation of the loss function was implemented, and the experiments on the problems of image recognition were performed with different architectures.
