Методы оптимизации для негладких задач в пространствах больших размерностейOptimization methods for non-smooth problems in large dimensional spaces

Численные методы оптимизации играют важнейшую роль в решении многих прикладных задач различных областей науки, прежде всего, машинного обучения и анализа данных. Наибольшие трудности в использовании известных алгоритмов оптимизации возникают из-за негладкости целевой функции, невозможности точного вычисления ее значения и значения ее субградиентов в заданной точке, а также большой размерности задачи. В данной диссертации предлагаются различные модификации алгоритма зеркального спуска с переключениями для минимизации негладких выпуклых функций. При этом данные модификации применимы для разнообразных вариантов постановки задачи оптимизации с ограничениями типа неравенств, в том числе, для невыпуклых (квазивыпуклых) функций и ограничений, неточно заданных функций, допускающих представление в виде абстрактной модели, а также случаев онлайн и стохастической постановок задачи. Далее в диссертации предлагаются численные методы решения вариационных неравенств с монотонным оператором и обосновывается возможность применения техники рестартов адаптивного проксимального зеркального метода в случае, если оператор является сильно монотонным и удовлетворяет условию Гельдера. Также в работе впервые предлагается ускоренный метод решения седловой задачи с пониженным уровнем гладкости.