Диссертации, представленные на защиту и подготовленные в НИУ ВШЭ

Диссертационное исследование посвящено разработке методов ускорения, сжатия нейронных сетей и построению системы по оценке времени их исполнения на конечных устройствах. В работе ключевыми являются три результата. Во–первых, создан алгоритм сжатия предварительно обученных нейронных сетей, основанный на многократном применении тензорных аппроксимаций к весам слоев нейронных сетей. Во-вторых, представлен метод ускорения предварительно обученных глубоких нейронных сетей. Ускорение достигается за счет замены больших блоков сети на крошечные полносвязные слои. Этот метод вдохновлен аналогией с идеями сокращения размерности для решения уравнений в динамических системах. Оба представленных подхода апробированы на задачах компьютерного зрения и продемонстрировали свою эффективность в сравнении с существующими методами сжатия и ускорения вывода нейронных сетей. В-третьих, построен метод оценки времени работы нейросетевых моделей для заданных программной реализации и целевого устройства. Создана система по сбору и обработке экспериментальных данных, и применению алгоритмов машинного обучения для предсказания времени исполнения моделей по их параметризации.