Методы сжатия рекуррентных нейронных сетей для задач обработки естественного языкаMethods of recurrent neural network compression for natural languages processing

Повсеместное распространение мобильных устройств и рост их числа делают задачу сжатия нейронных сетей довольно востребованной в контексте размещения нейронных сетей на этих устройствах. В данном исследовании предложенно несколько методов сжатия RNN в задаче моделирования языка. Изучены простейшие методы наподобие прунинга и квантизации, рассмотрены методы матричного сжатия и предложены свои адаптации для задачи сжатия рекуррентных нейронных сетей. Завершающая глава посвящена применению байесовских методов для этой задачи.