Магистратура
2021/2022
Нейробайесовские методы в машинном обучении
Лучший по критерию «Полезность курса для Вашей будущей карьеры»
Лучший по критерию «Полезность курса для расширения кругозора и разностороннего развития»
Лучший по критерию «Новизна полученных знаний»
Статус:
Курс по выбору (Программирование и анализ данных)
Направление:
01.04.02. Прикладная математика и информатика
Кто читает:
Департамент информатики
Когда читается:
2-й курс, 3 модуль
Формат изучения:
без онлайн-курса
Охват аудитории:
для своего кампуса
Преподаватели:
Кузнецов Антон Михайлович
Прогр. обучения:
Программирование и анализ данных
Язык:
русский
Кредиты:
4
Контактные часы:
28
Программа дисциплины
Аннотация
Является дисциплиной по выбору. Дисциплина посвящена применению байесовских методов в глубинном обучении. На лекциях будет рассказано о применении вероятностного моделирования для построения порождающих моделей данных, использованию состязающихся сетей для приближенного вывода, моделированию неопределенности в параметрах нейронной сети и о некоторых открытых проблемах глубинного обучения.
Планируемые результаты обучения
- Владеть эвристиками для ускорения работы нейробайесовских алгоритмов и для снижения дисперсии стохастических градиентов
- Знать различные вариации методов байесовского вывода
- Уметь анализировать теоретические свойства рассматриваемых алгоритмов машинного обучения
- Уметь выбирать и обучать генеративные модели из семейства GAN
- Уметь выбирать и обучать генеративные модели из семейства VAE
- Уметь осуществлять сжатие нейронных сетей на основе байесовского подхода
Содержание учебной дисциплины
- Стохастический вариационный вывод
- Вариационный автокодировщик
- Байесовские нейронные сети
- GAN
Промежуточная аттестация
- 2021/2022 учебный год 3 модуль0.3 * Домашнее задание 1 + 0.3 * Домашнее задание 2 + 0.4 * Экзамен
Список литературы
Рекомендуемая основная литература
- Геворкян Гурген Аркадиевич. (2017). Нейронные сети: графический интерфейс пользователя в Matlab. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsbas&AN=edsbas.4576DF4C
- Дифференциальные уравнения и вариационное исчисление : Учебник для вузов, Эльсгольц, Л. Э., 2000
- Нейронные сети, генетические алгоритмы и нечеткие системы, Рутковская, Д., 2008
Рекомендуемая дополнительная литература
- U. Rabtsau N., & В. Рябцев Н. (2015). Stochastic Approach for Evaluation of Reliability and Residual Life of Transport Structures ; Стохастический Подход К Оценке Надежности И Остаточного Ресурса Транспортных Сооружений. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsbas&AN=edsbas.74B384A1
- Байесовские методы статистического оценивания : надежность технических объектов, Савчук, В. П., 1989
- Бутусов Олег Борисович, Butusov Oleg Borisovich, Джулай Анна Алексеевна, & Dzhulai Anna Alekseevna. (2018). Применение методов визуального моделирования и программирования в образовательном процессе по дисциплине «Нейронные сети». Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsbas&AN=edsbas.E28243B