Магистратура 2021/2022

Нейробайесовские методы в машинном обучении

Лучший по критерию «Полезность курса для Вашей будущей карьеры»

Лучший по критерию «Полезность курса для расширения кругозора и разностороннего развития»

Лучший по критерию «Новизна полученных знаний»

Статус: Курс по выбору (Науки о данных (Data Science))

Направление: 01.04.02. Прикладная математика и информатика

Кто читает: Базовая кафедра Яндекс

Где читается: Факультет компьютерных наук

Когда читается: 1-й курс, 3, 4 модуль

Формат изучения: без онлайн-курса

Охват аудитории: для своего кампуса

Преподаватели: Ветров Дмитрий Петрович

Прогр. обучения: Науки о данных

Язык: русский

Кредиты: 4

Контактные часы: 48

Программа дисциплины

Аннотация

Курс посвящен применению байесовских методов в глубинном обучении. На лекциях будет рассказано о применении вероятностного моделирования для построения порождающих моделей данных, использованию состязающихся сетей для приближенного вывода, моделированию неопределенности в параметрах нейронной сети и о некоторых открытых проблемах глубинного обучения.

Цель освоения дисциплины

• Изучение байесовских методов в глубинном обучении.

Планируемые результаты обучения

• Владеть эвристиками для ускорения работы нейробайесовских алгоритмов и для снижения дисперсии стохастических градиентов
• Знать различные вариации методов байесовского вывода
• Уметь анализировать теоретические свойства рассматриваемых алгоритмов машинного обучения
• Уметь выбирать и обучать генеративные модели из семейства GAN
• Уметь выбирать и обучать генеративные модели из семейства VAE
• Уметь осуществлять сжатие нейронных сетей на основе байесовского подхода

Содержание учебной дисциплины

• Стохастический вариационный вывод
• Вариационный автокодировщик
• Байесовские нейронные сети
• GAN

Элементы контроля

• Домашняя работа
• Домашняя работа
• Экзамен
  Оценка за дисциплину выставляется в соответствии с формулой оценивания от всех пройденных элементов контроля. Экзамен не проводится.

Промежуточная аттестация

• 2021/2022 учебный год 4 модуль
  0.3 * Домашняя работа + 0.4 * Экзамен + 0.3 * Домашняя работа

Список литературы

Рекомендуемая основная литература

• Геворкян Гурген Аркадиевич. (2017). Нейронные сети: графический интерфейс пользователя в Matlab. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsbas&AN=edsbas.4576DF4C
• Дифференциальные уравнения и вариационное исчисление : Учебник для вузов, Эльсгольц, Л. Э., 2000
• Нейронные сети, генетические алгоритмы и нечеткие системы, Рутковская, Д., 2008

Рекомендуемая дополнительная литература

• U. Rabtsau N., & В. Рябцев Н. (2015). Stochastic Approach for Evaluation of Reliability and Residual Life of Transport Structures ; Стохастический Подход К Оценке Надежности И Остаточного Ресурса Транспортных Сооружений. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsbas&AN=edsbas.74B384A1
• Бутусов Олег Борисович, Butusov Oleg Borisovich, Джулай Анна Алексеевна, & Dzhulai Anna Alekseevna. (2018). Применение методов визуального моделирования и программирования в образовательном процессе по дисциплине «Нейронные сети». Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsbas&AN=edsbas.E28243B

Авторы

• Федотов Станислав Николаевич