Байесовские методы в машинном обучении

Бакалавриат 2022/2023

Лучший по критерию «Полезность курса для расширения кругозора и разностороннего развития»

Лучший по критерию «Новизна полученных знаний»

Статус: Курс по выбору (Прикладная математика и информатика)

Направление: 01.03.02. Прикладная математика и информатика

Кто читает: Департамент больших данных и информационного поиска

Где читается: Факультет компьютерных наук

Когда читается: 4-й курс, 1, 2 модуль

Формат изучения: без онлайн-курса

Охват аудитории: для своего кампуса

Преподаватели: Ветров Дмитрий Петрович, Ракитин Денис Романович, Южаков Тимофей Алексеевич

Язык: русский

Кредиты: 5

Контактные часы: 60

Полная версия программы учебной дисциплины Задать вопрос

Аннотация

Изучение дисциплины «Байесовские методы машинного обучения» нацелено на освоение т.н. байесовского подхода к теории вероятностей как одного из последовательных способов математических рассуждений в условиях неопределенности. В байесовском подходе вероятность интерпретируется как мера незнания, а не как объективная случайность. Простые правила оперирования с вероятностью, такие как формула полной вероятности и формула Байеса, позволяют проводить рассуждения в условиях неопределенности. В этом смысле байесовский подход к теории вероятностей можно рассматривать как обобщение классической булевой логики. Целью курса также является освоение студентами основных способов применения байесовского подхода при решении задач машинного обучения. Байесовский подход позволяет эффективно учитывать различные предпочтения пользователя при построении решающих правил прогноза. Кроме того, он позволяет решать задачи выбора структурных параметров модели. В частности, здесь удается решать без комбинаторного перебора задачи селекции признаков, выбора числа кластеров в данных, размерности редуцированного пространства при уменьшении размерности, значений коэффициентов регуляризации и проч. Предполагается, что в результате освоения курса студенты будут способны строить комплексные вероятностные модели, учитывающие структуру прикладной задачи машинного обучения, выводить необходимые формулы для решения задач обучения и вывода в рамках построенных вероятностных моделей, а также эффективно реализовывать данные модели на компьютере.

Цель освоения дисциплины

Освоение байесовского подхода к теории вероятностей и основных способов его применения для решения задач машинного обучения.
Приобретение навыков построения комплексные вероятностных моделей, вывода необходимых формул для решения задач обучения и вывода в рамках построенных вероятностных моделей, а также эффективной реализации данных моделей на компьютере.

Планируемые результаты обучения

Знать основные методы обучения и вывода в вероятностных моделях (точные и приближенные)
Знать основные методы обучения и вывода в вероятностных моделях (точные и приближенные).
Знать основные байесовские модели, используемые для решения различных задач машинного обучения (смеси распределений, модель релевантных векторов, LDA и т.д.)
Знать основные методы генерации выборки из ненормированного вероятностного распределения
Уметь выбирать наиболее подходящий метод обучения для данных моделей
Уметь выводить необходимые формулы для решения задач обучения и вывода в рамках построенных вероятностных моделей
Уметь строить вероятностные модели, учитывающие структуру прикладной задачи машинного обучения
Уметь эффективно реализовывать данные модели на компьютере

Содержание учебной дисциплины

Байесовский подход к теории вероятностей. Полный байесовский вывод.
Байесовский выбор модели.
Модель релевантных векторов для задачи регрессии. Модель релевантных векторов для задачи классификации
ЕМ-алгоритм
Вариационный подход
Методы Монте Карло по схеме марковских цепей (МСМС). Стохастические методы МСМС
Гауссовские процессы для регрессии и классификации
Тематическая модель Latent Dirichlet Allocation (LDA)
Стохастический вариационный вывод. Вариационный автокодировщик

Элементы контроля

Домашнее задание (теоретические)
3 теоретических домашних задания (решение теоретических задач по материалам лекций)
Домашнее задание (лабораторные)
4 домашних лабораторных работы (выполнение короткого практического задания на закрепление материала)
Устный экзамен
Домашнее задание (практические)
2 практических домашних задания (вывод формул, программная реализация модели, проведение экспериментов, написание полного отчета).

Промежуточная аттестация

2022/2023 учебный год 2 модуль
0.171 * Домашнее задание (теоретические) + 0.3 * Домашнее задание (практические) + 0.229 * Домашнее задание (лабораторные) + 0.3 * Устный экзамен

Список литературы

Авторы

Лобачева Екатерина Максимовна
Ветров Дмитрий Петрович

Программа дисциплины