Байесовские методы в машинном обучении

Магистратура 2020/2021

Лучший по критерию «Полезность курса для Вашей будущей карьеры»

Лучший по критерию «Полезность курса для расширения кругозора и разностороннего развития»

Лучший по критерию «Новизна полученных знаний»

Статус: Курс по выбору (Программирование и анализ данных)

Направление: 01.04.02. Прикладная математика и информатика

Кто читает: Департамент информатики

Где читается: Санкт-Петербургская школа физико-математических и компьютерных наук

Когда читается: 1-й курс, 4 модуль

Формат изучения: с онлайн-курсом

Преподаватели: Кузнецов Антон Михайлович

Прогр. обучения: Программирование и анализ данных

Язык: русский

Кредиты: 4

Контактные часы: 4

Полная версия программы учебной дисциплины

Аннотация

Целями освоения дисциплины являются:освоение байесовского подхода к теории вероятностей и основных способов его применения для решения задач машинного обучения и приобретение навыков построения комплексные вероятностных моделей, вывода необходимых формул для решения задач обучения и вывода в рамках построенных вероятностных моделей, а также эффективной реализации данных моделей на компьютере. в результате изучения дисциплины, студент будет: 1. Знать основные байесовские модели, используемые для решения различных задач машинного обучения (смеси распределений, модель релевантных векторов, LDA и т.д.). 2. Знать основные методы обучения и вывода в вероятностных моделях (точные и приближенные). 3. Знать основные методы генерации выборки из ненормированного вероятностного распределения. 4. Уметь строить вероятностные модели, учитывающие структуру прикладной задачи машинного обучения. 5. Уметь выбирать наиболее подходящий метод обучения для данных моделей. 6. Уметь выводить необходимые формулы для решения задач обучения и вывода в рамках построенных вероятностных моделей. 7. Уметь эффективно реализовывать данные модели на компьютере.

Цель освоения дисциплины

Освоение байесовского подхода к теории вероятностей и основных способов его применения для решения задач машинного обучения.
Приобретение навыков построения комплексные вероятностных моделей, вывода необходимых формул для решения задач обучения и вывода в рамках построенных вероятностных моделей, а также эффективной реализации данных моделей на компьютере.

Планируемые результаты обучения

Знать основные методы обучения и вывода в вероятностных моделях (точные и приближенные). Уметь выбирать наиболее подходящий метод обучения для данных моделей. Уметь выводить необходимые формулы для решения задач обучения и вывода в рамках/ Уметь эффективно реализовывать данные модели на компьютере.
Уметь строить вероятностные модели, учитывающие структуру прикладной задачи машинного обучения. Уметь выбирать наиболее подходящий метод обучения для данных моделей. Уметь выводить необходимые формулы для решения задач обучения и вывода в рамках построенных вероятностных моделей.
Знать основные байесовские модели, используемые для решения различных задач машинного обучения (смеси распределений, модель релевантных векторов, LDA и т.д.). Знать основные методы обучения и вывода в вероятностных моделях (точные и приближенные). Уметь строить вероятностные модели, учитывающие структуру прикладной задачи машинного обучения.
Уметь строить вероятностные модели, учитывающие структуру прикладной задачи машинного обучения. Уметь выбирать наиболее подходящий метод обучения для данных моделей. Уметь выводить необходимые формулы для решения задач обучения и вывода в рамках построенных вероятностных моделей. Уметь эффективно реализовывать данные модели на компьютере.
Знать основные методы обучения и вывода в вероятностных моделях (точные и приближенные). Знать основные методы генерации выборки из ненормированного вероятностного распределения.
Знать основные методы обучения и вывода в вероятностных моделях (точные и приближенные). Уметь выбирать наиболее подходящий метод обучения для данных моделей. Уметь выводить необходимые формулы для решения задач обучения и вывода в рамках построенных вероятностных моделей.
Уметь выбирать наиболее подходящий метод обучения для данных моделей. Уметь выводить необходимые формулы для решения задач обучения и вывода в рамках построенных вероятностных моделей. Уметь эффективно реализовывать данные модели на компьютере.

Содержание учебной дисциплины

Байесовский подход к теории вероятностей. Полный байесовский вывод.
Байесовский выбор модели
Модель релевантных векторов для задачи регрессии. Модель релевантных векторов для задачи классификации.
ЕМ-алгоритм.
Вариационный подход
Методы Монте Карло по схеме марковских цепей (МСМС). Стохастические методы МСМС.
Гауссовские процессы для регрессии и классификации.
Тематическая модель Latent Dirichlet Allocation (LDA).
Стохастический вариационный вывод. Вариационный автокодировщик.

Элементы контроля

Домашнее задание
Домашнее задание
Домашнее задание
Экзамен
Экзамен проводится на платформе Zoom. Экзамен проводится в устной форме (опрос по материалам курса). По просьбе преподавателя студент должен быть готов выполнить некоторые задания в письменном виде, после чего сфотографировать и выслать на почту преподавателю. К экзамену необходимо подключиться согласно расписанию, высланному преподавателем на корпоративные почты студентов накануне экзамена. Компьютер студента должен удовлетворять требованиям: наличие рабочей камеры и микрофона, поддержка платформы Zoom. Для участия в экзамене студент обязан: выбрать себе имя в Zoom совпадающее с его именем и фамилией, явиться на экзамен согласно точному расписанию, при ответе включить камеру и микрофон. Во время экзамена студентам запрещается выключать камеру. Ипользование конспектов или других справочных материалов допускается только с разрешения преподавателя. Кратковременным нарушением связи во время экзамена считается нарушение связи менее 5 минут. Долговременным нарушением связи во время экзамена считается нарушение 5 минут и более. При долговременном нарушении связи возможность продолжения студентом участие в экзамене определяется преподавателем. Процедура пересдачи подразумевает использование усложненных заданий.

Промежуточная аттестация

Промежуточная аттестация (4 модуль)
0.23 * Домашнее задание + 0.23 * Домашнее задание + 0.24 * Домашнее задание + 0.3 * Экзамен

Программа дисциплины