2020/2021

Современные методы машинного обучения

Лучший по критерию «Полезность курса для Вашей будущей карьеры»

Лучший по критерию «Полезность курса для расширения кругозора и разностороннего развития»

Лучший по критерию «Новизна полученных знаний»

Статус: Майнор

Кто читает: Департамент больших данных и информационного поиска

Где читается: Факультет компьютерных наук

Когда читается: 1, 2 модуль

Преподаватели: Багиян Нерсес Карленович, Ковалёв Алексей Константинович, Кузнецов Максим Дмитриевич, Рябенко Евгений Алексеевич, Соколов Евгений Андреевич, Трофимова Юлия Евгеньевна, Хайдуров Руслан Александрович, Чесаков Даниил Георгиевич

Язык: русский

Кредиты: 5

Контактные часы: 60

Программа дисциплины

Аннотация

Курс посвящён изучению современных методов машинного обучения, широко используемых в практических задачах. В первой части изучаются методы глубинного обучения: основы оптимизации, принципы обучения нейронных сетей, сети прямого распространения, архитектуры для работы с изображениями и текстовыми данными. Во второй части изучаются практические вопросы машинного обучения: подготовка данных, подбор гипепараметров, оптимизация модели под конкретную метрику, разработка признаков.

Цель освоения дисциплины

• Знать принципы обучения и применения нейронных сетей
• Знать основные архитектуры нейронных сетей
• Уметь обучать нейронные сети с помощью средств языка Python
• Уметь выполнять полный цикл решения задачи анализа данных

Планируемые результаты обучения

• Знать принципы обучения и применения нейронных сетей
• Уметь обучать нейронные сети с помощью средств языка Python
• Знать основные архитектуры нейронных сетей
• Уметь выполнять полный цикл решения задачи анализа данных

Содержание учебной дисциплины

• Методы оптимизации
  Градиентный спуск (напоминание), обсуждение его особенностей и проблем. Стохастический градиентный спуск. Ускорение сходимости стохастических методов: Moment и AdaGrad. Метод Ньютона.
• Нейронные сети
  Определение нейронной сети. Обучение нейронных сетей, метод обратного распространения ошибки. Введение в TensorFlow. Сверточные нейронные сети, современные архитектуры. Рекуррентные нейронные сети для текстов. Автокодировщики и другие применения нейросетей. Генеративные сети.
• Практический анализ данных
  Разведочный анализ данных. Подготовка данных, в том числе категориальных. Разработка признаков. Выбор модели. Оптимизация нестандартных метрик. Подбор гиперпараметров.

Элементы контроля

• Оценка онлайн курса
• Проверочные работы
  Проверочные работы по материалам онлайн-курсов
• Домашнее задание
• Контрольная работа
• Экзамен

Промежуточная аттестация

• Промежуточная аттестация (2 модуль)
  0.4 * Домашнее задание + 0.2 * Контрольная работа + 0.1 * Оценка онлайн курса + 0.1 * Проверочные работы + 0.2 * Экзамен

Список литературы

Рекомендуемая основная литература

• Hastie, T., Tibshirani, R., Friedman, J. The elements of statistical learning: Data Mining, Inference, and Prediction. – Springer, 2009. – 745 pp.

Рекомендуемая дополнительная литература

• Гудфеллоу Я., Бенджио И., Курвилль А. - Глубокое обучение - Издательство "ДМК Пресс" - 2018 - 652с. - ISBN: 978-5-97060-618-6 - Текст электронный // ЭБС ЛАНЬ - URL: https://e.lanbook.com/book/107901