Магистратура 2024/2025

Научно-исследовательский семинар "Дополнительные главы машинного обучения"

Статус: Курс по выбору (Искусственный интеллект)

Направление: 01.04.02. Прикладная математика и информатика

Кто читает: Департамент больших данных и информационного поиска

Где читается: Факультет компьютерных наук

Когда читается: 2-й курс, 1 модуль

Формат изучения: без онлайн-курса

Охват аудитории: для своего кампуса

Прогр. обучения: Машинное обучение и высоконагруженные системы

Язык: русский

Кредиты: 3

Контактные часы: 14

Программа дисциплины

Аннотация

Курс посвящен изучению современных алгоритмов и подходов из области машинного и глубинного обучения, не вошедших в классические курсы по машинного и глубинному обучению. Среди них: продвинутые генеративные модели в Computer Vision и в NLP, методы эффективного обучения больших языковых моделей, рекомендательные системы, грабовые нейронные сети и многое другое.

Цель освоения дисциплины

• Знать продвинутые генеративные модели и сложные модели Computer Vison
• Знать принципы работы LLM и PEFT
• Иметь представление об области 3d зрения
• Знать основные ML- и DL-подходы к построению рекомендательных систем
• Иметь представление об области DL на графах
• Иметь представление об области DL для звука
• Иметь представление о методах интерпретации DL-моделей
• Иметь общее представление об областях применения современного машинного и глубинного обучения

Планируемые результаты обучения

• Студент имеет представление о современных задачах машинного и глубинного обучения
• Студент знаком с основными подходами для применения современных моделей ML и DL в компьютерном зрении, NLP, звуке, графах
• Студент знаком с основными подходами к интерпретации DL-моделей

Содержание учебной дисциплины

• Введение в курс. Глубинное обучение в обработке звука
• Продвинутые генеративные модели и сложные модели CV. Сложные модели CV
• Введение в 3d computer vision
• Рекомендательные системы
• Интерпретация DL-моделей
• LLM. PEFT.
• Введение в DL на графах

Элементы контроля

• Домашнее задание 1
  Построение рекомендательной системы
• Домашнее задание 2
  Применение различных техник PEFT
• Контрольная работа
  Письменная контрольная работа на сессионной неделе в конце модуля

Промежуточная аттестация

• 2024/2025 1st module
  Итог = Округление(0.45*Онлайн-курс + 0.4*ДЗ + 0.15*КР), где ДЗ — средняя оценка за все домашние задания, КР — оценка за контрольную работу.

Список литературы

Рекомендуемая основная литература

• Hastie, T., Tibshirani, R., & Friedman, J. H. (2009). The Elements of Statistical Learning : Data Mining, Inference, and Prediction (Vol. Second edition, corrected 7th printing). New York: Springer. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsebk&AN=277008

Рекомендуемая дополнительная литература

• Глубокое обучение : погружение в мир нейронных сетей, Николенко, С., 2018

Авторы

• Кантонистова Елена Олеговна
• Ахмедова Гюнай Интигам кызы