Математическая статистика (углубленный курс)

Бакалавриат 2023/2024

Лучший по критерию «Полезность курса для расширения кругозора и разностороннего развития»

Лучший по критерию «Новизна полученных знаний»

Статус: Курс по выбору (Прикладная математика и информатика)

Направление: 01.03.02. Прикладная математика и информатика

Кто читает: Департамент больших данных и информационного поиска

Где читается: Факультет компьютерных наук

Когда читается: 2-й курс, 3, 4 модуль

Формат изучения: без онлайн-курса

Охват аудитории: для своего кампуса

Преподаватели: Демидова Дарья Сергеевна, Носков Федор Андреевич, Пучкин Никита Андреевич, Самсонов Сергей Владимирович

Язык: русский

Кредиты: 5

Контактные часы: 120

Полная версия программы учебной дисциплины

Аннотация

“Математическая статистика (углубленный курс)” является самостоятельноий учебноий дисциплиноий, относится к математическому и естественно- научному циклу дисциплин. Для специализации 01.03.02 «Прикладная математика и информатика» настоящая дисциплина является базовоий. В рамках курса слушатели познакомятся с теоретическими основами современной математической статистики ее основными результатами, научатся решать стандартные задачи в данноий области. Курс носит продвинутыий характер, слушатели смогут познакомиться с доказательствами большинства математических утверждениий. Основные положения дисциплины могут быть использованы в дальнеийшем при изучении следующих дисциплин: “Машинное обучение 1”, “Машинное обучение 2”, “Statistical Learning Theory”, “Прикладная статистика в машинном обучении”.

Цель освоения дисциплины

Уметь составлять вероятностно-статистические модели для описания случайных явлений и применять математические методы для их анализа.
Знать основные методы построения точечных и интервальных оценок, проверки статистических гипотез, а также условия их применимости.
Владеть байесовским подходом к построению оценок и проверке статистических гипотез.
Уметь применять аппарат теории вероятностей для проверки основных свойств статистических оценок и анализа их численных характеристик.

Планируемые результаты обучения

Уметь сравнивать различные точечные оценки и методы проверки гипотез.
Владеть навыками решения стандартных задач по математической статистике.
Уметь проводить статистические численные эксперименты с использованием языка программирования Python.
Уметь реализовывать основные алгоритмы построения оценок и проверки статистических гипотез на языке программирования Python или использовать их готовые имплементации для анализа данных.

Содержание учебной дисциплины

Основные понятия математической статистики. Вероятностно-статистическая модель, выборка, точечная оценка. Оптимальные оценки. Выборочные моменты, эмпирическая функция распределения. Порядковые статистики, вариационный ряд.
Параметрическая и непараметрическая модели. Точечная оценка, сравнение оценок. Несмещенность, состоятельность и сильная состоятельность оценок. Асимптотическая нормальность оценок.
Информация Фишера, функция правдоподобия, эффективные оценки и неравенство Рао-Крамера. Экспоненциальное семейство распределений. Сверхэффективные оценки.
Метод моментов и метод максимального правдоподобия. Свойства оценок максимального правдоподобия.
Условные математические ожидания и вероятности. Свойства условного математического ожидания.
Достаточные статистики. Критерий факторизации. Теорема Рао-Блекуэлла-Колмогорова. Полные достаточные статистики. Теорема Басу.
Интервальное оценивание. Доверительные интервалы. Центральная статистика.
Байесовское оценивание. Байесовский риск. Априорное и апостериорное распределения. Сопряженное априорное распределение.
Основные понятия статистической проверки гипотез. Простая и сложная гипотезы. Статистический критерий. Уровень значимости критерия. Ошибки первого и второго рода.
Критерии согласия для проверки гипотезы о виде распределения. Критерий согласия Колмогорова. Статистика Колмогорова-Смирнова. Теорема Гливенко-Кантелли. Критерий Пирсона хи-квадрат для проверки простой и сложной гипотез о виде распределения.
Наиболее мощный критерий. Лемма Неймана-Пирсона. Равномерно наиболее мощный критерий. Последовательный анализ Вальда.
Байесовский подход к проверке гипотез.
Проверка гипотез независимости и однородности. Критерии хи-квадрат для проверки гипотез независимости и однородности. Множественное тестирование, поправка Бонферрони.
A/B-тестирование. Проверка гипотезы однородности в гауссовском случае, F-тест и t-тест.
Модель линейной регрессии. Свойства оценки метода наименьших квадратов. Риск оценки метода наименьших квадратов.
Нарушение линейного параметрического предположения в модели регрессии. Оценки риска, ошибка аппроксимации и стохастическая ошибка.
Мисспецифицированный шум в модели линейной регрессии. Теорема Гаусса-Маркова.
Проверка гипотез в модели линейной регрессии. Коэффициент детерминации.
Интервальное оценивание в модели линейной регрессии.
Выбор модели. Кросс-валидация. Несмещенная оценка риска, информационный критерий Акаике и байесовский информационный критерий.
Непараметрическая оценка плотности. Ядерная оценка и метод k ближайших соседей.
Непараметрическая регрессия. Оценка Надарая-Ватсона. Локально полиномиальное оценивание.

Элементы контроля

Домашние задания
Коллоквиум 1
Контрольная работа
Коллоквиум 2
Экзамен

Промежуточная аттестация

2023/2024 учебный год 4 модуль
Итоговая оценка рассчитывается по формуле Итог = Округление(0.2 * ДЗ + 0.15 * K1 + 0.25 * КР + 0.15 * K2 + 0.25 * Э), где ДЗ — оценка за домашние задания, вычисляемая как отношение суммы набранных баллов за решения задач к максимальному количеству баллов, которое можно было набрать за решение всех задач из домашних заданий; K1 — оценка за первый коллоквиум, КР — оценка за контрольную работу, K2 — оценка за второй коллоквиум, Э — оценка за экзамен. Округление арифметическое.

Список литературы

Авторы

Косов Егор Дмитриевич
Шабанов Дмитрий Александрович

Программа дисциплины