Теория вероятностей и математическая статистика

Бакалавриат 2020/2021

Статус: Курс обязательный (Программная инженерия)

Направление: 09.03.04. Программная инженерия

Кто читает: Департамент математики

Где читается: Факультет компьютерных наук

Когда читается: 2-й курс, 1, 2 модуль

Формат изучения: без онлайн-курса

Преподаватели: Веселова Юлия Александровна, Горяинова Елена Рудольфовна, Демин Сергей Станиславович

Язык: русский

Кредиты: 5

Контактные часы: 72

Полная версия программы учебной дисциплины Задать вопрос

Аннотация

Изучение дисциплины Теория вероятностей и математическая статистика базируется на следующих дисциплинах: математический анализ; геометрия и алгебра. Для освоения учебной дисциплины студенты должны владеть следующими знаниями и компетенциями: знаниями основных определений и теорем перечисленных выше дисциплин; навыками решения типовых задач этих дисциплин. Основные положения дисциплины должны быть использованы в дальнейшем при изучении следующих дисциплин: статистические и эмпирические методы компьютинга; машинное обучение; анализ данных.

Цель освоения дисциплины

сформировать теоретические знания в области теории вероятностей и математической статистики
обучить студентов применять основные модели и методы математической статистики для обработки реальных данных

Планируемые результаты обучения

знать основные понятия теории вероятностей (вероятность, случайное событие, случайная величина, числовые характеристики случайных величин и их свойства, случайный вектор и его характеристики, независимость и некоррелированность случайных величин)
знать основные законы распределения случайных величин
знать виды сходимости случайных величин
знать предельные теоремы теории вероятностей
знать основные понятия математической статистики (выборка, оценки параметров и их свойства, гистограмма, эмпирическая функция распределения)
знать основные методы оценивания параметров (метод моментов (ММ) и метод максимального правдоподобия (ММП))
знать алгоритм проверки статистических гипотез
знать методы построения доверительных интервалов параметров случайных величин
знать методы проверки независимости признаков, измеренных в различных шкалах
знать методы оценивания параметров в регрессионных моделях
знать критерии, позволяющие проверять адекватность регрессионной модели
уметь вычислять вероятность случайного события
уметь вычислять числовые характеристики случайной величины
уметь вычислять вероятность попадания случайной величины в заданную область
уметь использовать статистические критерии для проверки гипотез относительно наблюдаемых случайных данных
уметь оценивать неизвестные параметры статистической модели
владеть навыками решения типовых задач теории вероятностей и математической статистики
владеть основными определениями, методами и алгоритмами анализа данных, содержащих случайную составляющую
владеть стандартными инструментариями обработки статистической информации

Содержание учебной дисциплины

Основные понятия теории вероятностей. Случайные события
Предмет теории вероятностей. Понятие пространства элементарных событий. Случайные события. Сигма-алгебра случайных событий. Классическое, статистическое, геометрическое и аксиоматическое определения вероятности случайного события. Основные свойства вероятности. Условные вероятности. Независимые случайные события. Формулы сложения и умножения вероятностей. Биномиальная схема испытаний. Формула полной вероятности. Формула Байеса.
Случайные величины
Определение случайной величины. Функция распределения и ее свойства. Дискретные случайные величины. Основные числовые характеристики дискретных случайных величин и их свойства. Распределение Бернулли. Биномиальное распределение. Распределение Пуассона. Геометрическое распределение. Непрерывные случайные величины. Плотность распределения вероятности непрерывной случайной величины и ее свойства. Определение математического ожидания непрерывной случайной величины. Распределение Коши. Равномерное распределение. Экспоненциальное распределение. Нормальное распределение. Функция Лапласа и ее свойства. Определение квантили. Функциональное преобразование случайной величины.
Случайные векторы
Функция распределения случайного вектора и ее свойства. Дискретные случайные векторы и способы их задания. Непрерывные случайные векторы. Свойства плотности распределения вероятности непрерывного случайного вектора. Определение независимых случайных величин. Числовые характеристики случайного вектора. Ковариация и ее свойства. Коэффициент корреляции и его свойства. Соотношение между некоррелированными и независимыми случайными величинами. Ковариационная и корреляционная матрицы. Условные законы распределения. Условные числовые характеристики. Формула полного математического ожидания.
Предельные теоремы теории вероятностей
Неравенства Чебышева. Различные виды сходимости случайных последовательностей: сходимость по вероятности, сходимость в среднеквадратическом, сходимость почти наверное, слабая сходимость. Связь между указанными видами сходимости (без доказательства). Закон больших чисел в форме Чебышева и в форме Хинчина. Теорема Бернулли. Центральная предельная теорема (без доказательства). Теорема Муавра-Лапласа как частный случай центральной предельной теоремы. Неравенство Берри-Эссена (без доказательства).
Основные понятия математической статистики. Оценивание параметров
Основные задачи математической статистики. Основные понятия выборочной теории: выборка, выборочное пространство; вариационный ряд, ранг элемента выборки, эмпирическая функция распределения; гистограмма; выборочные числовые характеристики, точечные оценки параметров. Свойства точечных оценок параметров: несмещённость, состоятельность, оптимальность в среднеквадратическом, эффективность по Рао-Крамеру. Неравенство Рао-Крамера (без доказательства). Основные методы нахождения точечных оценок параметров: метод максимального правдоподобия (ММП) и метод моментов (ММ). Свойства МП и ММ-оценок. Распределения, связанные с гауссовским (распределение хи-квадрат, распределение Стьюдента, распределение Фишера). Доверительное оценивание параметров. Центральная статистика. Построение доверительных интервалов параметров в одновыборочных и двувыборочных гауссовских моделях. Асимптотические доверительные интервалы.
Проверка статистических гипотез
Простые и сложные статистические гипотезы. Ошибки первого и второго рода. Статистический критерий. Функция мощности критерия. Состоятельные критерии. Алгоритм проверки статистической гипотезы. Лемма Неймана-Пирсона (без доказательства). Критерий Стьюдента и критерий Фишера для проверки параметрических гипотез в двухвыборочных гауссовских моделях. Критерий Колмогорова для проверки простой гипотезы о виде распределения случайной величины. Критерии согласия хи-квадрат для проверки простых и сложных гипотез о виде распределения случайной величины. Таблица сопряжённости признаков. Критерии проверки независимости двух случайных величин.
Регрессионный анализ
Модель линейной регрессии. МНК-оценка параметров и её свойства. Критерии проверки адекватности гауссовской линейной регрессионной модели.

Элементы контроля

О_ауд
О_ИДЗ
О_итоговый экзамен
Если у преподавателя возникает сомнение в том, что работа выполнена студентом самостоятельно, то допускается проведение собеседования.
О_КР

Промежуточная аттестация

Промежуточная аттестация (2 модуль)
0.1 * О_ауд + 0.1 * О_ИДЗ + 0.5 * О_итоговый экзамен + 0.3 * О_КР

Программа дисциплины