Теория вероятностей

2024/2025

Учебный год

RUS

Обучение ведется на русском языке

6

Кредиты

Кто читает:

Департамент больших данных и информационного поиска

Статус:

Курс по выбору

Когда читается:

2-й курс, 1-3 модуль

Преподаватели

Владыкина Вероника Евгеньевна

Демешев Борис Борисович

Каледин Максим Львович

Левин Илья Валерьевич

Морозов Никита Витальевич

Программа дисциплины

Аннотация

«Теория вероятностей» является базовой учебной дисциплиной, относится к математическому и естественнонаучному циклу дисциплин. В рамках курса слушатели познакомятся с теоретическими основами современной теории вероятностей, ее основными результатами, научатся решать стандартные задачи в данной области. Курс носит математический характер, слушатели смогут познакомиться с доказательствами большинства математических утверждений. Основные положения дисциплины могут быть использованы в дальнейшем при изучении следующих дисциплин, например: Математическая статистика; Машинное обучение 1; Машинное обучение 2; Теория информации; Прикладная статистика в машинном обучении.

Цель освоения дисциплины

• 侍には目標がなく道しかない [Samurai niwa mokuhyō ga naku michi shika nai] У самурая нет цели и ничего кроме пути.

Планируемые результаты обучения

• Для студентов: насладиться красотой науки о случайностях и попутно освоить программу курса.
• Для преподавателей: понять, как лучше обновить классическое изложение теории вероятностей.

Содержание учебной дисциплины

• Дискретное вероятностное пространство. Вероятность, математическое ожидание, теоретическая медиана. Перестановочные тесты, p-значение для перестановочного теста.
• Методы решения задач: * разложение величины в сумму * метод первого шага !идея: позиция в игре имеет цену * just for fun: метод рычага в геометрии через ожидание
• Условная вероятность и условное ожидание. Независимые события. Независимые случайные величины.
• Производящие функции многих переменных функция как способ записать множество HTT vs TTH ABRACADABRA !разложение по биномиальной формуле
• Дискретные распределения. Биномиальное распределение. Геометрическое и гипергеометрическое распределения. Отрицательное биномиальное распределение.
• Равномерное распределение как отправная точка. Равномерное распределение на множестве в R^n Функция распределения. Функция плотности и вероятностная дифференциальная форма. Квантили, квантильная функция. LOTUS.
• Характеристики случайных величин и неравенства. Дисперсия. Энтропия. Неравенство Маркова. Неравенство Чебышёва. Неравенство Йенсена.
• Пуассоновский поток. Аксиомы пуассоновского потока. Вывод экспоненциального распределения и пуассоновского распределения из аксиом. Вывод экспоненциального распределения из предпосылки об отсутствии памяти.
• Нормальное распределение. Нормальное распределение: предпосылки Хершела-Максвелла. Нормальное распределение: аргументация Гаусса за среднее арифметическое. Нормальное распределение: предпосылки Лэндона (до уравнения в частных производных).
• Классические непрерывные распределения. Гамма-распределение, бета-распределение. Вывод нормального и экспоненциального распределений как минимизации энтропии.
• Парные характеристики случайных величин. Наилучшая линейная аппроксимация. Ковариация. Корреляция. Кросс-энтропия. Доказательство E(XY) = E(X) E(Y) для дискретных. Ковариационная матрица и ожидание для случайных векторов.
• Совместная и условная функция плостности. Преобразования случайных величин.
• Функция производящая моменты и характеристическая функция. Распределение суммы случайного количества случайных величин. Случайный выбор слагаемых.
• Финансовые приложения. Оценивание опционов на биномиальном дереве. Максимизация долгосрочной прибыли. Здесь конец модуля 2 и КР-2
• Сигма-алгебры. Список известных величин как способ описания информации. Идея условного ожидания как оптимального прогноза. Сигма-алгебра как способ описания информации. Измеримость случайной величины относительно сигма-алгебры.
• Условное математическое ожидание. Условная дисперсия. Сумма случайного количества случайных величин.
• Сходимости случайных величин. Сходимость по вероятности. Закон больших чисел. Сходимость почти наверное. Усиленный закон больших чисел. Сходимость по распределению.
• Связь сходимостей. Лемма Слуцкого.
• Центральная предельная теорема. Доказательство через подмену слагаемых. Доказательство через характеристические функции.
• Винеровский процесс
• Байесовский подход к оцениванию параметров. Балансовое уравнение. Идея MCMC.
• Доказательства свойств меры.
• Алгоритм построения математического ожидания в общем случае. Лемма Фату. Теорема о мажорируемой сходимости. Теорема о монотонной сходимости.
• Резерв.

Элементы контроля

• Домашние задания семестра-1
  Домашние задания имеют равный вес. В конце каждой лекции (за исключением ближайших к экзамену лекций) выдается домашнее задание сроком на две недели. Дедлайн жёсткий, однако студент имеет право просрочить три домашних задания на неделю каждое без штрафа.
• Контрольная-Альфа
  Вес каждой задачи будет написан в тексте работы. Задачи с ненаписанным по случайности весом имеют равный вес. Для пропущенных по уважительной причине контрольных будет выделен один день для переписывания. При пропуске дня переписывания, в том числе по уважительным причинам, ещё одного шанса не предоставляется.
• Экзамен-Дельта
• Экзамен-Бета
• Домашние задания семестра-2
  Домашние задания имеют равный вес. В конце каждой лекции (за исключением ближайших к экзамену лекций) выдается домашнее задание сроком на две недели. Дедлайн жёсткий, однако студент имеет право просрочить три домашних задания на неделю каждое без штрафа.
• Контрольная-Гамма
  Вес каждой задачи будет написан в тексте работы. Задачи с ненаписанным по случайности весом имеют равный вес. Для пропущенных по уважительной причине контрольных будет выделен один день для переписывания. При пропуске дня переписывания, в том числе по уважительным причинам, ещё одного шанса не предоставляется.

Промежуточная аттестация

• 2024/2025 2nd module
  0.2 * Домашние задания семестра-1 + 0.4 * Контрольная-Альфа + 0.4 * Экзамен-Бета
• 2024/2025 3rd module
  Финальная оценка за курс = 0.5 Оценка за семестр-1 + 0.1 Домашние задания семестра-2 + 0.2 Контрольная-Гамма + 0.2 Экзамен-Дельта.

Список литературы

Рекомендуемая основная литература

• Вероятность -. Кн.1: Вероятность - 1 : элементарная теория вероятностей. Математические основания. Предельные теоремы, Ширяев, А. Н., 2007
• Вероятность -. Кн.2: Вероятность - 2 : суммы и последовательности случайных величин - стационарные, мартингалы, марковские цепи, Ширяев, А. Н., 2007

Рекомендуемая дополнительная литература

• 9780429766749 - Blitzstein, Joseph K.; Hwang, Jessica - Introduction to Probability, Second Edition - 2019 - Chapman and Hall/CRC - http://search.ebscohost.com/login.aspx?direct=true&db=nlebk&AN=2024519 - nlebk - 2024519

Авторы

• Сысоева Алевтина Александровна
• Самоненко Илья Юрьевич