Теория вероятностей

Бакалавриат 2024/2025

Статус: Курс по выбору (Прикладная математика и информатика)

Направление: 01.03.02. Прикладная математика и информатика

Кто читает: Департамент больших данных и информационного поиска

Где читается: Факультет компьютерных наук

Когда читается: 2-й курс, 1-3 модуль

Формат изучения: без онлайн-курса

Охват аудитории: для всех кампусов НИУ ВШЭ

Преподаватели: Владыкина Вероника Евгеньевна, Демешев Борис Борисович, Каледин Максим Львович, Левин Илья Валерьевич, Морозов Никита Витальевич, Юрьева Голуба Валерьевна

Язык: русский

Кредиты: 6

Полная версия программы учебной дисциплины Задать вопрос

Аннотация

«Теория вероятностей» является базовой учебной дисциплиной, относится к математическому и естественнонаучному циклу дисциплин. В рамках курса слушатели познакомятся с теоретическими основами современной теории вероятностей, ее основными результатами, научатся решать стандартные задачи в данной области. Курс носит математический характер, слушатели смогут познакомиться с доказательствами большинства математических утверждений. Основные положения дисциплины могут быть использованы в дальнейшем при изучении следующих дисциплин, например: Математическая статистика; Машинное обучение 1; Машинное обучение 2; Теория информации; Прикладная статистика в машинном обучении.

Цель освоения дисциплины

侍には目標がなく道しかない [Samurai niwa mokuhyō ga naku michi shika nai] У самурая нет цели и ничего кроме пути.

Планируемые результаты обучения

Для студентов: насладиться красотой науки о случайностях и попутно освоить программу курса.
Для преподавателей: понять, как лучше обновить классическое изложение теории вероятностей.

Содержание учебной дисциплины

Дискретное вероятностное пространство. Вероятность, математическое ожидание, теоретическая медиана. Перестановочные тесты, p-значение для перестановочного теста.
Методы решения задач: * разложение величины в сумму * метод первого шага !идея: позиция в игре имеет цену * just for fun: метод рычага в геометрии через ожидание
Условная вероятность и условное ожидание. Независимые события. Независимые случайные величины.
Производящие функции многих переменных функция как способ записать множество HTT vs TTH ABRACADABRA !разложение по биномиальной формуле
Дискретные распределения. Биномиальное распределение. Геометрическое и гипергеометрическое распределения. Отрицательное биномиальное распределение.
Равномерное распределение как отправная точка. Равномерное распределение на множестве в R^n Функция распределения. Функция плотности и вероятностная дифференциальная форма. Квантили, квантильная функция. LOTUS.
Характеристики случайных величин и неравенства. Дисперсия. Энтропия. Неравенство Маркова. Неравенство Чебышёва. Неравенство Йенсена.
Пуассоновский поток. Аксиомы пуассоновского потока. Вывод экспоненциального распределения и пуассоновского распределения из аксиом. Вывод экспоненциального распределения из предпосылки об отсутствии памяти.
Нормальное распределение. Нормальное распределение: предпосылки Хершела-Максвелла. Нормальное распределение: аргументация Гаусса за среднее арифметическое. Нормальное распределение: предпосылки Лэндона (до уравнения в частных производных).
Классические непрерывные распределения. Гамма-распределение, бета-распределение. Вывод нормального и экспоненциального распределений как минимизации энтропии.
Парные характеристики случайных величин. Наилучшая линейная аппроксимация. Ковариация. Корреляция. Кросс-энтропия. Доказательство E(XY) = E(X) E(Y) для дискретных. Ковариационная матрица и ожидание для случайных векторов.
Совместная и условная функция плостности. Преобразования случайных величин.
Функция производящая моменты и характеристическая функция. Распределение суммы случайного количества случайных величин. Случайный выбор слагаемых.
Финансовые приложения. Оценивание опционов на биномиальном дереве. Максимизация долгосрочной прибыли. Здесь конец модуля 2 и КР-2
Сигма-алгебры. Список известных величин как способ описания информации. Идея условного ожидания как оптимального прогноза. Сигма-алгебра как способ описания информации. Измеримость случайной величины относительно сигма-алгебры.
Условное математическое ожидание. Условная дисперсия. Сумма случайного количества случайных величин.
Сходимости случайных величин. Сходимость по вероятности. Закон больших чисел. Сходимость почти наверное. Усиленный закон больших чисел. Сходимость по распределению.
Связь сходимостей. Лемма Слуцкого.
Центральная предельная теорема. Доказательство через подмену слагаемых. Доказательство через характеристические функции.
Винеровский процесс
Байесовский подход к оцениванию параметров. Балансовое уравнение. Идея MCMC.
Доказательства свойств меры.
Алгоритм построения математического ожидания в общем случае. Лемма Фату. Теорема о мажорируемой сходимости. Теорема о монотонной сходимости.
Резерв.

Элементы контроля

Домашние задания семестра-1
Домашние задания имеют равный вес. В конце каждой лекции (за исключением ближайших к экзамену лекций) выдается домашнее задание сроком на две недели. Дедлайн жёсткий, однако студент имеет право просрочить три домашних задания на неделю каждое без штрафа.
Контрольная-Альфа
Вес каждой задачи будет написан в тексте работы. Задачи с ненаписанным по случайности весом имеют равный вес. Для пропущенных по уважительной причине контрольных будет выделен один день для переписывания. При пропуске дня переписывания, в том числе по уважительным причинам, ещё одного шанса не предоставляется.
Экзамен-Дельта
Экзамен-Бета
Домашние задания семестра-2
Домашние задания имеют равный вес. В конце каждой лекции (за исключением ближайших к экзамену лекций) выдается домашнее задание сроком на две недели. Дедлайн жёсткий, однако студент имеет право просрочить три домашних задания на неделю каждое без штрафа.
Контрольная-Гамма
Вес каждой задачи будет написан в тексте работы. Задачи с ненаписанным по случайности весом имеют равный вес. Для пропущенных по уважительной причине контрольных будет выделен один день для переписывания. При пропуске дня переписывания, в том числе по уважительным причинам, ещё одного шанса не предоставляется.

Промежуточная аттестация

2024/2025 2nd module
0.2 * Домашние задания семестра-1 + 0.4 * Контрольная-Альфа + 0.4 * Экзамен-Бета
2024/2025 3rd module
Финальная оценка за курс = 0.5 Оценка за семестр-1 + 0.1 Домашние задания семестра-2 + 0.2 Контрольная-Гамма + 0.2 Экзамен-Дельта.

Список литературы

Авторы

Сысоева Алевтина Александровна
Самоненко Илья Юрьевич

Программа дисциплины