Оценивание параметров и сравнение оценок. Несмещенность и состоятельность. Метод моментов. Метод максимального правдоподобия.

Конспект: Презентация 1.

Полезные ссылки:

1. Материалы курса по теории вероятностей.
2. Визуализация некоторых идей теории вероятностей и статистики.
3. Probability and Statistics Cookbook – конспект с основными формулами.

Ссылки на литературу:
[1] М.Б. Лагутин. Наглядная математическая статистика;
[2] Н.И. Чернова. Математическая статистика. Учебное пособие.

Метод Монте-Карло. Тяжелые хвосты. Распределение Коши. Выборочное среднее, выборочная медиана и выборочная мода. Выборочная дисперсия. Среднеквадратическое/стандартное отклонение. Генерация случайных величин и решение задач в Python.

Конспект: Презентация 2. Код: Jupiter-ноутбуки 1.
Домашнее задание: Листок 1 (изменен: до 06.12.2020).

Дополнительное задание: прочитайте про «среднее» в одной из этих двух книг:

1. Д. Хафф. Как лгать при помощи статистики (Глава 2);
2. Ч. Уилан. Голая статистика (Глава 2).

Ссылки на литературу:
[1] М.Б. Лагутин. Наглядная математическая статистика;
[2] Н.И. Чернова. Математическая статистика. Учебное пособие.

Построение доверительных интервалов. Квантили распределений. Распределения, связанные с нормальным: хи-квадрат и Стьюдента. Бутстрэп (параметрический и непараметрический). Эмпирическая функция распределения.

Конспект: Презентация 3.

Дополнительное задание: посмотрите Видео про бутстрэп и прочитайте подробнее про доверительные интервалы в [2] (Глава 12).

Ссылки на литературу:
[1] Н.И. Чернова. Математическая статистика. Учебное пособие;
[2] М.Б. Лагутин. Наглядная математическая статистика.

Работа с распределениями в Python. Построение теоретических и бутстрэп доверительных интервалов в Python на примере нормального распределения. Доверительные интервалы для параметра «успеха» в модели Бернулли в Python.

Введение в проверку гипотез. Статистический критерий. Достигаемый уровень значимости (p-value).

Конспект: Презентация 4. Код: Jupiter-ноутбуки 2.
Домашнее задание: Листок 2, Данные к задачам (до 15.12.2020).

Дополнительное задание: прочитайте про парадокс «Неудачи» в [1] (стр. 24-25).

Ссылки на литературу:
[1] М.Б. Лагутин. Наглядная математиечская статистика;
[2] Н.И. Чернова. Математическая статистика. Учебное пособие.

Критерии согласия. Критерий Колмогорова. Критерий Пирсона (хи-квадрат). Проверка равномерности. Проверка экспоненциальности (исключение неизвестного параметра, критерий Гини). Проверка нормальности (критерий Шапиро-Уилка, критерий Харке—Бера). Визуальный метод проверки гипотезы масштаба/сдвига – квантильный график (Q-Q Plot).

Введение в критерии однородности. Параметрические критерии: одновыборочный Z-критерий, одновыборочный t-критерий.

Конспект: Презентация 5. Код: Jupiter-ноутбуки 3.1.

Дополнительное задание: прочитайте в [1] про критерий согласия для нормального распределения, основанный на исключении неизвестных параметров, (стр. 167-168) и про критерии согласия для экспоненциального и нормального распределения, основанные на подстановке оценок параметров, (стр. 166 и стр. 168-169 соответственно).

Обратите внимание на новую книгу [3] в списке литературы. Это хорошая книга-справочник, в которой собрано огромное количество критериев и оценок. Кажется, что это самая полная книга по этим темам, доступная на русском языке.

Ссылки на литературу:
[1] М.Б. Лагутин. Наглядная математиечская статистика;
[2] Н.И. Чернова. Математическая статистика. Учебное пособие;
[3] А.И. Кобзарь. Прикладная математическая статистика. Для инженеров и научных работников.

Параметрические критерии однородности: двухвыборочный Z-критерий и двухвыборочный t-критерий (независимые и зависимые выборки). Непараметрические критерии однородности для независимых выборок: критерий Колмогорова-Смирнова, критерий хи-квадрат, критерий Манна-Уитни. Непараметрические критерии однородности для зависимых выборок: критерий знаков, критерий знаковых рангов Уилкоксона. Оценка параметра сдвига. Критика критериев Стьюдента.

Конспект: Презентация 6. Код: Jupiter-ноутбуки 3.2.
Домашнее задание: Листок 3, Данные к задачам (до 30.12.2020).

Дополнительное задание: прочитайте про критерии однородности на случай нескольких (зависимых и независимых) выборок в [1]
(стр. 237-248 и стр. 259-265).

Ссылки на литературу:
[1] М.Б. Лагутин. Наглядная математиечская статистика;
[2] Н.И. Чернова. Математическая статистика. Учебное пособие;
[3] А.И. Кобзарь. Прикладная математическая статистика. Для инженеров и научных работников.

Реализация критерия хи-квадрат в Python. Парадокс критерия хи-квадрат.

Ковариация и корреляция. Коэффициенты корреляции Пирсона, Спирмена, Кендалла. Критерий Пирсона. Критерий Кендалла. Причинно-следственная связь и корреляция.

Задача регрессионного анализа. Формализация линейной регрессии. Метод наименьших квадратов (МНК). TSS, ESS, RSS. Коэффициент детерминации. Стандартные предположения в линейной регрессии и некоторые следствия из них.

Конспект: Презентация 7. Код: Jupiter-ноутбуки 3.3, Jupiter-ноутбуки 4.1.

Дополнительное задание: прочитайте про множественную и частную корреляцию в [1] (стр. 347-350).

Ссылки на литературу:
[1] М.Б. Лагутин. Наглядная математиечская статистика;
[2] Н.И. Чернова. Математическая статистика. Учебное пособие;
[3] А.И. Кобзарь. Прикладная математическая статистика. Для инженеров и научных работников.

Статистические свойства оценок метода наименьших квадратов. Значимость значений регрессионных коэффициентов: критерий Стьюдента и Фишера. Парадоксы и ошибки в регрессии. Реализация линейной регрессии в Python. Удаление, добавление и преобразование признаков. Оценка влияния признаков на отклик.

Временной ряд. Тренд, сезонность, цикл. Автокорреляционная функция. Частная автокорреляционная функция.

Конспект: Презентация 8. Код: Jupiter-ноутбуки 4.2.
Домашнее задание: Листок 4, Данные к задачам (до 26.01.2021).

Дополнительное задание: прочитайте про критерий Фишера и общую линейную гипотезу [1] (стр. 368-372).

Ссылки на литературу:
[1] М.Б. Лагутин. Наглядная математиечская статистика.

Стационарность временного ряда. Критерий Дики-Фуллера. Модель авторегрессии AR(p). Модель скользящего среднего MA(q). Модели ARMA(p,q), SARMA(p,q)x(P,Q), ARIMA(p,d,q), SARIMA(p,d,q)x(P,D,Q).

Подгонка модели SARIMA(p,d,q)x(P,D,Q) к временному ряду. Стабилизация дисперсии. Преобразование Бокса-Кокса. Дифференцирование. Сезонное дифференцирование. Выбор параметров модели SARIMA. Информационный критерий Акаике (AIC). Анализ шума модели. Q-критерий Льюнга-Бокса.

Конспект: Презентация 9. Код: Jupiter-ноутбуки 5.
Домашнее задание: Листок 5, Данные к задачам (до 07.02.2021).

Дополнительное задание: прочитайте про методы прогнозирования временных рядов, отличные от SARIMA, здесь.

Ссылки на литературу:
[1] P. Cowpertwait, A. Metcalfe. Introductory Time Series with R;
[2] J. Cryer, K.-S. Chan. Time Series Analysis with Applications in R.