Доверительный интервал для среднего генеральной совокупности оценивает само среднее. Предсказательный интервал для одного будущего наблюдения должен дополнительно учитывать изменчивость этого наблюдения. При той же простой модели и том же уровне доверия второй интервал шире. Разница важна, даже если у обоих интервалов один и тот же центр.
Какой вопрос вы задаёте?
| Вопрос | Интервал |
|---|---|
| Чему равно среднее генеральной совокупности? | Доверительный интервал для среднего |
| Где может оказаться одно независимое новое наблюдение? | Предсказательный интервал для одного наблюдения |
| Где окажется среднее нескольких будущих наблюдений? | Другая задача предсказания, в которой нужно указать размер будущей выборки |
Различие в регрессии объясняют материал NIST об оценке средних откликов и материал NIST о предсказании единичного отклика. В примере ниже намеренно используется более простая модель независимой нормальной выборки, а не подогнанная регрессия.
Оригинальная синтетическая выборка
Возьмём десять выдуманных значений в условных единицах: 8, 9, 9, 10, 10, 10, 11, 11, 12, 10. Это иллюстративные числа, а не измерения реального процесса. Их среднее равно 10, а выборочное стандартное отклонение примерно равно 1.154701.
Для расчётов по формулам предположим, что наблюдения и будущее значение — независимые выборки из одного неизменного нормального распределения с неизвестными средним и дисперсией. Десять выдуманных значений эти допущения не доказывают. Для реальных временных рядов, кластеров, меняющихся процессов или эффектов отбора нужна подходящая другая модель.
Считаем оба интервала
При n = 10 и двустороннем 95% критическом значении t-распределения Стьюдента для 9 степеней свободы t ≈ 2.262157:
mean confidence interval:
10 ± 2.262157 × 1.154701 / sqrt(10)
≈ [9.1740, 10.8260]
one-observation prediction interval:
10 ± 2.262157 × 1.154701 × sqrt(1 + 1/10)
≈ [7.2604, 12.7396]
Дополнительная 1 под корнем в предсказательном интервале отражает изменчивость нового наблюдения. Больше информации может сузить неопределённость относительно среднего, но не сделает отдельные будущие значения равными этому среднему. Справочник NIST по предсказательным пределам содержит соответствующую формулу для независимой выборки и её обобщение на будущее среднее.
Воспроизводим вычисления
Скачайте пример на Python, использующий только стандартную библиотеку. Критическое значение задано явно, а не изображается как оценённое по этим данным.
from math import sqrt
from statistics import mean, stdev
x = [8, 9, 9, 10, 10, 10, 11, 11, 12, 10]
n, centre, s = len(x), mean(x), stdev(x)
t = 2.2621571627409915 # 0.975 quantile, 9 degrees of freedom
ci = t * s / sqrt(n)
pi = t * s * sqrt(1 + 1/n)
print(tuple(round(v, 4) for v in (centre-ci, centre+ci)))
print(tuple(round(v, 4) for v in (centre-pi, centre+pi)))
Интерпретация и типичные ошибки
Для доверительной процедуры 95% означает долгосрочное покрытие при повторении выборок и при выполнении её допущений. Это не доля отдельных наблюдений, которые окажутся внутри интервала для среднего. Для предсказания покрытие относится к независимому будущему значению в заданной модели; это не гарантия для каждого следующего значения.
В регрессии расчёт также зависит от значения предиктора и подогнанной модели. Не переносите формулу для простой выборки на график регрессии и не экстраполируйте её на ненаблюдавшийся режим работы. Ни один из интервалов автоматически не учитывает все источники систематической ошибки.
О различии между изменчивостью и неопределённостью среднего см. стандартное отклонение, стандартная ошибка и доверительные интервалы. О вводящих в заблуждение агрегированных сравнениях см. парадокс Симпсона на оригинальном наборе данных.