母平均の信頼区間は、平均そのものを推定します。将来の1つの観測値に対する予測区間では、その観測値自体のばらつきも考慮しなければなりません。同じ単純なモデルと同じ信頼水準であれば、後者のほうが広くなります。両者の中心が同じでも、この違いは重要です。
どの問いに答えたいのか
| 問い | 区間 |
|---|---|
| 母平均はいくつか。 | 平均の信頼区間 |
| 独立した新しい観測値1つは、どのあたりに入るか。 | 1つの観測値に対する予測区間 |
| 将来の複数の観測値の平均はどこにあるか。 | 別の予測問題で、将来の標本サイズを指定する必要がある |
回帰における違いは、NIST による平均応答の推定の解説と単一の応答に対する予測の解説で説明されています。以下の例では、あえてあてはめた回帰ではなく、より単純な独立な正規標本のモデルを使います。
オリジナルの合成サンプル
任意の単位で、架空の10個の値 8, 9, 9, 10, 10, 10, 11, 11, 12, 10 を使います。これらは説明用の数字であり、実在のプロセスの測定値ではありません。平均は10、標本標準偏差は約1.154701です。
計算例では、観測値と将来の値が、平均も分散も未知で変化しない1つの正規分布から独立に得られると仮定します。この10個の架空の値が、これらの仮定を証明するわけではありません。実際の時系列、クラスター、変化するプロセス、選択効果がある場合は、適切な別のモデルが必要です。
2つの区間を計算する
n = 10、自由度9のStudent-t分布の両側95%臨界値を t ≈ 2.262157 とします。
mean confidence interval:
10 ± 2.262157 × 1.154701 / sqrt(10)
≈ [9.1740, 10.8260]
one-observation prediction interval:
10 ± 2.262157 × 1.154701 × sqrt(1 + 1/10)
≈ [7.2604, 12.7396]
予測区間の平方根の中にある余分な1は、新しい観測値自体の変動を表しています。情報が増えれば平均についての不確かさは小さくなりますが、将来の個々の値が平均と同じになるわけではありません。NIST の予測限界のリファレンスには、独立標本の場合の対応する式と、将来の平均への拡張が載っています。
計算を再現する
標準ライブラリのみのPythonの例をダウンロードする。臨界値は、このデータから推定したかのように見せかけず、明示的に指定しています。
from math import sqrt
from statistics import mean, stdev
x = [8, 9, 9, 10, 10, 10, 11, 11, 12, 10]
n, centre, s = len(x), mean(x), stdev(x)
t = 2.2621571627409915 # 0.975 quantile, 9 degrees of freedom
ci = t * s / sqrt(n)
pi = t * s * sqrt(1 + 1/n)
print(tuple(round(v, 4) for v in (centre-ci, centre+ci)))
print(tuple(round(v, 4) for v in (centre-pi, centre+pi)))
解釈とよくある間違い
信頼区間の手順における95%とは、前提が成り立つ場合に、標本を繰り返し取ったときの長期的な被覆率を指します。平均の区間の内側に、個々の観測値の95%が入るという意味ではありません。予測の場合、被覆率は指定したモデルのもとでの独立な将来の値についてのものであり、次の値すべてを保証するものではありません。
回帰では、計算は予測変数の値とあてはめたモデルにも依存します。この単純な標本の式を回帰のグラフにそのまま当てはめたり、観測されていない運用領域に外挿したりしないでください。どちらの区間も、系統誤差のあらゆる要因を自動的に含むわけではありません。
ばらつきと平均についての不確かさの根本的な違いについては、標準偏差、標準誤差、信頼区間を参照してください。誤解を招く集計比較については、オリジナルのデータセットで見るシンプソンのパラドックスを参照してください。