統計 25 · 時系列解析 — 時間が入ると何が変わるか

Chapter 25

時系列解析 — 時間が入ると何が変わるか

この章がなぜ必要なのか——i.i.d. が崩れる最も一般的な場面.

ここまでのほぼすべての手法は「データが独立同分布 (i.i.d.)」を前提にしてきた。 だが売上・株価・気温・アクセス数——時間軸に並ぶデータは、ほぼ確実に独立でない。 昨日売れた店は今日も売れる。

独立でないデータに独立前提の手法を当てると、 標準誤差を大幅に過小評価し、偽の有意を量産する。 さらに恐ろしいことに、まったく無関係な 2 つの時系列を回帰すると \(R^2 = 0.9\) 超の「関係」が出てしまう(見せかけの回帰)。

この章は、時間依存性を正面から扱う道具を与える。

この章で使う既出の用語(定義は各リンク先). 標本(01 章 2 節)、母集団(01 章 2 節)、統計量(01 章 2 節)、説明変数(01 章 4 節)、ナイーブ(05 章 6 節)、標準誤差(06 章 6 節)、定常性(07 章 4 節)、確率(10 章 3 節)、予測区間(11 章 8 節)、帰無仮説(12 章 1 節)、棄却(15 章 2 節)、厳禁(22 章 3 節)、因果推論(22 章 5 節)、時系列(22 章 3 節)、MAP(23 章 4 節)

1. 時系列データの特徴

\(\{y_t\}_{t=1}^T\) という、時間順に並んだ観測列を扱う。

特徴内容
自己相関過去の値が現在に影響する
トレンド長期的な上昇・下降
季節性周期的な変動(曜日、月、四半期)
非定常性平均や分散が時間とともに変わる

成分分解

\[ y_t = \underbrace{T_t}_{\text{トレンド}}+\underbrace{S_t}_{\text{季節}}+\underbrace{R_t}_{\text{残差}} \quad\text{(加法)} \]
\[ y_t = T_t\times S_t\times R_t \quad\text{(乗法)} \]

どちらを使うか: 季節変動の幅が水準に比例して大きくなるなら乗法モデル。 対数を取れば乗法は加法になるので、\(\log y_t\) に加法分解を当てるのが実務では簡便である。

分解の手法: 移動平均法、STL 分解(Loess を使う。頑健で柔軟。現代の標準)。

2. 定常性 — 時系列解析の前提

弱定常性

\[ E[y_t]=\mu \ (\text{一定}), \qquad V[y_t]=\sigma^2\ (\text{一定}), \qquad \text{Cov}(y_t,y_{t+k})=\gamma_k \ (\text{$`t`$ によらない}) \]

平均・分散が一定で、共分散が時間差だけで決まる。

なぜ定常性が要るのか. 統計的推測は「同じ確率法則が繰り返し働いている」ことを前提にしている。 平均が時間とともに変わるなら、1 つの時系列は 1 つの標本にすぎず、何も推定できない。

定常なら、時間方向の平均が母集団の平均に収束する(エルゴード性)。 「時間をかけて観測すること」が「たくさんの標本を集めること」の代わりになる—— これが時系列解析を可能にしている根本原理である。

自己相関関数 (ACF)

\[ \rho_k = \frac{\text{Cov}(y_t,y_{t-k})}{V[y_t]}=\frac{\gamma_k}{\gamma_0} \]

標本 ACF:

\[ \hat\rho_k = \frac{\sum_{t=k+1}^T (y_t-\bar y)(y_{t-k}-\bar y)}{\sum_{t=1}^T(y_t-\bar y)^2} \]

判定の目安: ホワイトノイズなら \(\hat\rho_k \approx N(0, 1/T)\) なので、 \(\pm 2/\sqrt{T}\) の外に出れば有意な自己相関がある。

偏自己相関関数 (PACF)

\(y_t\) と \(y_{t-k}\) の相関から、間の \(y_{t-1},\dots,y_{t-k+1}\) の影響を除いたもの (19 章の偏回帰係数と同じ発想)。

ACF と PACF の使い分けが、モデル選択の鍵になる。 ACF が徐々に減衰して PACF が急に切れる → AR モデル ACF が急に切れて PACF が徐々に減衰 → MA モデル

3. 基本モデル

ホワイトノイズ

\[ \varepsilon_t \overset{iid}{\sim}(0,\sigma^2), \qquad \rho_k = 0 \ (k\neq 0) \]

すべてのモデルの誤差項の基準。残差がホワイトノイズになれば、モデルは情報を絞り切ったことになる。

ランダムウォーク

\[ y_t = y_{t-1}+\varepsilon_t \]
\[ y_t = y_0 + \sum_{s=1}^t \varepsilon_s \quad\Longrightarrow\quad V[y_t]=t\sigma^2 \]

分散が時間とともに増える → 非定常。

株価はランダムウォークに近い(効率的市場仮説). 最良の予測は「明日も今日と同じ」であり、過去のパターンから未来は予測できない。 チャート分析が統計的に支持されにくいのは、この性質による。

なお差分を取ると \(\Delta y_t = \varepsilon_t\) となり、定常になる。

AR(p) — 自己回帰モデル

\[ y_t = c+\phi_1y_{t-1}+\cdots+\phi_p y_{t-p}+\varepsilon_t \]

AR(1) の性質:

\[ E[y_t]=\frac{c}{1-\phi}, \qquad V[y_t]=\frac{\sigma^2}{1-\phi^2}, \qquad \rho_k=\phi^k \]

分散の導出: 定常なら \(V[y_t]=V[y_{t-1}]=\gamma_0\) なので

\[ \gamma_0 = \phi^2\gamma_0+\sigma^2 \quad\Longrightarrow\quad \gamma_0=\frac{\sigma^2}{1-\phi^2} \]

∎(\(\lvert\phi\rvert<1\) が必要。これが定常条件。)

\(\rho_k=\phi^k\) が意味すること: 自己相関は指数的に減衰する。 \(\phi=0.9\) なら影響が長く残り、\(\phi=0.3\) ならすぐ消える。 \(\lvert\phi\rvert\ge 1\) だと発散して非定常になる。

DSP を知っている人へ: AR モデルは IIR フィルタそのものである。 定常条件「\(\lvert\phi\rvert<1\)」は、極が単位円の内側にあるという安定条件と同じことを言っている。

MA(q) — 移動平均モデル

\[ y_t = \mu+\varepsilon_t+\theta_1\varepsilon_{t-1}+\cdots+\theta_q\varepsilon_{t-q} \]

MA(1): \(\rho_1 = \dfrac{\theta}{1+\theta^2}\)、\(\rho_k=0\ (k\ge 2)\)。

\(q\) 期より先の自己相関がちょうど 0 になるのが特徴。MA は常に定常である。

ARMA(p,q)

\[ y_t = c+\sum_{i=1}^p\phi_iy_{t-i}+\varepsilon_t+\sum_{j=1}^q\theta_j\varepsilon_{t-j} \]

ARIMA(p,d,q)

非定常な系列を \(d\) 階差分して定常にしてから ARMA を当てる。

\[ \Delta^d y_t \sim \text{ARMA}(p,q) \]
\(d\)意味
0もともと定常
1トレンドあり(ほとんどの経済データ)
2トレンドの傾きが変化

SARIMA

季節成分を追加: \(\text{ARIMA}(p,d,q)\times(P,D,Q)_s\)。\(s\) は周期(月次なら 12)。

4. 単位根検定

「差分すべきか」を判定する。

\[ H_0: \text{単位根がある(非定常)}, \qquad H_1: \text{定常} \]
検定帰無仮説
ADF 検定単位根あり(非定常)
KPSS 検定定常(帰無仮説が逆)
PP 検定単位根あり

ADF と KPSS を併用するのが実務の作法. 帰無仮説が逆なので、両方の結果を組み合わせると判断が確実になる。

ADFKPSS結論
棄却棄却せず定常
棄却せず棄却非定常(差分が必要)
両方棄却せずデータ不足で判断できない
両方棄却トレンド定常など、別の構造

ADF 検定は検出力が低いことが知られており、単独では信頼しにくい。

5. 見せかけの回帰 (spurious regression)

この章で最も実務的に重要な話である.

無関係な 2 つのランダムウォーク \(x_t\)、\(y_t\) を回帰すると:

まったく無関係なのに、統計的には「強い関係」が出る。

なぜか. 両方とも時間とともにさまよって動く。 「両方とも上昇傾向」というだけで相関が生まれる。 標準的な t 検定は「誤差が独立」を前提にしているので、 自己相関のある残差に対しては標準誤差を桁で過小評価する。

有名な疑似相関(03 章で触れたもの)はほぼすべてこの現象である。 「チーズ消費量とシーツによる死亡者数」も、両方が単に増加傾向にあるだけだった。

対策

対策内容
差分を取ってから回帰最も簡単で確実
共和分検定差分せず、長期的関係を扱う
トレンド項を入れる\(t\) を説明変数に追加
Newey-West 標準誤差自己相関に頑健な標準誤差

共和分 (cointegration)

\(x_t\)、\(y_t\) がともに非定常でも、ある線形結合 \(y_t-\beta x_t\) が定常なら共和分関係にあるという。 このときの回帰は見せかけではなく、長期均衡関係を表す。

例: ある商品の 2 つの市場での価格。個々の価格はランダムウォークだが、 裁定取引があるので価格差は一定範囲に留まる。これが共和分である。

検定はエングル・グレンジャー法(残差の単位根検定)やヨハンセン検定。 共和分があるなら誤差修正モデル (ECM) で短期変動と長期均衡を同時にモデル化できる。

6. モデル構築の手順(Box-Jenkins 法)

1. プロットする(必ず最初に)
     ↓
2. 分散が不安定なら対数変換
     ↓
3. 定常性を確認(ADF/KPSS)→ 非定常なら差分
     ↓
4. ACF/PACF を見て p, q の候補を決める
     ↓
5. パラメータ推定(最尤法)
     ↓
6. 残差診断(Ljung-Box 検定)
     ↓
7. AIC/BIC でモデル比較
     ↓
8. 予測(区間も必ず)

次数の判定

ACFPACF
AR(p)徐々に減衰\(p\) で切れる
MA(q)\(q\) で切れる徐々に減衰
ARMA(p,q)徐々に減衰徐々に減衰

残差診断: Ljung-Box 検定

\[ Q = T(T+2)\sum_{k=1}^m \frac{\hat\rho_k^2}{T-k}\sim\chi^2_{m-p-q} \]
\[ H_0: \text{残差に自己相関なし(ホワイトノイズ)} \]

棄却されなければ良いモデル(この検定では \(H_0\) を棄却したくない)。

7. 予測

予測区間

ARIMA の予測区間は、先の期間ほど急速に広がる。

AR(1) の \(h\) 期先予測:

\[ \hat y_{T+h}=\mu+\phi^h(y_T-\mu), \qquad V[\text{予測誤差}]=\sigma^2\frac{1-\phi^{2h}}{1-\phi^2} \]

\(h\to\infty\) で \(\hat y \to \mu\)(無条件平均)、分散は \(\sigma^2/(1-\phi^2)\)(無条件分散)に収束する。

遠い未来の予測は「全体の平均」に戻る. 情報は指数的に失われる。「10 年後の売上予測」に意味があるとすれば、 それはモデルからではなく、別の仮定から来ている。

評価

必ず時系列順に分割する(22 章)。ランダム分割は厳禁。

方法内容
ホールドアウト最後の \(h\) 期をテストに
時系列 CV(ローリング原点)訓練期間をずらしながら繰り返す
指標特徴
RMSE / MAE元の単位
MAPE相対誤差。\(y\approx 0\) で破綻
MASEナイーブ予測との比。1 未満なら「何もしないより良い」

ベースラインを必ず置く. ナイーブ予測(\(\hat y_{t+1}=y_t\))や 季節ナイーブ(\(\hat y_{t+1}=y_{t+1-s}\))に勝てないモデルは、意味がない。 複雑な機械学習モデルがナイーブ予測に負ける、というのは実務でよくある話である。

8. その他の手法

手法特徴
指数平滑法 (ETS)直近ほど重く。単純だが実務で非常に強い
Holt-Wintersトレンド + 季節性の指数平滑
状態空間モデル / カルマンフィルタ欠測・時変パラメータに強い。柔軟
VAR複数系列を同時にモデル化。グレンジャー因果
GARCHボラティリティ(分散)が時間変動する。金融の標準
Prophetトレンド + 季節 + 祝日。自動化しやすい
深層学習 (LSTM 等)データが大量にあるとき。少量では従来手法に負けやすい

GARCH — 分散の時系列

\[ \sigma_t^2 = \omega+\alpha\varepsilon_{t-1}^2+\beta\sigma_{t-1}^2 \]

金融データの「ボラティリティ・クラスタリング」を表現する. 荒れた日の翌日は荒れやすく、穏やかな日の翌日は穏やか—— リターン自体は予測できなくても、リスクの大きさは予測できる。 リスク管理・オプション価格付けの基礎になっている。

グレンジャー因果

\(x\) の過去が \(y\) の予測を改善するなら「\(x\) は \(y\) をグレンジャー因果する」という。

名前に反して、これは因果ではない. あくまで「予測に役立つ」という統計的な関係である。 共通の原因があれば偽の結論が出るし、より速い周期で作用する因果は捉えられない。 24 章の因果推論とは別物なので、混同しないこと。

9. まとめ

概念内容
定常性平均・分散一定、共分散が時間差のみに依存
ACF/PACF次数の判定に使う
AR(p)過去の値の線形結合。\(\lvert\phi\rvert<1\) で定常
MA(q)過去の誤差の線形結合。常に定常
ARIMA(p,d,q)\(d\) 階差分してから ARMA
単位根検定ADF と KPSS を併用
見せかけの回帰非定常系列の回帰は偽の関係を生む
共和分線形結合が定常なら長期均衡関係