機械学習における交差検証（Cross Validation）は、モデルが未知データにどれほど対応できるか＝汎化性能を安定して推測するための評価手法です。
単純な train/test の1回分割では、データの偏りや偶然の配置によって評価が大きく揺れることがあります。
そのため、より信頼性の高い評価を行うために用いられるのが交差検証です。
なぜ交差検証が必要なのか
分割の偏りを平均化し、評価のブレを抑える
1回きりのホールドアウトでは、分割次第でスコアが大きく変わることがあります。
交差検証では複数回の学習・評価を繰り返し、その平均値を取ることで、偶然の偏りに左右されにくい評価を得られます。
データを有効に使える
限られたデータでテスト用を十分に確保するのは難しいことがあります。
交差検証では全データが学習と評価の両方に使われるため、データを最大限活用できます。
ハイパーパラメータ最適化の基盤として機能する
Grid Search や Random Search などの最適化手法は、内部で交差検証を行い「もっとも汎化性能が高いパラメータ」を選びます。
そのため、交差検証はモデル改善に不可欠な工程です。
代表的な交差検証の種類と特徴
交差検証には複数のバリエーションがあります。
用途やデータ構造に合わせて使い分けることが重要です。
K-Fold Cross Validation（K分割交差検証）
最も一般的な手法です。
仕組み
- データを K 分割する
- 各分割を1回ずつテストデータに回し、残りを学習に使う
- K 回の評価結果の平均値が最終スコアとなる
一般的には K=5 または 10 がよく用いられます。
メリット
- データ利用効率が高い
- 評価の安定性が高い
デメリット
- 計算コストが増える
Stratified K-Fold（層化K分割）
分類問題でほぼデファクトスタンダードとなっている手法です。
特徴
クラス分布が各分割で一定になるよう調整するため、クラス不均衡データでも安定した評価が可能です。
例：不良率が5%のデータ → 各foldでも不良率5%を維持
分類問題では基本的にこれを選んでおけば間違いありません。
LOOCV（Leave-One-Out Cross Validation）
データ数が極めて少ない場合に使われます。
特徴
- 1サンプルだけをテスト
- 残りすべてを学習に利用
利点
- 学習にほぼ全データを使える
欠点
- データ数 N 回の学習が必要で計算負荷が大きい
- 評価の分散が大きくなる場合がある
特殊なケースを除き、実務で頻繁に使われることはありません。
Time Series Split（時系列交差検証）
時系列データではシャッフルができず、「過去で学習し、未来を予測する」流れを守る必要があります。
特徴
- 時系列を崩さずに、逐次的に Train → Test を作る
- 過去から未来への順序を保つため、時系列モデル評価に適している
用途の例
- 売上予測
- アクセス数予測
- 広告クリック率の時系列推移
- 需要予測
交差検証とハイパーパラメータチューニング
交差検証は、最適なモデルパラメータを選ぶ「チューニング工程」と密接に関係しています。
基本的な流れ
- 候補パラメータを定義
- 各候補について交差検証でスコアを算出
- 最も優れたパラメータを選択
- 最後に未使用のテストデータで最終評価
scikit-learn の GridSearchCV や RandomizedSearchCV はこの手順を自動化しています。
実務での使い分け（早見表）
| データ状況 | 推奨される方法 |
|---|---|
| 一般的な表形式データ | K-Fold / Stratified K-Fold |
| クラス不均衡が大きい分類問題 | Stratified K-Fold |
| 時系列データ | TimeSeriesSplit |
| データが非常に少ない | LOOCV |
| 数百万件以上の大規模データ | Hold-Out（CVは重すぎる） |
実務で特に注意すべき点
データリークを防ぐ
ユーザーIDに複数サンプルがある場合など、分割の単位を間違えると”未来の情報が学習に入る”という事態が起こります。
例
- 同じユーザーのデータが train と test に混在してしまう
- 同じ商品のデータが異なるfoldにまたがる
前処理（標準化・PCAなど）は各foldの内部で実施す
全データで標準化した後に交差検証をするのは 完全に誤り（データリーク） です。
正しい手順は
各fold:
train で標準化のパラメータを算出
test には train のパラメータを適用
これを自動化するために、scikit-learn の Pipeline が非常に有効です。
まとめ：交差検証は“信頼できるモデル評価”の基盤となる手法
交差検証は、モデルが本当に現場で役立つかを判断するために欠かせない技術です。
特にデータサイズが小〜中規模のビジネス領域では、モデル品質を安定化させるために必須のプロセスと言ってよいでしょう。
以上、機械学習の交差検証についてでした。
最後までお読みいただき、ありがとうございました。
