機械学習モデルが高度化するにつれ、その予測根拠がブラックボックス化する問題が深刻になっています。
特に、XGBoost・LightGBM・ランダムフォレスト・ニューラルネットワークといった高精度モデルは、精度向上と引き換えに「予測理由」が見えにくくなり、モデルの信頼性・透明性・説明責任の確保が課題となります。
この問題を理論的に解決する手法として注目され続けているのが SHAP（SHapley Additive exPlanations） です。
SHAPは、ゲーム理論のシャープレイ値（Shapley value）に基づき、各特徴量が予測にどれだけ寄与したかを公平に分解することを可能にします。
以下では、SHAPの核心である理論背景から、実装・可視化・注意点まで、体系的に深掘りしていきます。
SHAPとは何か ― 公理に基づく唯一の特徴量寄与分解法
SHAPの基礎になっているのは、協力ゲーム理論の Shapley値 です。
Shapley値は、以下の4つの公平性公理をすべて満たす唯一の解として定義されています。
Shapley値が満たす4つの公平性公理
効率性（Efficiency）
特徴量の寄与度をすべて足すと、予測値（またはその差分）と完全に一致する。
対称性（Symmetry）
まったく同じ影響を持つ2つの特徴量は同じ寄与度を持つ。
ダミー（Dummy）
影響を与えない特徴量の寄与度はゼロ。
加法性（Additivity）
複数モデルを足し合わせた場合、寄与度も足し合わせてよい。
SHAPとは何かを一言で言えば？
機械学習モデルの予測を、必ず足し合わせて元の予測に戻せる形で、特徴量ごとに公平に分解する手法
モデルの透明性を強化するだけでなく、予測の構造を数理的に分解し、内部の挙動を明確に理解することを可能にします。
SHAP値の本質 ― 予測を“完全に分解”できる理由
SHAPの核心は次の等式です。
モデルの平均予測値 ＋ 各特徴量のSHAP値の総和＝ サンプルの予測値
これは Local Accuracy（局所精度） の性質と呼ばれます。
つまり、SHAP値をすべて足し合わせたとき、必ずそのサンプルの予測値を再構築できるということです。
この性質により、SHAPは“予測理由”を論理的・数量的に説明できます。
SHAPの計算方法 ― 直感的理解と実用的側面
Shapley値の原理は次の通りです。
- 特徴量の組み合わせ（順列）をすべて考える
- ある特徴量が「ある場合」と「ない場合」で予測がどれだけ変化するかを見る
- それを全組み合わせで平均化する
これは非常に公平な考え方ですが、全特徴量の順列を扱うため計算量は膨大になります。
SHAPの計算を高速化するアプローチ
- TreeExplainer
ツリー系モデルではShapley値を高速に計算する専用アルゴリズムを提供。 - KernelExplainer
任意のモデルに使えるが計算コストが高い（LIMEに近い近似）。 - DeepExplainer / GradientExplainer
ニューラルネットワーク向け。
用途によりExplainerを選択することで、実用的に扱えるようになっています。
SHAPの主要可視化手法とその読み方
SHAPは豊富な可視化を用意しており、モデル解釈を直感的に行えます。
Summary Plot（特徴量全体の可視化）
代表的な可視化で、以下が一枚で分かる図です。
- 特徴量の重要度ランキング
- 特徴量の値が高い時／低い時に予測がどう変化するか
- 特徴量の分布状況
赤：値が高い
青：値が低い
左右：寄与度（SHAP値の正方向／負方向）
モデル全体の挙動を把握するための最強ツール。
Force Plot（個別予測の説明）
特定のサンプルに対して、
- 予測を押し上げた特徴量（赤）
- 予測を押し下げた特徴量（青）
がどれだけ寄与したかを可視化します。
1件ごとの予測理由を説明したいときに非常に強力。
Dependence Plot（単特徴量の効果を分析）
特徴量の値とSHAP値のスキャッタープロットで、「値が増えると予測がどう変化するか」を可視化します。
相互作用が強い特徴量を色分けし、非線形性・閾値・相互作用などの発見が可能。
Waterfall Plot（個別予測の寄与度を順序立てて表現）
個別サンプルについて、
- どの特徴量から順に予測が構築されていくか
- ベースラインから最終予測までの寄与を積み上げていく
という流れが明確に見える図。
SHAP利用時の注意点（重要な落とし穴）
SHAPは強力ですが、適切に扱うための注意点があります。
計算コストが大きい（特にKernel SHAP）
特徴量数が多い場合は現実的でないことがある。
高相関な特徴量は寄与度が分散される
関連性の強い特徴同士が互いに寄与度を奪い合うため、“真の原因”が見えにくくなることがある。
One-hotなど高次元化した特徴量は解釈が難しい
カテゴリ変数の分割は、時に意味を細かく分断してしまい、SHAP値の読解が複雑になる。
前処理を正しく再現しないと誤ったSHAP値が算出される
モデルに入力される“実際の特徴量”と一致している必要がある。
期待値（ベースライン）の定義に注意
平均予測値を基準にしているため、データ分布が偏っている場合は解釈に注意が必要。
SHAPが現代の機械学習に不可欠である理由
SHAPが広く支持されている理由は、単なる可視化手法ではなく、
- 公理的に一意な特徴量寄与分解
- ブラックボックスモデルの透明化
- モデル挙動の詳細な分析
- 実務・研究・開発すべてで使える汎用性
- 複雑なモデルにも適用可能な柔軟性
を兼ね備えている点にあります。
特に、モデルの透明性が求められる現代では、SHAPは“説明可能なAI”の代表的アプローチとして重要性を増し続けています。
まとめ：SHAPは機械学習モデルを最も公平に説明するための標準ツール
SHAPは、
- 予測を構成要素ごとに完全分解し
- 公平性の公理を満たし
- 可視化も多彩で
- 実装も容易
といった特徴を備え、“モデルを正しく理解し、再現性ある議論を行うための最重要手法”として確固たる地位を築いています。
以上、SHAPを用いた機械学習モデルについてでした。
最後までお読みいただき、ありがとうございました。