SHAP解説：AIがエンジニアにアラート発報の理由を正確に伝える方法

「モデルがそう言ったから」では不十分

朝の保全ミーティングでこんな会話を想像してみてください。

「AIがモーター12Bの軸受交換を指示しています。」

「なぜ？」

「モデルの信頼度が91%だからです。」

「91%とはどういう意味ですか？実際に何が問題なのですか？振動ですか？温度ですか？軸受の問題なのか、アライメントの問題なのか？」

沈黙。

これが、ほとんどのAIベース保全ツールが最も重要な人々——実際に判断を下す信頼性エンジニア——を失う瞬間です。そして彼らが反論するのは正しいことです。数十年の経験が教えるのは、文脈のない数値は無意味であり、場合によっては危険だということです。

信頼の問題は現実のものです

信頼性エンジニアがブラックボックスAIを拒否するのは頑固なのではなく、責任を果たしているのです。彼らは以下のことを知っています。

限られたデータで訓練されたモデルは誤ったパターンを学習する可能性がある
センサーのドリフト、校正エラー、プロセスの変化が誤シグナルを生む
誤った停止のコストは1時間当たり数万ユーロにのぼる可能性がある
見逃した故障のコストはさらに高くなりうる

したがって、AIシステムが推論を説明することなく「故障を検知」と言っても、無視されます。予知保全の採用に関する研究は一貫して同じことを示しています。技術そのものがボトルネックではなく——信頼がボトルネックなのです。エンジニアは「何が起きているか」に対して行動する前に「なぜか」を理解する必要があります。

SHAPはまさにこの問題を解決するために設計されました。

SHAPとは何か

SHAPはSHapley Additive exPlanationsの略です。名前はノーベル賞を受賞した経済学者ロイド・シャープレーに由来し、彼はゲーム理論の根本的な問題を解決しました。チームの共同作業の成果を個々のプレーヤーにどのように公平に分配するか、という問題です。

機械学習に適用すると、「チーム」は入力特徴量（センサーの読み値、計算済みメトリクス）の集合であり、「成果」はモデルの予測です。SHAPは次の問いに答えます。各特徴量はこの特定の予測にどれだけ寄与したか？

簡単な類比を示します。あなたのプラントが完璧な一日を過ごしたとします——異常ゼロ、すべてがスムーズに稼働しています。これがベースラインです。次に何かが変化します。振動が上昇し、温度が上がり、電流が不規則になります。SHAPはそれぞれの変化について問います。「この一つの特徴量を正常値に戻したら、予測はどれだけ変わるか？」これを全特徴量とその組み合わせについて実行し、各特徴量の正確な寄与スコアを算出します。

結果は「これらの特徴量が一般的に重要」という曖昧なものではありません。この予測、この機械、この瞬間に特有のものです。「振動RMSが故障予測に+0.34寄与した。温度デルタが+0.21寄与した。RPM標準偏差が-0.05寄与した、つまり故障予測から遠ざける方向に働いた。」

これはブラックボックスではありません。これは診断レポートです。

Prevlyがこれをどう適用するか。 PrevlyはグラジエントブーストRUL（残存寿命）モデルに直接SHAPを使用します。深層学習モデル——異常を検知するLSTMオートエンコーダーと軸受故障を分類するCNN——には、密接に関連した帰属手法であるIntegrated Gradientsを使用します。これも同じ種類の特徴量ごとの寄与度分解を生成します。ウォーターフォールチャートとその読み方はまったく同じで、異なるのは基礎となる数学だけです（シャープレー値vs.積分勾配）。したがって、このガイドのすべてが、どのモデルが発報したかにかかわらず、すべてのPrevlyアラートに適用されます。

ウォーターフォールを読む：軸受故障の例

実際の予測を見てみましょう。モデルが遠心ポンプの軸受故障を87%の信頼度でフラグを立てました。6つの特徴量が予測を駆動しました。以下がSHAPウォーターフォールです。

ベース値（健全時平均）: 0.12
───────────────────────────────────────────────
vibration_x_rms     ████████████████░  +0.34
temperature_delta   ██████████░        +0.21
current_kurtosis    █████░             +0.12
flow_rate_mean      ██░                +0.04
rpm_std             ▓░                 -0.05
pressure_slope      ▓▓░                -0.08
───────────────────────────────────────────────
最終予測:                               0.70
                         （シグモイド後87%の故障確率）

上から順に読んでいきましょう。

vibration_x_rms (+0.34)： これが最大の要因です。径方向振動RMSが、現在の運転条件下でこの機械に対してモデルが正常と見なす値を超えて上昇しています。単に「閾値以上」ではなく——この特定のポンプのこの速度と負荷における、モデルの学習済みベースライン以上です。これを見た経験豊富なエンジニアはすぐに考えます。機械的な緩み、アンバランス、または軸受欠陥。

temperature_delta (+0.21)： これは絶対温度ではなく——軸受温度とハウジング温度の差です。増大するデルタは、軸受が周囲と比べてより多くの熱を発生させていることを意味します。これは周囲温度の変化を除外し、内部摩擦を指し示します。

current_kurtosis (+0.12)： カートシスはモーター電流信号の「尖り度」を測定します。上昇したカートシスは、簡単な急激な電流変動——損傷した軸受が断続的に引っかかり、モーターが短時間にわたりより強く働くときに発生する種類——を意味します。正常なカートシスは3.0（ガウス分布）に近く、この軸受のモーターは4.8を示しています。

flow_rate_mean (+0.04)： 小さなポジティブな寄与。流量がわずかに低下しており、ポンプの機械的抵抗の増加と一致していますが、単独では何もフラグを立てるほどではありません。

rpm_std (-0.05)： ここが興味深い点です。負の値はこの特徴量が故障予測から遠ざかる方向に働いていることを意味します。RPMが安定していることはエンジニアに告げます。これはドライブの問題、VFDの問題、または負荷変動ではありません。モーター速度は一定です。これは実際に診断を絞り込む助けになります——問題はドライブの下流にあります。

pressure_slope (-0.08)： 吐出圧力のトレンドは横ばいです。これも特定の故障モード（インペラーの侵食やキャビテーションなど、圧力変化を示す）に反する証拠です。モデルはこれを考慮しています——何が異常かだけでなく、何が正常かも考慮しています。

第2の例：モーター固定子巻線故障

軸受故障は教科書的な例ですが、SHAPは電気的故障モードに対してもまったく同様に機能します——特徴量の寄与度がまったく異なるストーリーを語ります。

モデルがモーター22Cを79%の故障確率でフラグを立てます。以下がSHAPウォーターフォールです。

ベース値（健全時平均）: 0.15
───────────────────────────────────────────────
current_rms         ██████████████░    +0.28
current_imbalance   █████████░         +0.19
temperature_stator  ██████░            +0.14
vibration_x_rms     ██░                +0.04
power_factor        ▓▓░                -0.07
rpm_std             ▓░                 -0.03
───────────────────────────────────────────────
最終予測:                               0.70
                         （シグモイド後79%の故障確率）

このパターンはモーター専門家なら誰でも即座に認識します。振動優位ではなく、電流優位です。電流RMSが上昇し、位相アンバランスが増大し（非対称な巻線抵抗を示す）、固定子温度が上昇しています——初期段階の層間短絡の典型的なパターンです。一方で振動とRPMは本質的に正常であり、機械的原因を除外します。

SHAPがなければ、アラートは「モーター22Cで異常検知」と言うだけです。エンジニアはデフォルトで軸受の確認（最も一般的な故障モード）から始めるでしょう。SHAPがあれば、電気試験——メガー絶縁抵抗、サージ比較、巻線のサーモグラフィー——に直行し、見当違いの調査に費やす時間を節約できます。

この例は重要な点を示しています。SHAPは何かが間違っているということだけでなく、どのような種類の間違いかを告げ、技術者が機械に向かう前から診断ワークフローを導きます。

SHAPと他の説明可能性手法の比較

SHAPはML説明可能性への唯一のアプローチではありませんが、産業用途では特定の利点があります。LIME（Local Interpretable Model-agnostic Explanations）は、より単純な線形モデルを使用してモデルをローカルに近似します。計算は速いですが精度が低く——LIMEの帰属は同じ予測に対して実行ごとに異なる場合があり、一貫性が重要な保全の文脈では信頼を損ないます。Transformerモデルのアテンションウェイトは、モデルがどのタイムステップに注目したかを示しますが、特徴量ごとの帰属は提供しません——モデルがいつ見たかはわかりますが、何を見たかはわかりません。SHAPはゲーム理論に基づいた正確で決定論的な特徴量ごとの寄与度を提供し、エンジニアが繰り返し使用でき監査可能な説明を必要とする場合に最も強力な選択肢となります。

実践的な意味

このSHAPの分解を読んだエンジニアは、手動振動分析から引き出すのと同じ結論に達します——ただし数時間ではなく数秒で。

径方向振動の上昇 + 軸受温度の上昇 = 機械的軸受欠陥
電流カートシスが断続的な機械的抵抗を確認
安定したRPMがドライブ・電気的問題を除外
安定した圧力が水力・キャビテーション問題を除外
最も可能性の高い診断：外輪欠陥、初期〜中期段階

これで具体的でテスト可能な仮説が得られます。超音波検査をスケジュールし、軸受欠陥周波数（BPFO）の振動スペクトルを確認し、いつ介入するかについてデータに基づいた意思決定を行えます。

「異常検知、信頼度87%」と比較してみてください。これが実用的なインテリジェンスとノイズの違いです。

プラントマネージャーが注目すべき理由

説明可能性はエンジニアリングの便利な付加機能ではありません。プラントマネージャーや運営リーダーにとって、SHAPの帰属は3つの重要なビジネス機能を果たします。

監査証跡。 すべての予測にはその根拠の完全な記録が付随します。経営陣が「なぜ火曜日にライン3を停止したのか？」と尋ねたとき、答えは「AIがそう言ったから」ではありません。「軸受振動RMSがベースラインの2.3倍、熱デルタが毎日0.4度上昇、電流カートシスが断続的な機械抵抗を示していた——点検で確認された外輪欠陥と一致している」です。これはあらゆるレビューに耐えられます。

コンプライアンスと規格。 ISO 55000（資産管理）とISO 27001（情報セキュリティ）は両方とも文書化された意思決定プロセスを強調します。SHAPの帰属は、AIが関与したすべての保全決定に対して、機械生成のタイムスタンプ付き文書を提供します。監査人がAIの仕組みを尋ねたとき、何を考慮しなぜそうするかを正確に示すことができます。

誤検知コストの削減。 エンジニアがアラートを信頼するとき——推論を検証できるから——、より迅速かつ正確に行動します。「オオカミが来た」的な疲労はなく、システムが誤報で知られているために有効なアラートが無視されることもありません。すべてのアラートにはそれ自体の証拠が付随し、エンジニアは本物の劣化パターンとセンサーの不具合を素早く区別できます。

PrevlyはこれをどのようにImplementしているか

Prevlyにおいて、SHAPは後付けでも有料オプションでもありません。すべての異常アラートとすべてのRUL（残存寿命）予測は、上位寄与特徴量とそのSHAP値を自動的に含みます。ウォーターフォールの可視化はアラート詳細ビューに組み込まれており——エンジニアはアラートを開いた瞬間にそれを目にします。

システムは予測を生成したのと同じモデルを使用してリアルタイムでSHAP帰属を計算します。メンテナンスが必要な別個の説明可能性パイプラインはありません。そしてPrevlyは機械ごとに別個のベースラインを学習するため、SHAP値は標準規格の汎用閾値ではなく、その特定の設備にとって何が異常かを反映しています。

より深く掘り下げたいチームには、完全なSHAP特徴量ベクトルがAPIで利用可能で、既存のCMMSワークフロー、カスタムダッシュボード、または根本原因分析ツールとの統合が可能です。

信頼は前提条件です

世界最高のMLモデルも、誰もその出力に行動しなければ無意味です。SHAPは、AIが検知できることとエンジニアが実際に信頼することの間のギャップを埋めます。予測を対話に変えます——AIが作業を見せ、エンジニアがそれをどう活用するかを決める対話に。

これはAIが専門知識を置き換えることではありません。AIがスピードと一貫性をもって専門知識を補強することです。

prevly.orgで無料トライアルを開始する——御社の機器データに対する説明可能なAI予測を体験してください。すべてのアラートには「なぜ」が組み込まれています。