「生産ラインを丸裸にする」日産も挑む“突発停止ゼロ”への執念――年間17万時間の損失を消し去る「AI予知保全」の威力とは
AIを活用した予知保全や学習型システムが自動車生産ラインの停止時間を年間17万時間削減。効率化と安全性向上を両立させつつ、ブラックボックス化の課題も浮上している。
ブラックボックス化のリスク
AI技術の導入によりシステムは高度化しているが、思考プロセスや判断基準が分からず、なぜその結論に至ったのかが見えにくいブラックボックス化の懸念は依然として大きい。従来のコンピュータでは、処理手順がプログラムで明確に定められていたため、トラブルが発生しても判断の根拠を追跡できた。
現在のAIはビッグデータをもとに学習を繰り返し、自ら判断基準を形成する。プログラムが人間の直接管理下にないため、プロセスを追えず、想定外のトラブルにつながる可能性がある。学習を重ねるほど誤りも生じやすくなるため、過学習に注意しながら精度を高める必要がある。医療診断や自動運転のように人の生活や命に直結する分野では、ブラックボックスの問題を補う仕組みが欠かせない。
社会的に重要な判断をAIが下す場面では、人間が判断の過程を理解し、説明できることが求められる。不透明なままでは、サイバーセキュリティーや自動運転の脆弱性、医療診断の誤りや偏りに気づくことが難しく、信頼性や社会的受容性を確保できない。学習外のデータを推論に用いることで、分析対象の変化や品質、耐久性が誤判定されるケースもある。こうした理由から、精度低下の原因を把握し、具体的にどこが間違っているかを説明できるAIシステムの開発が必要とされる。
こうした課題に対応するため、機械学習を利用したAIシステムの品質基準や達成目標を体系的にまとめた「機械学習品質マネジメントガイドライン」が公開されている。これは、構築したAIの品質を測定し、誤判定による事故や経済損失を抑えるための支援を目的としたもので、2026年1月時点で第4版まで公開されている。今後も機械学習の進展や想定外のトラブルを受け、基準はさらに厳格化される見込みだ。