なぜ自動運転車は“想定外の挙動”を繰り返すのか――本当に安全？ 無事に止まったのに「認識率1%未満」だったワケ
事故多発で露呈した自動運転AIの「不透明な判断」。その打破へ向け、数億規模の走行データを学習しAIの意思決定を言語化する新技術「CW-Net」が英『Nature』誌で発表された。走行性能を落とさず1%未満の認識の死角をも見抜く説明力は、法的責任の明確化を促し、完全自動化への社会実装を加速させる。
自動運転車が直面する想定外の挙動
囲碁や将棋の世界では、すでに人間はAIに歯が立たなくなっている。その敗因のひとつは、AIが指す手を人間が理解できないまま、対局が進んでしまうことにある。
「考え方はわからないが、圧倒的に強い」。こうしたAIの特性は、盤上の勝負であれば脅威にとどまる。しかし、医療や司法、交通システムのように、人の命や法的責任に直結する分野では事情が異なる。判断の根拠を人間が理解できる言葉で示せなければ、社会を支える仕組みとして深刻な危険をともなうからだ。
こうした背景から現在、AIの判断過程を明らかにし、人間が適切に監督できるようにする
「説明可能なAI（XAI：Explainable AI）」
の研究が各分野で進んでいる。なかでも、自動運転の分野では、この技術の確立が急がれている。
現在の自動運転車は、カメラやミリ波レーダー、LiDARなどのセンサーに加え、車外マイクによるサイレン音の検知、他の車両や道路インフラとの通信（V2X）を組み合わせるセンサーフュージョン技術を活用している。
こうした技術によって救急車や障害物を検知できる一方、高度なシステムを搭載した車両でも、実際の道路では想定外の挙動による事故が起きている。