なぜ自動運転車は“想定外の挙動”を繰り返すのか――本当に安全？ 無事に止まったのに「認識率1%未満」だったワケ
事故多発で露呈した自動運転AIの「不透明な判断」。その打破へ向け、数億規模の走行データを学習しAIの意思決定を言語化する新技術「CW-Net」が英『Nature』誌で発表された。走行性能を落とさず1%未満の認識の死角をも見抜く説明力は、法的責任の明確化を促し、完全自動化への社会実装を加速させる。
緊急車両妨害や接触事故が残す教訓
2026年5月下旬、米テキサス州ダラスで、火災現場へ向かう消防車の進路をウェイモの自動運転車が塞ぐ事態が起きた。駆けつけた警察官が車両を手動で動かして対処したが、過去にはクルーズの車両も同様の問題を起こしている。
事態を重く見た米運輸省道路交通安全局（NHTSA）のモリソン長官は、自動運転車が緊急対応要員の活動を妨げる明確な傾向があると指摘し、メーカー各社に迅速かつ抜本的な対策を求めた。
一方、日本でも2026年4月、新潟県弥彦村で、村が運行する自動運転バスが歩行者の男女ふたりに接触し、負傷させる事故が起きている。報道によると、自動運転から手動運転に切り替えた直後の事故だった。システムから人間への状況認識の引き継ぎが、うまく機能しなかった事例といえる。
障害物を誤って認識したまま走行を続けたり、突然、不自然なブレーキをかけたりする。こうした判断の過程が見えなければ、現場の担当者が緊急時に適切な対応を取るのは極めて難しい。