「AIをだますのは簡単です」――自動運転車を8割の確率で誤動作させる方法とは？ その脆弱性を考える

消えたヒッチハイク

　日本ではほとんど見かけなくなったが、かつては幹線道路の脇で、ヒッチハイカーが行き先を書いた紙や段ボールを掲げていた。通り過ぎる車に向けて合図を送る。乗せるかどうかは、運転席にいる人の判断次第だった。無視するのも、手を差し伸べるのも、その場の気分や責任感に委ねられていた。

　この「読むが、従う義務はない」という関係が、自動運転車では崩れ始めている。

　路上に置かれた文字が、車両の意思決定に直接入り込む。内容が実行可能で、それらしく理由づけされていれば、車載の知能はそれを正当な指示として扱ってしまうからだ。人間なら半ば冗談やノイズとして処理する情報を、機械は律儀に意味のある命令として解釈する。

　外部に置かれた紙片や看板が、そのまま車の動きを変える“入力経路”になってしまう。閉じたはずの車両が、路上に転がる文字列に引きずられる。移動体として独立しているはずの資産の管理権が、開かれた道路空間へと漏れ出しているようにも見える――多額の投資で築かれてきた安全の積み重ねが、思いのほか脆い前提の上に立っていることが露呈した格好だ。

　高度化した認識能力は、本来ならば安心材料のはずだった。カメラが周囲を読み取り、言葉の意味まで理解し、状況に応じて判断する。そうした知力があれば、人に近い柔軟さが得られると考えられてきた。ところが、その「読める」という力が、裏側では抜け道にもなっている。

　物理空間に置かれたテキストをそのまま命令として受け取る以上、悪意のある第三者が介入する余地は消えない。車両の性能がいくら上がっても、路上に置かれた一枚の看板が判断を書き換えてしまうなら、話は別である。安全の問題であると同時に、運行の主導権がどこにあるのかという、産業全体の前提に関わる話でもある。

　人間のドライバーであれば、道端の文字にいちいち従うことはない。だが、機械は違う。律儀さが、そのまま弱点になる。自動運転が社会に広がるほど、この性質は無視できなくなっていく。技術の進歩が、そのまま新たな脆さを抱え込んでいる。その事実から、もう目をそらせない段階に来ている。