「AIをだますのは簡単です」――自動運転車を8割の確率で誤動作させる方法とは？ その脆弱性を考える

現実的に積み重ねるしかない防御

　研究チームは、この種のリスクに対していくつかの対処法を挙げている。どれも派手な解決策ではないが、現実的に積み重ねるしかない内容だ。

　まず求められるのは、取り込む情報をふるいにかける力である。カメラが捉えた映像のなかから文字列を拾い上げ、それが道路標識や店舗名のように本来そこに存在してよい表示なのか、あるいは外部から意図的に持ち込まれた指示なのかを見分ける。そうした区別を機械側に持たせる必要がある。今の仕組みでは、書いてある内容をそのまま理解し、意味が通っていれば従ってしまう。その素直さが裏目に出ている。

　同時に、安全に関する優先順位も見直さなければならない。どんなメッセージが掲示されていようと、衝突を避ける、歩行者にぶつからないといった物理的な安全を常に上位に置く。そこに迷いが入り込まないよう学習させることが欠かせない。推論として筋が通っているかどうかよりも、結果として事故が起きないかどうかを重く見る姿勢だ。高度な判断を目指すほど、この原則はむしろ単純でなければならない。

　さらに、情報の出どころを確かめる仕掛けも検討対象になる。デジタル署名が付いた信頼できる通信だけを受け入れ、道端に置かれた出所不明の看板や貼り紙は最初から相手にしない。そうした仕組みを道路側と車両側の双方に整えていく構想だ。ただし、ここには別の負担が横たわる。道路インフラを広くデジタル化するには、莫大な公的資金が必要になるからである。

　従来のように物理的な看板を立てるだけの仕事から、サーバー側で情報の正当性を保証する事業へと重心が移る。現場の作業というより、データの管理や認証を担うプラットフォームの世界だ。車両メーカーは自律走行の安全性を保つため、その検証データにアクセスする権利を継続的に購入し続ける立場に置かれる。政府や巨大IT企業への依存度は、これまで以上に高まっていくはずだ。

　CHAIが示したのは、AIが文字を読めるようになった事実と、世界を正しく理解しているかどうかが別問題だという現実でもある。読解力の向上が、そのまま判断の確かさにつながるわけではない。情報を多く取り込めるようにする努力と並行して、何を信じ、何を退けるかという基準そのものを見直していく作業が求められている。人とAIが同じ道路空間で暮らしていく以上、その整理は避けて通れないだろう。