自動運転に潜む「トロッコ問題」というジレンマ 歩行者が飛び出してきたら操作どうなる? 技術進化と社会倫理は共存できるのか

キーワード :
,
運転手の乗っていない無人バスが公道を運行する――。そんな未来を目指して、自動運転が全国各地で本格導入されつつある。その進化に潜む、倫理のジレンマ「トロッコ問題」とは。

理想と現実の狭間で

交通事故のイメージ(画像:写真AC)
交通事故のイメージ(画像:写真AC)

 自動運転で、システムが正常に作動する前提条件は運行設計領域(ODD)と呼ばれる。開発者はODDを設定して、自動運転システムによる事故を防止することが求められる。

 レベル4は人間の介入を前提としないため、自動運転システムの作動条件や解除条件、その際の挙動なども設定しなければならない。

 開発企業は膨大なデータを基にODDを設定しているものの、その数は限られている。ようは、レベル4の公道走行が始まれば不具合や事故の発生は当然なのだ。「そんな危険なものを走らせるのか」と驚く人も出てくるだろうが、一概に問題とはいえない。

 最新技術は重大な事故が発生し、それを検証、改善することで安全性をアップデートする。

・事故発生の可能性
・自動運転普及による利便性

の間で、どう折り合いをつけるのかは今後も課題となるだろう。

「トロッコ問題」というジレンマ

トロッコのイメージ(画像:写真AC)
トロッコのイメージ(画像:写真AC)

 そして、レベル4からレベル5の実現に向けて必ず解決しなければならないのが、倫理のジレンマを問う

「トロッコ問題」

である。

 レベル4以上の自動運転が行われているとき、歩行者が突然、歩道から飛び出してきたと仮定しよう。当然、ブレーキを踏む余裕はないし、そのまま走れば歩行者をひいてしまう。一方、急にハンドルを切れば対向車線のクルマや障害物に衝突し、乗員が死亡してしまう。このとき、自動運転システムはどう判断すべきかというものだ。

 これは開発者を最も悩ます問題だ。クルマの乗員を死なせてでも、歩行者を守るのか。見知らぬ人、同乗する親兄弟や恋人、どちらを選択すべきか。それをシステムに判断させなくてはならないのだ。

 完全自動運転の確立までには、あまたの事故が繰り返されるのは確定している。それを乗り越えて得た完全自動運転社会は、そもそも豊かな未来をもたらすのだろうか。

 システムが、制度がうまく機能すれば、人は幸せになれるのか――。自動運転の普及はモビリティ業界を飛び越えた、この深い問いかけを利用者に発しているのである。

全てのコメントを見る