自動運転に潜む「トロッコ問題」というジレンマ 歩行者が飛び出してきたら操作どうなる? 技術進化と社会倫理は共存できるのか
理想と現実の狭間で

自動運転で、システムが正常に作動する前提条件は運行設計領域(ODD)と呼ばれる。開発者はODDを設定して、自動運転システムによる事故を防止することが求められる。
レベル4は人間の介入を前提としないため、自動運転システムの作動条件や解除条件、その際の挙動なども設定しなければならない。
開発企業は膨大なデータを基にODDを設定しているものの、その数は限られている。ようは、レベル4の公道走行が始まれば不具合や事故の発生は当然なのだ。「そんな危険なものを走らせるのか」と驚く人も出てくるだろうが、一概に問題とはいえない。
最新技術は重大な事故が発生し、それを検証、改善することで安全性をアップデートする。
・事故発生の可能性
・自動運転普及による利便性
の間で、どう折り合いをつけるのかは今後も課題となるだろう。
「トロッコ問題」というジレンマ

そして、レベル4からレベル5の実現に向けて必ず解決しなければならないのが、倫理のジレンマを問う
「トロッコ問題」
である。
レベル4以上の自動運転が行われているとき、歩行者が突然、歩道から飛び出してきたと仮定しよう。当然、ブレーキを踏む余裕はないし、そのまま走れば歩行者をひいてしまう。一方、急にハンドルを切れば対向車線のクルマや障害物に衝突し、乗員が死亡してしまう。このとき、自動運転システムはどう判断すべきかというものだ。
これは開発者を最も悩ます問題だ。クルマの乗員を死なせてでも、歩行者を守るのか。見知らぬ人、同乗する親兄弟や恋人、どちらを選択すべきか。それをシステムに判断させなくてはならないのだ。
完全自動運転の確立までには、あまたの事故が繰り返されるのは確定している。それを乗り越えて得た完全自動運転社会は、そもそも豊かな未来をもたらすのだろうか。
システムが、制度がうまく機能すれば、人は幸せになれるのか――。自動運転の普及はモビリティ業界を飛び越えた、この深い問いかけを利用者に発しているのである。