規範意識を身につけた次世代の自動運転車/iStock
性能の向上がめざましい自動運転車だが、普及するためには技術的な問題のほかにも克服すべきことがある。それは人間にいかに機械の運転を信用してもらうかということだ。
いくら性能が向上したところで自動運転車の事故がニュースになったこともある。そんな機械任せにするくらいなら自分で運転した方がマシだと考える人はたくさんいるだろう。
そこでドイツの研究者は、自動運転車の事故ゼロを目指すのではなく、AIに規範意識を学ばせ、自らがとるべき進路を割り出すという「合法的な安全性」を持った自動運転車の開発を提案している。
これなら仮に事故が起きたとしても、それは人間が合法的な運転をしていないからで、事故は人間側の責任ということになる。
【気まぐれで不合理な人間の行動にどう対処するのか？】
複雑に変化する路上で起こる出来事を予測するのは、きわめて厄介な仕事だ。
従来の確率論的な機械学習アルゴリズムは、次に起きると予測される出来事の確率分布に基づいて、安全な進路を決定する。
しかし、時に気まぐれで、無謀で不合理な運転をする人間ドライバーや、急に飛び出してくる歩行者が存在する道路において、次に起こる出来事の可能性などほとんど無限にある。
どんなに優れたAIであっても、これらすべてを予測することはできない。つまり、いかに自動運転車といえども、事故がゼロになったりはしないということだ。
事故がゼロにならないならば、自動運転車が人間から信頼されることもない。では一体どうすればいいのか？
[画像を見る]
iStock
【AIに規範意識を身につけさせることで事故の責任を回避】
そこでドイツ・ミュンヘン工科大学のグループが提案しているのは、自動運転車の事故ゼロを目指すのではなく、AIに規範意識（遵法精神）を身につけさせて、「合法的な安全性」を完璧なまでに実現しようというアプローチだ。
このアプローチでは、交通ルールや安全基準に照らして、起こりうるだろう状況を予測する。
具体的には「ウィーン交通条約」が守られた交通状況のみを考慮し、ほかの車両や歩行者もこれを遵守していることを前提とする。
その上で、合法的かつ物理的にありえる動きをすべて想定し、自らがとるべき安全な進路を割り出す。
もちろん、交通法規を完全に無視した悪質な車からは守られない。どんなに安全運転をしていたとしても、いきなり後ろから追突されることはあるだろう。
だがこれは合法的な運転ではないため、人間側の責任ということになる。AI、つまり自動運転車に非はないのだ。
[画像を見る]
AIが計画した進路（黒線）は、ほかの車や歩行者のもっともありそうな行動のみを考慮している。車や歩行者が合法的な進路をとった場合に衝突してしまうエリア（青い範囲）を想定し、それを回避する事故防止ルート（赤線）とその後の安全なエリア（灰色の範囲）を予測することで、「合法的な安全」を確保する
【自動運転車の普及で死亡事故は大幅に減少できると予測】
このようなアルゴリズムは路上で実験されたわけではないが、実際の交通データを利用したシミュレーションで現実的な各種シナリオを試したところ、事故を起こすことなく安全運転されることが確認されたという。
米運輸省の予測によると、人間による運転からAIによる自動運転に切り替えることで、交通事故による死者を9割減らすことができるという。というのも、死者を出した交通事故の9割は人間側のミスが原因で発生しているからだ。
自動運転車の普及が期待される大きな理由の1つはここにある。完全に法律を守り、模範的なドライバーとして人間以上の安全性を実現できれば、きっと社会から信頼を勝ち取ることができるだろう。
でもこれって何となくドイツ人的な発想とも思うのだが、どうだろうか？
この研究は『Nature Machine Intelligence』（9月14日付）に掲載された。
Using online verification to prevent autonomous vehicles from causing accidents | Nature Machine IntelligenceReferences:inverse/ written by hiroching / edited by parumo
https://www.nature.com/articles/s42256-020-0225-y
記事全文はこちら：道徳、倫理、法律を守る。規範意識を身につけた次世代AIを搭載した自動運転車の開発（ドイツ研究） http://karapaia.com/archives/52294883.html
編集部おすすめ
