ゾウが都市部の路上に現れることなど、タイやインドなど一部の国を除いてはあり得ないことだろう。だが、予期せぬことが起こりうるのが現実社会の不確実性ってやつだ。
特にハンドルを握っている時には、何が起きても対処できるよう常に注意しなければならない。それは自動運転車も同様だ。
ドイツのチュービンゲン大学の研究チームは、AIが予測できない異常事態をシミュレーション上で再現する新しいテスト手法を開発した。
道路を歩くゾウや突如現れた滑り台など、ありえそうもないシチュエーション走行させることで、自動運転車のAIが、未知の状況に正しく対応できる能力を備えているかを厳密に評価する。
この試みは、自動運転車の隠れた弱点をあぶり出し、将来の事故を防ぐためのものだ。
シミュレーション上のゾウをなぎ倒す自動運転車
現在の自動運転車は、高性能なセンサーやAI（人工知能）を搭載している。しかし、現実の道路で起きる奇妙な出来事に遭遇すると、しばしば混乱して事故を起こしてしまう。
ドイツにあるチュービンゲン大学のアンドレアス・ガイガー教授らの研究チームは、この問題の原因がテスト環境の単純さにあると考えた。
研究チームが公開した映像には、衝撃的な場面が映っている。
シミュレーション空間を走る自動運転車が、目の前をゆっくりと歩く巨大なゾウを認識できず、そのままなぎ倒してしまったのだ。
また、道路の中央に置かれた公園の滑り台に突っ込んだり、アニメのように壁へ描かれた偽の道路に騙されて激突したりする様子も確認された。
これらは、現在の自動運転システムがいかに脆いものであるかを物語っている。
過去のパターンを暗記しているだけの可能性
なぜ最新のAIが、これほど極端な事態に対応できないのだろうか。
ガイガー教授は、自動運転の研究における深刻な落とし穴を指摘している。
多くの自動運転モデルは、学習時と評価時で似たようなシナリオばかりを繰り返している。
そのため、実際には安全な運転方法を学んでいるのではなく、特定のパターンを暗記しているだけかもしれないというのだ。
テストの結果が良くても、それは過去に見た風景を思い出しているに過ぎず、初めて見る状況には対処できない可能性がある。
これを解決するために研究チームは、Fail2Drive［https://github.com/autonomousvision/fail2drive］という新しい評価基準を開発した。
これは、業界で標準的に使われているシミュレーターのCARLA（カーラ）に、あえて分布外（Out-of-distribution）と呼ばれる、学習時に想定されていない、予測不能なデータを大量に投入する仕組みである。
想定外の事態でAIの成功率は大幅に低下
研究チームがFail2Driveを用いて既存の自動運転モデルを厳しくテストしたところ、深刻な事実が判明した。
ゾウの横断や道路上の障害物といった未知のシナリオに直面すると、AIの運転成功率は平均で22.8％も低下した。
この大幅な数字の落ち込みは、現在の自動運転技術が、想定外の事態に対する対応力を十分に持っていないことを裏付けている。
現実の道路では、停車中の消防車に全速力で衝突する事故や、野生動物との接触事故が実際に起きている。
シミュレーションの中で、あり得ないような混乱を何度も経験させることは、AIに単なる暗記を捨てさせ、真の意味で周囲の状況を判断する能力を養わせるために不可欠な工程といえる。
未知との遭遇テストが現実世界の安全を守る
この研究の目的は、未知なる状況をシミュレーションさせることで、AIがどのような視覚情報に惑わされるのか、どの段階で判断を誤るのかを科学的に特定することにある。
研究チームが提示したこの厳しいハードルは、今後の自動運転開発における新しい世界標準となる可能性がある。
もしAIが、道路を渡るゾウを回避できるようになれば、現実の都市部で突然飛び出してきた子供や、複雑な形状の落下物にもより安全に対応できるようになるだろう。
「なぜゾウは道路を横断したのか？ それは、あなたの自動運転モデルがいかに脆弱であるかを暴くためだ」と、ガイガー教授は語っている。
References: Mowing Down Simulated Elephants Could Help Self-Driving Cars Prepare For the Chaos of Real Life Streets［https://futurism.com/advanced-transport/mowing-down-simulated-elephants］ / Linkedin［https://www.linkedin.com/posts/andreas-geiger-658b24269_why-did-the-elephant-cross-the-road-to-expose-activity-7450921706199654401-cUNZ］
