死亡事故を起こしたUberの自動運転車は被害者を見たけど無視したらしい

次の記事

Visual Studioの協業機能、Live Shareが一般公開。デバッグセッションも共有可能

Uberの自動運転車による死亡事故の原因は、ソフトウェアにあったようだ。それは具体的には、どのオブジェクトを無視しどれに対応するかを判断するファンクションだ、とThe Information誌が報じている。これで、責任はUberの玄関の真ん前に置かれることになるが、そもそも最初から、それ以外と考えられる余地はあまりなかった。

どの自動運転車でも、その視覚系とバックアップは多重化されているから、どれか一つのエラーが、ライダーと前面カメラの直前で道路を横切ろうとしたElaine Herzberg〔被害者〕の感知を妨げたことはありえないと思われる。それなのに車は、ブレーキに触れることも、警報を鳴らすこともしなかった。同乗していたセーフティドライバーの不注意も相まって、このエラーはHerzbergの死に結果した。

関連記事: Uberの自動運転車はこのようにして歩行者を検出するようだ(未訳)

だから、ありうる可能性は以下の二つしかない:

  • A:オブジェクト認識システムの欠陥。それが、Herzbergと彼女の自転車を歩行者と認識することに失敗した。自転車や人間はそのシステムがもっとも有能に識別できるべきものに属しているはずだから、これはありえないと思われる。
  • B: 車の上位ロジックの欠陥。それは、どのオブジェクトに注意を払い、それらに関して何をするかを決める。たとえば路肩に自転車が駐輪していたら、徐行する必要はない。しかし車の前面のレーンに自転車が入り込んできたら、車は直ちに反応するべきだ。これ〔このロジック〕は人間の注意力と意思決定を模倣して、車が新しいオブジェクトを検出したときうろたえないようにする。

The Informationが引用している情報筋は、UberはBが問題であったと判定した、と言っている。具体的には、そのシステムは、対応すべきだったオブジェクトを無視するようセットアップされていた。すなわちHerzbergは検出されたが、擬陽性と見なされたようだ。

それは、まずい。

自動運転車の感覚能力は人間を超えている。漆黒の闇の中でもライダーの視程は数百フィートにも及ぶ。オブジェクト認識系は一度に数十の車や歩行者の動きを追える。レーダーやそのほかのシステムは自分のまわりの道路をまばたきひとつせず監視する。

しかしわれわれ人間と同じく、これらの感覚はすべて、“脳”に従属する。中央処理装置がカメラやセンサーからの情報を取り込み、それらを組み合わせて自分のまわりの世界の意味ある像を作る。そしてその像に基づく決定をリアルタイムで行う。Uberの例が示すように、自動運転車の中で製作がずば抜けて難しいのが、この部分だ。

あなたの目がどれだけ優秀でも、あなたの脳に何を見ているのか分らなかったり、正しい反応や応答の仕方が分らなかったら、何の意味もない。

Update: Uberは次のような声明を発表したが、上記の諸点には言及していない:

われわれは国家運輸安全委員会の調査に積極的に協力している。その調査活動への配慮と両者間の信頼関係に基づき、事故の詳細には言及できない。その一方でわれわれは、弊社の自動運転車事業の安全性に対する徹底的な調査を開始し、国家運輸安全委員会前委員長Christopher Hartを、安全性に関する弊社の企業文化に対する、アドバイザーとして招聘した。われわれの調査は、システムの安全性から車両オペレーターの教育訓練に至るまでのすべての領域をカバーし、近く結果を発表できるものと期待している。

これは前例のない状況なので、国家運輸安全委員会等からのレポートも作成が困難で、発表も遅くなるだろう。公式の発表の前に多くの情報の開示をしないことは、企業の場合も個人の場合も異例ではない。

〔訳注: 原文のコメントには専門家からの見解もあります。〕
[原文へ]
(翻訳:iwatani(a.k.a. hiwa