米国省庁へAI導入を指導する大統領令はべてが絵空事だ

次の記事

SlackとSalesforceの幹部が一緒になったほうがいいと考えたワケ

米国時間12月3日にホワイトハウスから、「政府における信頼できる人工知能の利用」と題する大統領令が発布された。政府自身の信頼性という空しい想定と、信頼という問題を抱えるのは人間よりむしろソフトウェアであることを措いても、この命令はほとんどすべてが絵空事だ。

この大統領令はほかのそれらと同じく、連邦省庁が行うことに対して大統領が強制できることに限られている。そして実は、そんなに多くない。今回のは連邦省庁が従うべき9つの原則を挙げているが、それは一種のガイドラインのようなものだ。省庁にお願いだからこのとおりにしてね!」というもの。

そこでもちろん、すべての軍部と国の安全保障に関わる活動は除外されている。AIシステムが最も危険で監督が最も重要である分野なのに。NOAA(海洋大気局)がAIで何をしてるかなどは誰も気にしない。しかし、3文字省庁のDOD、CIA、NSAなどとペンタゴンが企んでいることなら、とても気になる。ただし彼らには、大統領に命令されなくても独自のルールがある。

その9つの原則は、願い事のリストのようなものだ。すなわち、連邦政府が使用するAIは、下記のようであらねばならない。

(1)合法的、(2)目的が明確で性能重視、(3)実効性があり、(4)安全で防備が固く、(5)自己回復力がある、(6)理解可能である、(7)応答性が良くて追跡可能、(8)定期的にモニターされ、(9)説明責任を有す。

世界中の重要なAIの実装展開の中に、これらをすべて満たしているものが1つでもあれば教えていただきたい。そしていかなる省庁も「自分たちが使っているAIや機械学習が大統領令が言っているこれらの原則をすべて守っている」と主張したら厳しい疑惑の目にさらされるだろう。

原則そのものが、悪いとか無意味だという話ではない。どんな省庁も、AIなどを導入しようとするときには、リスクを定量化できる能力が重要だ。そしてその効果を監視するプロセスも必要だ。しかしそれは、大統領府にできることではない。すでに市や州のレベルでは、強力な法律がAIに対する説明責任の要求を定めているし、国の法律はまだまだのようでも、しかしこの大統領令が包括的な法律の代わりになるものでもない。それは、あらゆることに対してあまりにもうわついた美辞麗句的であり、しかもこれくらいの原則ならすでに、何年も前から各省庁が採用している。

この大統領令が指示しているもののひとつが、各省庁がAIを導入するときの、そのすべての使い方のリストを、その定義はともかくとして強制的に作成させることだ。もちろん、そんなリストを私たちが目にするのは今から1年以上先だろう。

この大統領令から60日以内に省庁はAIの在庫データの形式を選ぶ。180日後には、在庫データが完成する。さらにそれから120日後には、在庫と原則との突き合わせを行う。各省庁は180日以内に原則へのコンプライアンスの達成に努力する。また、在庫確定から60日以内に、それをほかの省庁と共有する。その完了から120日以内に一般公開する(警察や国の安全保障関係など機密情報は除く)。

そんな在庫一覧なら1カ月で作れると思うが、この大統領令では1年半だ。そのとき私たちは、前政権に命じられたAIツールのスナップショットを見ることになる。彼らの任意で、おいしいところは隠されている。一方で、中身によっては面白い読み物かもしれない。

この大統領令はほかと同じく、今のホワイトハウスが自分にはほとんどまったくできないことに対する、積極的な指導者であると見せかける試みだ。AIの開発とデプロイに共通の原則が必要なことは当然だが、仮にそういう原則がトップダウンで確立するものだとしても、このゆるくて拘束力の軽い単なるジェスチャーは、一部の省庁が、自分たちがやるべきことはこれを真剣に受け容れることではない、と神に誓って宣言するようなものだ。

関連記事
ポートランド市の顔認識技術禁止条例は民間企業も対象になる
マイクロソフトは警察には顔認証技術を売らないと公言

カテゴリー:人工知能・AI
タグ:ドナルド・トランプ

画像クレジット:Bryce Durbin/TechCrunch

原文へ

(翻訳:iwatani、a.k.a. hiwa