Amazon Rekognition

Amazonの顔認識ソフト、米議員の顔写真を犯罪者と誤認ー人権団体の試みで判明

次の記事

Alexa CastでAmazon MusicをAlexaデバイスへキャストできる

注目を引くための試みとして、このほどACLU(アメリカ自由人権協会)が行ったものはこれ以上ないほどに効果抜群だ。ACLUはこれまで「市民の自由と権利をおびやかす重大な懸念がある」としてAmazonの顔認識ソフトRekognitionについて注意を喚起してきた。

これをAmazonは無視してきた。5月にはTechCrunchに対し、「Amazon Rekognitionには多くの活用方法がある」と述べている。しかしながら、議会議員がこのソフトに注意を払うよう、ACLUはAmazon Rekognitionを使って全議員の顔写真をスキャンした。

その結果、議員28人を、逮捕された犯罪者のデータベースにある顔写真と一致すると誤認したという。ACLUは声明文で「今回、我々がテストで使った犯罪者の顔写真と一致すると誤認された28人には共和党、民主党、男性、女性、そして全米の全年代の議員が含まれていた」と述べている。

誤認された議員について、「公民権についてレジェンド的存在である共和党議員John Lewis含む連邦議会黒人幹部会の6人がその中に入っているなど人種的にも不自然だ」ともしている。

当然のことながら、今回の結果をAmazonは認めていない。Amazonは、こうした技術は人を逮捕するのに使うのではなく、結果を絞り込むために使用するとしている。同社は声明で「我々は依然として画像やビデオの分析が社会において良い意味で役立てられると期待している」と述べている。

しかしながら、このソフトが規格外れのターゲットを持っているようだと判明したことは、ACLUがこれまで展開してきたプライバシーについての論調を助長するものとなる。今月初め、MicrosoftプレジデントのBradford L. Smithは、こうしたテクノロジーは今後、法執行時の“頼みの綱”になることが想定され、これに伴い追加の法規制が必要だ、と説いた。

「顔認識テクノロジーは、プライバシーや表現の自由といった基本的人権保護の核心に迫る問題を提起している」と Smithは記している。「こうした問題では、そのような商品を展開するテック企業のさらなる責任が求められる。我々の理解では、それらのテック企業は熟考された政府による規制と社会への浸透を求めている」とも語っている。

アップデートACLUの注意喚起はうまくいったようだ。民主党の議員3人はいくつかの点で回答を求める書簡をJeff Bezosに送った。その内容の一部は下記の通りだ。

顔認識を使ったサービスは法執行のツールとして役立つものかもしれないが、その技術の効果やインパクトはまだ十分に理解されていない。特に政府による調査に使用されるとき、顔認識がプライバシーや人権を侵すかもしれないという危険性について重大な懸念を伴う。またテクノロジーの精度や有色人種社会へのネガティブなインパクトについても懸念される。

[原文へ]

(翻訳:Mizoguchi)