IBMが顔認識技術から撤退、CEOは偏向と不平等の廃絶を訴える

次の記事

フォード製新型SUVのエスケープPHEVはトヨタRAV4 Primeを迎え撃つ

米国時間6月8日、IBMのCEOであるArvind Krishna(アービンド・クリシュナ)氏は、今後、同社は顔認識サービスを販売せず、そもそもそれを使うべきか否かに関する「国民的議論」を、と呼びかけた。彼はまた、警察の暴力を減らしその説明責任を高める新しい法案の支持を表明した。

CNBCが報じた書簡の中で、6月8日に導入程された法案「Justice in Policing Act」(米国下院司法委員会プレスリリース)の支持を表明する中で、サービスとしての顔認識技術という議論の余地の大きい事業からの撤退について説明している。

IBMは、監視社会や人種判別、基本的人権と自由への違反のために他のベンダーから提供され、あるいはまたは私たちの価値観および弊社のPrinciples of Trust and Transparency(信頼と透明性原則)と整合しない、顔認識技術などいかなる技術の利用も認めない。私たちは今こそ、顔認識技術を我が国の法執行機関が採用すべきか否か、採用するとしたらどのように採用すべきかに関する国民的対話を始めるべき時であると信じる。

このような技術の実用化に関する慎重なアプローチは、新しいものではない。2019年にIBMは、現在利用できるどんな顔データよりも多様性に富む顔データの新しいデータベース(未訳記事)でそれを強調した。結局のところ、他のプログラムと同様にシステムの価値はそこに供給する情報の価値と同程度しかない。

関連記事:IBM builds a more diverse million-face data set to help reduce bias in AI(未訳記事)

しかしながら、顔認識は同社の収益性にあまり貢献していないようだ。率直にいってこの技術はまだ初期段階であり、IBMのようなエンタープライズベンダーにとって意味のあるアプリケーションはほとんどない。議論を招いたAmazonのRekognitionサービスは一部の法執行機関で試用されたが、評判は良くない。まだ十分な実用性が認められていない製品分野で他社と競合することは、IBMにとって割に合わない事業行為だろう。

クリシュナ氏の書簡ではさらに「AIシステムのベンダーとユーザーは、AIが偏向に関して十分テストされていることに対する責任を共有している。それが法執行機関で使われるときにはなおさらであり、またそのような偏向試験は監査され報告されなければならない」と述べている。この発言は現在この分野に関係する人や企業、中でもAmazonに対する決別のようであり、顔認識技術のお粗末な品質と、それにも関わらず販売を止めようとしない人々に対して投げかけられている。今後、同社がこの方向でAIに関する研究を続けていくかは不明だ。

クリシュナ氏が支持を表明している法案には、下院と上院で相当数の共同起草者がおり、警察と彼らが監視する一般市民が直面する多様な問題をとり上げている。特にテクノロジー方面ではボディカメラの要件を拡大するとともに、それらで撮った写真に顔認識技術を使うことを制限している。ハードウェアに対する政府の補助はありえるが、ただしそれは公的に定められ列挙されたプロトコルの下で使われる場合に限られる。

ACLU(アメリカ市民的自由連合)はこの法案に関する声明で、ほぼ同意しているようだ。声明では「デジタルの格差をなくす技術への投資が必要であり、警察権の濫用や構造的な人種差別を激化させる監視社会のインフラストラクチャを作る技術は要らない」と述べている。

[原文へ]
(翻訳:iwatani、a.k.a. hiwa