テック企業大手のサービスのアルゴリズムによる偏向を防ぐ法案を民主党が提出

次の記事

米で進む「キャッシュレス禁止」の動き、Amazon Goで現金が使えるようになる

民主党の議員たちが、巨大テクノロジー企業の表面下に潜んでいるアルゴリズムによる偏向(algorithmic biases、アルゴリズミックバイアス)を抑止する法案を提出した。そのAlgorithmic Accountability Act(アルゴリズム説明責任法)と呼ばれる法案は、民主党上院議員のRon Wyden氏(オレゴン州)とCory Booker氏(ニュージャージー州)が提出し、下院では民主党下院議員Yvette Clarke氏(ニューヨーク州)が提出者となる。

この法案は時宜を得ている。先月だけでも、Facebookは求人広告における差別的扱いで集団訴訟を示談に持ち込み、また住宅都市開発省からは住宅広告のターゲティングツールで同様の民事訴訟を提起された。この法案は年商5000万ドル以上の企業をが対象だが、100万以上のユーザーのデータを保持している企業はほとんどすべて、この要件に当てはまるだろう。

関連記事: 米住宅省が住宅広告におけるFacebookの広告ターゲティングを差別として告訴

米国時間4月9日、上院で提出されたダークパターンデザインを禁ずる法案用語解説)と同じく、このアルゴリズム説明責任法(PDF)も監督省庁は連邦取引委員会(Federal Trade Commission、FTC)になる。そして法案によるとFTCは企業に、自分たちのアルゴリズムによる意思決定システムに対する「インパクト評価」を命じることができる。その評価は、自動化システムの中にある「正確性、公平性、偏り、差別、プライバシー、そしてセキュリティ」に関するありうる結果を査定し、問題が見つかった場合は修正を要求される。

法案に関する声明の中でBooker氏は、ユーザーに買う機会のない家や、就く機会のない仕事や、その存在を知ることのできない金融サービス等を提供する、テクノロジーの差別的実践を非難した。

Booker氏はこう言っている。「この法律は企業に、自分たちのツールの正確さや公平さ、偏り、そして差別を頻繁に評価することを要求する」。

大手テクノロジー企業の偏向は今やホットな話題だが、この問題に対する政党のアプローチはかなり違った角度からも行われている。米国時間4月10日、たまたま上院の司法小委員会が上院議員Ted Cruz氏を座長とするヒアリングを行った。Cruz氏は、FacebookやTwitterが右寄りのユーザーを冷遇しているとする、根拠のない主張を繰り返す共和党員たちのリーダー格の人物だ。

一方民主党の議員たちは、アルゴリズムによる偏向のプラットホーム以外の問題にも関心があるようだ。

Clarke下院議員はこう言っている。「大企業が彼らの自動化システムの意図せざる影響に背を向けないようにするアルゴリズム説明責任法は、21世紀のテクノロジーが確実に、疎外ではなく力づけのツールになるよう導く。そしてまた、すべての消費者のセキュリティとプライバシーを強化する」。

関連記事: ‘Hateful comments’ result in YouTube disabling chat during a live-streamed hearing on hate(ヘイトをめぐる公聴会にヘイトコメントが殺到、未訳)

[原文へ]

(翻訳:iwatani、a.k.a. hiwa