人工知能・AI
Google / グーグル(企業)

Googleが「センシティブな話題」の研究に対する締め付けを強化しているという

次の記事

GoogleがKubernetesのインフラ運営の資金としてCNCFにさらに3.1億円提供

Google(グーグル)は目下、AIにバイアスがあると警告した研究員を解雇して非難されているが、米国時間12月23日のReutersの報道によると、研究者がAIについて書くときには「ポジティブな口調」を求められ、また「センシティブな話題」に触れる研究については、追加のレビューを受けるように求められているという。

Reutersが同社の研究者と内部文書を引用して報じたところによると、Googleは2019年に、特定のテーマに関する論文を対象とした追加調査を実施したほか、研究の後期段階で幹部による干渉を増やしたのだという。

Timnit Gebru(ティムニット・ゲブル)博士のケースは、まさにそれに該当したのだろう。GoogleのAI研究員である彼女の辞任は、彼女のチームが行っていた仕事をめぐる彼女と上司との摩擦が原因の混乱した状況で強制されたもののようだ。これについて現在、ゲブル氏とGoogleにコメントを求めている。

Reutersが閲覧した内部ウェブページによると「センシティブな話題」の例として「石油産業、中国、イラン、イスラエル、COVID-19、ホームセキュリティ、保険、位置情報データ、宗教、自動運転車、通信、およびウェブコンテンツを推奨またはパーソナライズするシステム」といったトピックが含まれているという。

これらの問題の多くが実際にセンシティブなものであることは明らかだが、倫理委員会、査読、その他の通常の研究統制の存在を考えると、研究者に注意を払うよう助言することは不要に思える。Reutersの取材に応じた研究者の1人は、Googleからのこの種のトップダウン干渉は、近いうちに「検閲という深刻な問題」になると警告している。

そもそも、より本質的な問題は、Googleにおける重要な研究が、公表されるかされないかも不確定な比較的曖昧な状況で、企業の支援の下に行われていることだ。大規模な非公開の研究機関や組織化された科学研究の歴史は長いが、しかしFacebook(Facebook)やGoogle、Apple(アップル)、Microsoft(マイクロソフト)などの企業はAIのような分野に対して巨大な影響を及ぼしており、彼らは利益を生む技術への批判を避けつつ、もっぱらその有益性を屋根の上から叫んでいるのだ。

関連記事
GoogleのAI倫理研究チームの共同リーダーが部下宛てメールが原因で解雇されたと語る
グーグルCEOがAI倫理研究チームのゲブル博士辞任の真相調査を要求

カテゴリー:人工知能・AI
タグ:Google

画像クレジット:TechCrunch

原文へ

(翻訳:iwatani、a.k.a. hiwa