Facebookは言論の自由ではない、暴言に最適化された増幅アルゴリズムだ

次の記事

ソフトバンクがWeWorkの経営権を握る、評価額は8100億円程度と6分の1以下

Mark Zuckerberg(マーク・ザッカーバーグ)氏は10月17日に講演を行い、「すべての人に発言力を与える」こと、そして「できる限り表現の自由の定義を広く保つ」ための戦いを称賛していた。もちろん、それはいい考えだ。表現の自由は、彼の道標ではないにしても、リベラルな民主主義の道標だ。それに反論する人間はいないだろう。

問題は、Facebook(フェイスブック)が言論の自由を与えていない点だ。それが与えているのは、自由な増幅だ。最初のころのFacebookのように、誰かのページや暴力的な投稿を読むために、そこまでわざわざナビゲートしなければならないとしたら、たとえ嘘であろうが憎悪に満ちた内容だろうが、ほとんど問題にされない。

だが人々がFacebookで実際に読んでいるのは、自分のニュースフィードだ。その中の投稿は、すべての人に同等の発言力を与えられた結果として表示されるわけではない。厳格な時系列に沿って表示されるわけでもない。私たちがFacebookで読んでいる内容は、完全にFacebookのアルゴリズムによって選ばれたものだ。ニュースフィードが自由な言論の場であり、増幅もほとんどされない場だと勘違いしている人からしてみれば、めちゃくちゃ排除され、めちゃくちゃ検閲されている場所だ。

では、増幅とはなんだろう?投稿内容には2つの形式がある。通常のネイティブコンテンツは、エンゲージメントを高めるアルゴリズムにより最適化される。これは、人々にFacebookでより長い時間を過ごさせるためのものだ。それにより、増幅されたもうひとつの形式のコンテンツ、つまり有料広告に触れる時間が長くなる。

もちろんこれは完璧ではない。ザッカーバーグ氏が講演で述べていたように、Facebookは捏造記事や誤った医療情報などが拡散しないように阻止する努力をしている。それがなくともアルゴリズムによって排除されるにも関わらずだ。しかしザッカーバーグ氏は、有料広告による政治的な誤情報の拡散は阻止しないと決意している。

この決断には、私は個人的には同意できないし、分別のある人なら、合意しにくい問題だろうと私は考える。ところが、それを言論の自由を擁護するためだと主張するのは、非常に不誠実なことだと私は感じた。もし誰かが、どこかのプラットフォームなりネットワークに露骨な偽政治広告を出そうとして掲載が拒否されたとき、それを言論の自由に対する攻撃だと真剣に考える人はいるだろうか?いるはずがない。それに対する反論には、まともに応じる必要もない。

だがさらに深刻なのは、アルゴリズムが内容を感知していなければ公正だとFacebookが考えているらしい点だ。ザッカーバーグ氏が人々に発言権を与えることに言及したとき、彼が本当に意味していたのは、Facebookのアルゴリズムによって選ばれた人に発言権を与えるということだ。「人には大規模に自己表現をする力があります。それは世界の新たな権力、第5権力です」と彼が発言したとき、その真意は、Facebookのアルゴリズムこそ第五権力だという点にあった。

その信念とは、明らかに、法律が求め社会契約が示唆する必要最低限のことを超えたコンテンツに基づく人間の判断、つまり、彼が講演の中で指摘していたヘイトスピーチ、嫌がらせ、危険な偽医療情報のフィルタリングは、危険で間違っていて、それはネイティブコンテンツにも有料広告にも通じるというものだ。それに従えば、Facebookのアルゴリズムは、コンテンツに関与しない限りは完全に公正ということになる。

だがこの信念は、完全に間違っている。これまで見てきたとおり、「エンゲージメントのための最適化」は、怒りや二極化や不誠実な偽情報のための最適化であることが非常に多かった。それぞれの問題に関して特定の側に味方することは、たしかになかった。しかしそれは、どちらの側でも、極論、陰謀説、感情的な罵倒を助長してきた。不信感、疑念、争いをいたるところで煽ってきた。私たちは、ずっとそれを見てきた。その中に私たちは暮らしてきた。

Facebookの、内容に関わらず政治広告を承認するという判断は、本質的には、彼らのアルゴリズムがエンゲージメントを最適化する方法の理論的な延長線上にある。それは、内容に基づく判断をしない限り、現在進行中の、今後永遠に続く、人々に何を見せて、何を見せないかの操作(これが言論の自由に反するとお考えなら検閲と読んでもいいだろう)は、したがって公平かつ公正なのだと物語っている。こうした考え方には、10年前いや5年前までは対抗できた。しかし、今はもう対抗できない。

これはもう、変えられないことでもある。Facebookのそもそもの罪は広告ではない。それは利用者にもっと広告を見せることを目的としたエンゲージメントのための最適化だ。Facebookが世界のポジティブな力になるためには、そこを変える必要がある。とは言え、彼らは決して変わらないだろう。なぜなら、そのエンゲージメントこそFacebookのビジネスモデルの基本だからだ。

[原文へ]

(翻訳:金井哲夫)