ボット
フェイクニュース

「フェイクニュース」拡散の原因はボットではなく人間だった――MITが発表

次の記事

次にロボットがやることは何か?ジャズマリンバの演奏だ

嘘の伝わる速さは何世紀にも渡って語り継がれており、1710年の時点で既にジョナサン・スウィフト(『ガリヴァー旅行記』の著者)が「まず嘘が広まり、真実はその後をノロノロとついていくものだ」という言葉を残しているほどだ。そうはいっても、このような事実を示す証拠というのはこれまでほとんど存在しなかった。しかし、ここ数年のソーシャルメディアの様子を見ると、嘘が真実に大きな差をつけながら信じられないほどの速さで広がっており、もはやそれが当然のようにも感じられる。

そしてこの度、MITが10年分ものツイートを分析した結果、嘘が真実よりも速く広まるだけでなく、ボットやネットワーク効果がその原因とは言い切れない――つまり、私たち人間が嘘を広めている――ということがわかったのだ。

3月9日、Scienceで発表された同研究では、ツイッター上で拡散された(もしくは拡散されなかった)10万件以上のニュース(第三者機関によって虚偽のニュースかどうかが判別されているもの)がどのように伝播していったかに焦点があてられている。結果はレポートの要旨(Abstract)に記されている通り、「どのカテゴリーにおいても、嘘は真実よりも遠く、早く、深く、広範囲に広がっていった」。

Image: Bryce Durbin/TechCrunch

この結果を見て、ロシアや時系列に並んでいないニュースフィード、選挙などを槍玉に挙げるのは早計だ。というのも、虚偽のニュース(政治的な意図をはらんだ、いわゆる「フェイクニュース」と区別するためにあえてこの言葉を使用する)がこんなにも速く拡散する背景には、私たち人間が存在するからだ。

「嘘が真実よりも広まりやすいのは、人間が正しい情報よりも虚偽のニュースをリツイートしやすいからだということを調査結果は強く示している」と同レポートの共同著者Sinan Aralは語る。

その一方で、彼は次のように注意を促す。

「もちろん、人の頭の中に入り込んで、何らかの情報を消費したり、リツイートしたりする過程を調査したわけではないので、本研究ではまだ問題の深層部にはたどり着けていない。そもそも、どのように虚偽のニュースがネット上で拡散するかについての大規模な調査はほとんど行われていないため、まだまだ継続的な努力が必要だ」

とは言うものの、「人間は虚偽のニュースを拡散しがちだ」というMITの研究結果からは、極めてストレートかつ強烈な印象を受ける。

残念ながら、人間はアルゴリズムや価格モデルのようにアップデートできるものでなければ、報道機関のように無視できるものでもないため、この結果にはある種の歯がゆさも感じる。というのも、レポート内でも指摘されているように、明確な解決策など存在しないのだ。だからといって、問題から目を背けるべきではない。

10年分のツイートを解析

MITの研究プロセスは次の通り。なお、共同著者の1人であるSoroush Vosoughiによれば、「フェイクニュース」に関する騒ぎが起きるずっと前から同研究は進められていたようだ。

まず研究チームは、2006〜2017年の間に公開された何百万件ものツイートを集め、6つのファクトチェッカー(Snopes、PolitiFact、FactCheck.org、Truth or Fiction、Hoax Slayer、About.com)の少なくともいずれかひとつで真偽判定が行われた12万6000件のニュースと関連があるかどうかを調査。その結果に応じてツイートを分類していった。

その後、ツイート・リツイート数、一定のエンゲージメント数に達するまでの時間、情報元となるアカウントから見たリーチ範囲といった指標をもとに、各ニュースがどのように広がっていったかを観察。

最終的に、各指標をもとに「滝」のようなグラフが生成された。例えば、急激に拡散された後、すぐに話題から消え去ってしまった情報は、横の広がり(=拡散度合い)はあるものの、深さ(おおもとのツイートから何層にわたってリツイートされたか)はほとんどなく、バイラル性も低い。

そして虚偽のニュースと真実の「滝」を比較したところ、少数の例外を除いて、虚偽のニュースの方がより多くの人に、より速く広まり、何層にも渡ってリツイートされていることがわかった。

しかもこれは数%といったレベルの差ではない。具体的な数値については以下を参照してほしい。

  • 真実は1000人以上にリーチすることさえめったにない一方で、虚偽のニュースのうち拡散度合いで上位1%にあたるものは、ほぼ常に1000〜10万人もの人びとにリーチしていた。
  • 真実が1500人にリーチするには、嘘よりも6倍近い時間がかかる。
  • 虚偽のニュースは広範に拡散し、グラフのどの箇所においてもリツイート数で真実を上回っていた。
  • 政治に関する虚偽のニュースはすぐに何層にもわたってリツイートされ、結果的に他のカテゴリーの虚偽のニュースが1万人にリーチするよりも3倍近い速度で2万人以上ものユーザーにリーチした。

以上の通り、どの角度から見ても虚偽のニュースの方が真実よりも何倍、もしくは何乗も速く、多くの人にリーチするということがわかった。

反対意見

上記の研究結果の考察や、研究者が考える解決策、将来の研究アイディアについて触れる前に、想定される反対意見について考えてみよう。

ボットが原因なのでは? 結論から言うとボットの影響はほぼない。研究者はボットを検出するアルゴリズムを使って、明らかにボットによると思われるツイートは事前に取り除いていた。また、ボットの行動パターンを別途精査し、収集したデータをボット有のパターンとボット無のパターンでテストしたが、先述の傾向に変化は見られなかったのだ。この点についてVosoughiは「ボットもわずかに真実より虚偽のニュースを広めやすいということがわかったが、我々の結論に影響を及ぼすほどではなかった。つまり拡散度合いの差はボットでは説明がつかない」と話す。

「虚偽のニュースの拡散にはボットが深く関係している、という最近よく耳にする説とは真逆の結果が研究から明らかになった。これはボットの影響を否定するものではないが、少なくともボットを嘘拡散の原動力と呼ぶことはできない」とAralもVosoughiに賛同する。

ファクトチェックサイトにバイアスがかかっているのでは? 確かにまったくバイアスがかかっていないファクトチェッカーというのは存在し得ないが、研究者が参照した6つのサイトに関し、ある情報が真実かどうかの判定は95%以上の割合で共通している。客観性や証拠を重視するこれらのサイトすべてに共通のバイアスがかかっていると考えるのは、もはや陰謀論の域とさえ言えるだろう。それでも納得できない人は次のAralのコメントを参照してほしい。

「ファクトチェッカーを含め、研究対象に選択バイアスが生じないよう私たちは細心の注意を払っていた。その証拠に、メインの研究とは別に1万3000件のニュースから構成されるもうひとつの対照群について独自に真偽を確認し、そのデータを分析したところ、ほぼ同じような結果が得られた」

このファクトチェックはMITの学部生3名が行ったもので、判定結果は90%以上の割合で共通していた。

虚偽のニュースの拡散には大規模なネットワークが関係しているのでは? レポートによれば、現実はその逆のようだ。

ネットワークの構造や各ユーザーの特徴から虚偽の情報が拡散しやすい背景を説明できるのでは、と考える人もいるかもしれない。つまり、虚偽の情報を広める人ほどフォロー数やフォロワー数、ツイート数が多く、認証バッジを取得している人や昔からTwitterを利用している人の割合も多いのではないかという説だ。しかし嘘と真実の拡散具合を比べると、実はその逆が正しいということがわかった。

虚偽のニュースを広めやすいユーザーの特徴は以下の通り。

  • フォロワー数が少ない
  • フォロー数が少ない
  • ツイートの頻度が低い
  • 認証ユーザーの割合は少ない
  • アカウントの保有期間が短い

「このような特徴が見られたにもかかわらず、虚偽のニュースがより速く、広く拡散した」と研究者は記している。

なぜ虚偽のニュースの方が速く拡散するのか?

この問いに対する答えは憶測でしかないが、少なくとも同研究に携わったMITの研究者の「憶測」は、データに支えられたものであるという事実は無碍にできない。さらに、嘘の大規模な拡散は最近見られるようになった現象で、十分に研究されていないとはいえ、幸運なことに社会学や心理学からはいくばくかの示唆が得られる。

「コミュニケーション学の分野では、特定のニュースが拡散する理由について、既に包括的な研究が行われている」と3人目の共同著者Deb Royは言う。「人はポジティブなニュースよりもネガティブなニュース、平和なニュースよりもショッキングなニュースを広めやすい傾向にあるというのは既によく知られているのだ」。

もしも本当に人が目新しくて(Royいわく「目新しさこそが最重要要素」)ネガティブ(「血が流れればトップニュースになる」現象)なニュースを広めやすいとすれば、残された疑問は虚偽のニュースが真実よりも目新しく、ネガティブかどうかという点だけだ。

Photo: SuperStock/Getty Images

そこでMITの研究者は、一部のユーザーのアクティビティを分析し、虚偽の情報が含まれるツイートと真実しか含まれていないツイートの目新しさを比較した。すると確かに、「目新しさに関するどんな指標と照らし合わせても、虚偽のニュースが真実を上回る」ということがわかったのだ。

また、ツイート内で使われた言葉や関連する感情に注目したところ、虚偽のニュースには驚きや不快感を示すリプライがついていた一方、正しい情報へのリプライには悲しみや期待感、喜びや信頼といった感情が込められていることが多いとわかった。

まだまだ多くの検証が必要とはいえ、本研究からは虚偽のニュースは真実よりも速く拡散し、前者は後者よりも目新しく、ネガティブだという結論が導き出された。あとは「目新しくてネガティブだからこそ虚偽の情報は速く拡散する」という両者の因果関係を証明するような研究の発表が待たれる。

私たちには何ができるのか?

本研究で示された通り、虚偽のニュースを人間が広めているとすれば、それを防ぐためにどうすればよいのだろうか? 冒頭のジョナサン・スウィフトの言葉通り、これは決して最近生まれたものではなく、人びとはこれまで何世紀にも渡ってこの問題に対して何らかの策を講じようとしてきた。しいて言えば、問題のスケールには違いがあるかもしれない。

「何百万人――複数のプラットフォームをまとめると何十億人――もの人びとが、リアルタイムでニュースの拡散度合いに影響を及ぼすというのは、これまでなかったことだ」とRoyは言う。「ネットワークで繋がった人びとの行動についてのみならず、それがニュースや情報の伝播にどのような影響を与えるのかという点についてはさらなる研究が必要だ」。

さらにRoyはこの問題を人間の健康状態のように捉えている。実はJack Dorsey(Twitterの共同創業者でCEO)も、Royが設立した非営利組織Corticoのブログポストを引用元として、同様の比喩を用いた以下のツイートを投稿していた。

我々はコミュニティー全体の健康状態やオープンさ、さらにはプラットフォーム上で交わされる会話のマナーの向上に努めるとともに、その進捗に責任を負うと約束する。

またRoyをはじめとする研究者たちは、TwitterはもちろんFacebookやInstagram、オンライン掲示板といったプラットフォーム向けの「健康診断機」の開発にあたっている。しかしRoyは、これらのプラットフォームは氷山の一角に過ぎず、インターネット全体の「体調」を向上するにはさらなる努力が必要だと指摘する。

この点に関し、Aralは経済的な活動を例に挙げ、「ソーシャルメディア上での広告活動が虚偽のニュースを拡散するインセンティブとなっている。というのも、広告主にとってはビュー数がもっとも大事な指標だからだ」と語る。つまり虚偽のニュースを減らせば広告料も減ってしまうため、プラットフォームの健全化に向けたインセンティブが生まれにくいということだ。

「短期的には虚偽のニュースの拡散を止めることで金銭的なデメリットが発生するが、だからといって野放しにしておくと長期的な問題が発生してしまう。例えば、あるプラットフォームが虚偽のニュースや不適切な会話で埋め尽くされてしまうと、ユーザーはそのプラットフォームを一切使わなくなってしまうかもしれない。そういう意味では、FacebookやTwitterには、長期的な利益を確保するためにこの問題に取り組むインセンティブがあると考えている」(Aral)

しかし問題の根幹に人間だけでなく、アルゴリズムや広告料も関係しているとするならば、どうすればよいのだろうか?

「大事なのは、ユーザーの手を一旦止め、自分たちの行動がどんな影響を持ちうるか考えさせることなのだが、行動経済学の世界でもよく知られている通り、これはとんでもなく難しいことだ」とRoyは言う。だが、もしもそのプロセスが簡単かつどこにでも導入できるとすればどうだろうか?

「スーパーへ買い物に行くときのことを考えてみてほしい。すべての食べ物には、製造工程や製造・販売元、ナッツが含まれているかといった情報を記したラベルが貼り付けられている。しかし情報にはそんなラベルは存在しない。『この会社は虚偽の情報を発信することが多いのか?』『このメディアは3つの独立した情報源と照らし合わせて真偽を判定しているのか(それとも1つだけか)?』『何人がこの報道に関わっているのか?』といった問いに対する答えはニュースには含まれておらず、私たち消費者はただメディアが提示する情報を消費するしかないのだ」(Aral)

さらにAralは、ある情報がTwitter上で拡散する前にその信頼性を測定できるようなアルゴリズムをVosoughiが考案したと語った(Vosoughi本人は謙遜からか、ただ忘れていたのか、取材時にはこの点について触れなかった)。ではなぜFacebookやGoogleのように、膨大なデータや機械学習・言語に関する知見を持ち、プラットフォーム上の情報や活動、エンゲージメント、さらにはサイト全体に関してさまざまな変革を経てきた企業が、Vosoughiのような取り組みを行わないのかという点については疑問が残る。

この問題について、議論は活発に行われているが、なかなかそれが具体的なアクションには繋がっていないようだ。さらにRoyは、TwitterやFacebookといったサイトからは、特効薬のような解決策は生まれないだろうと釘を刺す。

「ソーシャルメディアを運営するためには、さまざまな点に注意しなければいけない。プラットフォーム自体はもちろん極めて重要だが、それ以外にもコンテンツを作る人や広告主、インフルエンサー、そしてユーザーが存在する。彼らの役割はそれぞれ異なるため、ポリシーの変更や新たなルール・ツールの導入による影響は、ステークホルダーによって変化する」

「それ自体は悪いことではない。というのも、そうであるからこそ私たちのような研究者がとやかく言えるのだから」

データセットについても同じことが言えるだろう。なお、本研究で使われたデータは(Twitterの同意のもと)公開される予定なので、誰でもMITの研究結果を確認したり、さらに考察を深めたりできる。

今後、本問題についてさらなる研究が行われることを期待したい。

原文へ

(翻訳:Atsushi Yukutake