大量の「いいね!」とコメントでインスタを欺く「ポッド」との戦い

次の記事

新型コロナ接触者追跡アプリの拡大流用に警鐘、「中央集中型」支持の英国でも

ニューヨーク大学(NYU)の研究チームは、Instagramのアルゴリズムを操って露出を高めるために「いいね!」やコメントを組織的に交換するInstagramユーザーグループ(中にはメンバーが数千人になるものもある)を何百個も特定した。さらに同チームは、その研究の一環として、Instagramの投稿にこの手法が使われているかどうかを判断する機械学習モデルのトレーニングも行った。

「ポッド」と呼ばれるこの手法によるアクティビティは、厳密には本物のエンゲージメントとはいえないが、かといって偽のエンゲージメントとも断定できないため、検知や対抗措置の実施が難しい。また、以前は危険度が比較的低いと考えられていたが(偽アカウントやボット使用の問題と比べれば今でも確かに低い)、現在はその規模も影響力も拡大している。

インターネットで検索するとポッドは簡単に見つかる。誰でも参加可能なポッドもある。ポッドの結成場所として最も広く利用されているのはTelegramである。おおむね安全で、チャンネル加入人数に制限がないためだ。ポッド参加メンバーがInstagramに投稿してそのリンクをポッドで共有すると、同じポッドに参加する他のメンバーが「いいね!」やコメントを付ける。すると、その投稿がInstagramの「おすすめ」選定アルゴリズムによって拡散される可能性がはるかに高くなり、オーガニックなエンゲージメントが促進される、という仕組みだ。

互酬性のサービス化

グループのメンバーがお互いの投稿に「いいね!」を付け合う行為は、互酬性の乱用と呼ばれる。ソーシャルネットワークの運用会社もその存在を十分認識しており、この手のアクティビティを削除したことがある。しかし、NYUのTandon School of Engieeringの研究チームによると、この手法が研究されたり詳細に定義されたりしたことはないという。

今回の研究論文の主執筆者であるRachel Greenstadt(レイチェル・グリーンシュタット)氏は、「Instagramはこれまで、他者へのログイン情報提供などの自動化による脅威やボット被害に重点を置いていたのだと思う。我々がポッドを研究したのは、ポッド問題の深刻さが増しており、他の問題に比べて対抗措置を講じるのが難しいためだ」と説明している。

規模が小さければそれほど大きな問題にはならないように感じられるが、同チームの研究ではポッドによって操作された投稿が約200万件、ポッドに参加しているユーザーが10万人以上見つかった。さらに、これは公開されているデータを使って閲覧できる英語表示の投稿のみを調査した結果である。この研究論文はThe World Wide Web Conferenceの発表論文集に掲載された(ここから閲覧可能だ)。

重要なのは、このような互酬的な「いいね!」の付け合いには、形だけのエンゲージメントを増やす以上の効果があるという点である。ポッドに参加している投稿には多数の「いいね!」やコメントが付いたが、これは作為的なエンゲージメントだった。しかしその結果、Instagramのアルゴリズムがだまされてそのような投稿を優先表示するようになり、ポッドに参加していない投稿のエンゲージメントでさえも大幅に増加したのだ。

コメントを求められたInstagramは当初、このような行為は「Instagramのポリシーに違反しており、阻止するために数多くの措置を講じている」と回答し、今回の研究はNYUの研究チームとInstagramの共同研究ではないと述べた。

しかし実際のところ、NYUの研究チームは今回の研究プロジェクトの初期段階からInstagramの不正防止担当チームと接触していた。さらにこの研究結果を見る限り、Instagramがどのような措置を講じているにしろ、少なくともポッド問題に関しては思うような効果が出ていないことは明らかだ。筆者はInstagramの担当者に対してこの点を指摘した。何らかの回答があったら、この記事に追記する予定だ。

ポッド使用は「グレーゾーン」

とはいえ、ポッド禁止に向けてすぐに行動を起こせばよい、というわけでもない。ポッドによるアクティビティは多くの点で、友達同士あるいは興味が似ているユーザー同士がお互いの投稿にリアクションを返すという、Instagramが本来の使い方として意図しているアクティビティと同じだからだ。さらに、ポッド使用が不正行為であると簡単に決めつけられるわけでもない。

グリーンシュタット氏は次のように述べている。「ポッド使用はグレーゾーンで、判断が難しい。Instagramユーザーもそう考えていると思う。どこまでが許容範囲なのか。例えば記事を書いてソーシャルメディアに投稿し、そのリンクを友だちに送ると、その友だちが投稿に『いいね!』を付けてくれる。友だちが記事を書いて投稿したら、今度は自分が同じことをする。これはポッド行為になるのか。お互いに『いいね!』を付けることが問題であるとは必ずしもいえない。コンテンツの拡散・非拡散を判断する上でそのようなアクションをアルゴリズムがどう処理するべきか、ということが問題だ」。

そのような行為を何千人ものユーザーを使って組織的に行い、(一部のポッドグループで行われているように)ポッド参加メンバーに課金まですれば、明らかに不正行為になる。しかし、この線引きは簡単ではない。

それよりも肝心なのは、何をもってポッド行為とするかを定義しなければ線引きすらできない、という点である。今回の研究では、ポッド投稿と通常投稿の「いいね!」とコメントのパターンに見られる違いを精査することにより、ポッド行為の定義が行われた。

「ポッド投稿と通常投稿では、言葉の選択とタイミングのパターンに特徴の違いが見られる」と共同執筆者のJanith Weerasinghe(ジャニス・ウィーラシンゲ)氏は説明している。

容易に想像できることがだが、あまり興味のない投稿にコメントするよう強制されたユーザーは、内容に踏み込んだコメントはせず、「いい写真」とか「すごい」といった一般的な言葉でコメントする傾向がある。ヴィーラシンゲ氏によると、そのようなコメントを禁止しているポッドグループもあるにはあるが、多くはないとのことである。

ポッド投稿で使用される言葉の一覧を見ると、予想通り、フォロワーが多い投稿のコメント欄でよく目にする言葉ばかりだ。とはいえ、このことはInstagramのコメント欄では何といっても全般的に表現の幅が限られることを証明しているのかもしれない。

ポッドで多用される言葉

しかし、何千件ものポッド投稿と通常投稿を統計的に分析した結果、ポッド投稿では「一般的な表現を使った支持」コメントの割合が圧倒的に高く、しばしば予測可能なパターンで出現していることがわかった。

さらに、この分析データを基に機械学習モデルのトレーニングを行い、初見の投稿の中から最高90%の高精度でポッド投稿を特定することに成功した。この方法を使えば次々とポッドを発見できるかもしれないが、それらは氷山の一角にすぎないことを忘れてはならない。

グリーンシュタット氏は「今回の研究期間に、アクセスと発見が容易なポッドをかなりの数、特定できた。しかし今回、ポッド全体の大半を占め、小規模ながら高い利益を生み出してしているポッドを特定することができなかった。そのようなポッドには、ソーシャルメディアにおいて既にある程度の露出実績があるユーザー、つまりインフルエンサーでないと参加できないためだ。我々はインフルエンサーではないため、そのようなポッドに実際に参加して調査することはできなかった」と説明している。

ポッドと、ポッドによって操作された投稿の数はここ2年間で着実に増加している。2017年3月には7000件のポッド投稿が発見されたが、1年後には5万5000件近くまで急増した。2019年3月には10万件を超え、その数は今回の研究データの収集が終わる時点でも増え続けていた。現在、ポッドによる投稿は1日あたり4000回を超えているといっても過言ではなく、それぞれの投稿が、作為的にもオーガニックにも膨大な数のエンゲージメントを獲得している。現在、1つのポッドの参加メンバー数は平均900人で、中には1万人を超える参加メンバーを抱えるポッドもある。

「数人の研究者が、公開されているAPIとGoogleを使ってこのような発見をできたのであれば、なぜInstagramは今まで気づかなかったのか」と思う読者もいるかもしれない。

先ほども触れたが、Instagramは単にポッドを大きな脅威として認識していなかったために、それを阻止するポリシーやツールの開発を進めてこなかっただけなのかもしれない。「偽の『いいね!』、フォロー、コメントを生成するサードパーティ製のアプリやサービス」の使用を禁止するというInstagramのルールがこのようなポッドには適用されないことはほぼ確実だ。なぜならポッド行為は多くの点で、ユーザー間のまったく正当なやり取りと同じだからだ(ただし、Instagramはポッドがルール違反であると明言している)。また、偽アカウントやボットの方がはるかに大きい脅威であることも確かである。

さらに、ポッドが国家による意図的な虚偽情報拡散やその他の政治的な目的で利用される可能性もあることにはあるが、今回の研究中にその種のアクティビティは(それを具体的に探すことはしなかったが)発見されなかった。そのため、現在のところポッドの危険度は依然として比較的低いといえる。

とはいえ、ポッド行為の定義と検知に役立つデータをInstagramが持っていることは明らかであり、そのデータに基づいてポリシーやアルゴリズムを変更することも可能なはずだ。NYUの研究者たちは喜んで協力するだろう。

関連記事:あなたのインスタストーリーが知らないロシア人に見られているワケ

Category:ネットサービス

Tags:Instagram 機械学習 SNS

[原文へ]

(翻訳:Dragonfly)