Twitterが有害なツイートを減らすため「返信の警告」機能の改良版を公開

次の記事

電動飛行機によるエアタクシー事業に向けWisk AeroとBlade Urban Air Mobilityが提携

1年前の2020年5月にTwitterはユーザーに対し「有害」な言葉を使ってツイートに返信する前に立ち止まって再考するように促す機能のテストを開始した。「有害」とは侮辱や挑発、その他攻撃的で不快な言葉を指す。米国時間5月5日、同社は返信の中に使われている言葉が実際に有害であるときにわかりやすい通知を送るタイミングを判断するシステムを調整したことから、この機能の改良版をiOSの英語ユーザーに、その後Androidユーザーに公開すると発表した。

投稿内容についてユーザーが適切な判断を下せるようにするために強制的に返信の速度を落としたり控えめに警告したりするというアイデアは、心理的な技法を活用している。研究によれば、このような警告を導入するとユーザーは後悔につながる投稿を編集したりキャンセルしたりする効果があるという。

Twitter自身のテストでも効果があることがわかっている。警告を見た後、34%の人が返信を編集するか送信しなかったという。一度警告された後は、攻撃的な返信の作成が平均11%減少した。このことは、少なくとも一部のユーザーにとっては、警告が行動に継続的に影響を与えていることを示している(Twitterは警告を受けたユーザーが有害な返信をあまり受け取らなくなることも発見したが、詳しい数字は明らかにされていない)。

画像クレジット:Twitter

しかしTwitterの初期のテストはいくつかの問題に直面した。同社のシステムとアルゴリズムでは、多くの会話で発生する微妙なニュアンスを理解しづらいことがしばしばあった。例えば、攻撃的な返信か、それとも皮肉やちょっとした軽口かを区別することがなかなかできない。また、少数派のコミュニティによる異議であって有害な発言ではないという場面を考慮することも困難だった。

米国時間5月5日から公開されている改良版は、こうした問題の解決を目指している。Twitterはこの部分をはじめとするテクノロジーを調整したとしている。今後は元の発言をした人と返信する人の関係も考慮する。つまり、お互いにフォローし合い頻繁に返信を交わしている場合、そうでない人との間に比べるとコミュニケーションの好みを理解していると考えられる。

Twitterによれば、冒涜のような強い言葉をこれまでより正確に検知できるテクノロジーも改良したという。

また、警告を目にした人にとってその警告が役に立ったか、あるいは適切だったかを、Twitterに簡単に報告できるようになった。このデータはシステムのさらなる向上の役に立つ。

これがどのように寄与するかは、もちろんまだわからない。

画像クレジット:Twitter

こうした機能がTwitterの有害な部分を抑えるのに役に立つとしても、それは大きな問題のうち、熱くなって後で後悔するようなやりとりをしてしまうという1つの側面を解決しているにすぎない。Twitterにはこのソリューションだけでは解決できない、侮辱や有害コンテンツに関する問題が他にもある。

ユーザーの行動に影響を与える控えめな警告という考え方が利用されているのは、この「返信に対する警告」だけではない。Twitterプラットフォーム上で情報に基づく議論を促進する取り組みとして、リツイートして拡散する前にユーザーに記事を読むように促す機能も実装されている。

Twitterによれば、改良された警告機能は米国時間5月5日からiOSのすべての英語ユーザーに対して順次公開され、数日のうちにAndroidユーザーにも提供される。

関連記事
Twitterが「有害な」リプライを送信前に修正を促すプロンプトをテスト中
Twitterが「リツイートの前に読め」プロンプトを全ユーザーに適用、脊髄反射リツイート防止へ

カテゴリー:ネットサービス
タグ:TwitterSNS

画像クレジット:TechCrunch

原文へ

(文:Sarah Perez、翻訳:Kaori Koyama)