ネットサービス
BAN / 禁止(用語)
ハラスメント(用語)
Twitch(企業)

Twitchの最新モデレーションツールはチャンネルBANを回避しようとするアカウントを検知

次の記事

Reddit、タイピングやコメント表示などのリアルタイム新機能を導入

Twitchは米国時間11月30日、ストリーマーがチャンネルレベルのBANを逃れようとするアカウントと戦うための新しい方法を導入した。この自動化されたツールは「Suspicious User Detection(不審なユーザーの検出)」と呼ばれ、BANを逃れようとするユーザーを検出することができるものだ。これにより、Twitchのチャンネルをモデレートする人たちは、破壊的な行為が始まる前に対処する手段を得ることができる。Twitchは8月に、この新しいBAN回避検出ツールが登場することを発表していた。

同社によると、このツールは、BANされた後に新しいアカウントで現れたユーザーを処理するための、より強固なモデレーションオプションを求めるコミュニティからの声に直接応えて開発されたものだ。これにより、あるアカウントが「BAN回避の可能性がある」または「BAN回避の可能性が高い」と判定された場合に、チャンネルのモデレーターはそのアカウントに対して手動でアクションを起こすことができる。

画像クレジット:Twitch

違反の可能性が高いとフラグが立てられたアカウントから送信されたメッセージは、モデレーターによるレビューを待って、自動的にチャットからスクリーニングされることとなる。より積極的にモデレーションを行いたいチャンネルでは、BAN回避の可能性があるとフラグが立てられたアカウントに対しても、同様の設定を行うことができる。また、モデレーターは、ユーザーを手動で「疑わしいアカウント」リストに追加して、より詳細に監視することもできる。

Twitchは、一般的な自動化されたモデレーションツールと同様に、誤検知の可能性があることも指摘しているが、機械学習システムによるプロアクティブな検知と人間による介入のバランスを取りたいと考えている。同社はブログで「自分のコミュニティに関して、あなたが専門家であり、誰が参加できるかを最終的に判断すべきです」と述べ、システムは人間のモデレーターからのフィードバックを学習することで、時間をかけて改善されていくとも語っている。

Twitchは、この新しいBAN回避検知システムを、モデレーターがチャット中の有害な可能性のあるメッセージを確認する方法を提供する「AutoMod」機能や、2021年10月に追加した、ユーザーがチャットをする前に自分のアカウントを確認することを義務づけるオプション「電話認証済みチェット」機能と並ぶモジュール式のソリューションだと考えている。Twitchのユーザーは、1つの電話番号で5つのアカウントに登録することができるのだが、今ではチャンネルのBANは、その電話番号にリンクされたすべてのアカウントに影響するため、プラットフォームのポリシーを回避しようとする人にとって最も簡単な回避策の1つを封じている。

Twitchのストリーマーたちは、クリエーター、特にオンラインハラスメントの被害に遭いやすいクリエーターを保護するための対策を講じるよう、長い間同社に働きかけてきた。2021年に入ってからは「#ADayOffTwitch」や「#TwitchDoBetter」などのキャンペーンによって、Twitch上で広範なハラスメント行為に直面している社会的に疎外されてきたクリエイターたちの存在が明らかになり、同社はこれに対応するよう求められた。

「ボット化、ヘイトレイド、その他のハラスメントなど、社会から疎外されてきたクリエイターを標的にした行為について多くの話題が寄せられています。みなさんは私たちに、もっとしっかり対策を講じるよう求めています。そして、私たちもこのような問題に対処するためには、もっと多くのことを行う必要があると理解しています」と同社は当時ツイートしていた。

Twitchでは、長年にわたってディスカバリーツールが不足していたため、社会的弱者のクリエイターがプラットフォームで成功することは困難だったが、ターゲットを絞ったハラスメントキャンペーンによって、問題はさらに悪化した。10月に漏洩してしまったTwitchの支払いデータの数々は、トップクリエイターがほぼ全員白人男性であるという、ストリーミング成功の上層部における多様性の厳しい状況を示していた。

関連記事:クリエイターの報酬データが大量流出、Twitchのストリーマーの反応は

5月、Twitchは350以上のタグを追加し、ユーザーが性別、セクシュアリティ、人種、能力などの識別子でストリーマーを見つけられるようにした。このアップデートは、ストリーマーの発見を促進し、プラットフォーム上でより多様なクリエイターを発掘するための遅きに失した措置だったが、適切なモデレーションツールがないため、多くのユーザーは、このシステムが彼らのコミュニティを標的とした嫌がらせを助長しているのではないかと懸念していた。9月には、Twitchは、大量のハラスメント行為を行う何千ものボットに関連する2人のユーザーを提訴するという異例の措置をとっていた。

画像クレジット:MARTIN BUREAU / Contributor / Getty Images

原文へ

(文:Taylor Hatmaker、翻訳:Akihito Mizukoshi)