TikTokは今ユーザーの「レコメンド」ページから悪質なビデオを排除中

次の記事

「ゼルダの伝説 ブレス オブ ザ ワイルド」の前日譚「ゼルダ無双 厄災の黙示録」が11月20日発売

自殺をしようとしている男の、おぞましいビデオが今週初めにTikTokで拡散し、同社は現在もその削除に追われている。最初はFacebook Liveに投稿されたその動画は、週末にかけてTikTokにアップロードされ、ユーザーレコメンデーションのアルゴリズムに根を下ろし始めた。

このビデオはFacebook(フェイスブック)から飛び出したが、その後一部のTikTokユーザーが互いに関連のない複数のビデオに分割し、「For You(レコメンド)」のページにたまたま現れたのを見てしまう人が出てくるようになった。TikTokでは「For You」ページがアプリを立ち上げると最小に表示され、各ユーザーのためにアルゴリズムが選んだコンテンツが掲載される。

「米国時間9月6日の夜に、最初はFacebook上でライブでストリーミングされたクリップが、TikTokなど他のプラットフォームに広まった。弊社のシステムおよびモデレーションチームは、自殺を表示、賛美、賞賛、あるいは宣伝しているコンテンツに対する弊社のポリシーに違反しているとして、これらのクリップを検出し削除してきた」とTikTokの広報担当者は声明で述べている。

TikTokは今後、そのクリップを複数回、アップロードしようしたすべてのアカウントも停止する。同社は、報告してくれたコミュニティメンバーに謝意を表明し、TikTokのアプリ内と同社の安全性ハブ(TikTokリリース)でメンタルヘルスのホットラインを利用できることを広く宣伝した。過激な動画を目にしたために、実際にメンタルヘルスの問題を抱えてしまうユーザーも年齢を問わず存在している。今回は特に悪質だ。

リアルに行われている生々しい暴力シーンがライブ配信されることに、ソーシャルネットワークは何年も前から悩まされてきたが、未だにそれらを利用者の目に触れないようにする有効な対策はない。2019年にニュージーランドのモスクで大量銃撃が配信された(未訳記事)後、フェイスブックはルールに違反した者たちにFacebook Liveの使用を禁じた(Reuters記事)。しかしそのルール変更は、自らの自殺をライブ配信する者を止めることができなかった。

TikTokのコミュニティは動画の拡散を取り締まろうと、フォロワーたちにその動画に対する警告を行った(TikTok投稿)。動画冒頭には、デスクに向かってスマホを持って座ってる長髪でヒゲのある男(Twitter投稿)が映し出される。TikTokによるその動画の排除が完了するまでは、知らないユーザーの動画は観ないほうがいいだろう。

あなたや友だちが心の悩みで助けを求めているときは、National Suicide Prevention Lifeline at 800-273-TALK (8255)(全国自殺防止相談センター)に電話またはCrisis Text Line at 741-741(緊急テキストライン)にテキストメッセージをしよう。日本在住の方はこころの健康相談(0570-064-556)に電話しよう。

関連記事
Videos of shooting tragedy in New Zealand continue resurfacing on social media(未訳記事)
TikTokが「レコメンド」フィードの仕組みを公開、イメージアップ作戦か

カテゴリー:ネットサービス

タグ:TikTok

原文へ
(翻訳:iwatani、a.k.a. hiwa