ソーシャルプラットフォーム上の有害コンテンツをユーザーから隠すモバイルアプリ「Bodyguard」

次の記事

YouTubeが全ユーザー向けにハッシュタグ・ランディングページを公開、ハッシュタグをクリックで表示

あなたがさまざまなソーシャルネットワークで、ある程度有名な場合、リプライやコメントの中でヘイトスピーチにさらされる可能性がある。フランスのスタートアップBodyguardは最近、有害なコンテンツに触れないように、アプリとサービスの英語版をローンチした。このアプリとサービスは数年前からフランス語で提供されており、すでに5万人のユーザーを獲得している。

「インターネット上のヘイトスピーチを90〜95%の精度で検出し、誤検出をわずか2%に抑える技術を開発しました」と、CEOのCharles Cohen(チャールズ・コーエン)氏は米TechCrunchに対して語っている。

Bodyguardは、誰でも使えるモバイルアプリからスタートした。アプリをダウンロードし、お気に入りのソーシャルネットワークと連携させた後、モデレーション(管理)レベルを選択する。これには侮辱、ボディシェイミング、モラルハラスメント、セクシャルハラスメント、人種差別、ホモフォビア(同性愛嫌悪)など、いくつかのカテゴリーがある。カテゴリーごとに優先度を低くするか、最優先にするかも選択できる。

その後、アプリケーションを再度開く必要はない。Bodyguardはサーバーからの返信やコメントをスキャンし、何が適当かどうかを判断する。そしてたとえばコメントを隠したり、ユーザーをミュートしたり、ブロックしたりすることができる。Instagram(インスタグラム)やTwitter(ツイッター)を開くと、そのような憎むべきコメントが存在しなかったようになる。

アプリは現在、TwitterとYouTube(ユーチューブ)、Instagram、Twitch(ツイッチ)をサポートしている。残念ながらAPIの制限のため、SnapchatとTikTokのコンテンツを処理することはできない。

実際、ほとんどのモデレーションサービスは機械学習やキーワードベースの管理方式に大きく依存している。一方、Bodyguardは異なるアプローチを選択している。具体的にはアルゴリズム的にコメントをクリーンアップし、コメントの内容を文脈に沿って分析しようとする。コメントが自分にとって不快なものなのか、第三者にとって不快なものなのか、ある人物のグループにとって不快なものなのかなどを判断できる。

さらに最近、BodyguardはB2B向けの製品をローンチした。企業はBodyguardを搭載したAPIを使用して、ソーシャルプラットフォーム上や自社アプリ内でリアルタイムにコメントを管理できる。同社は従来のSaaS(Software-as-a-Service)のアプローチを使用して、顧客に課金している。

カテゴリー:ソフトウェア
タグ:Bodyguardフランス

画像クレジット:Bodyguard

原文へ

(翻訳:塚本直樹 / Twitter