Snap、テロリスト対抗のため競合のFacebookやYouTubeと協力

次の記事

高校生が3Dプリントと機械学習を利用して祖父のための網膜診断システムを制作

Snapは、IT企業が共同でネット上のテロリズムや過激思想の拡散を阻止する団体、Global Internet Forum to Counter Terrorism(以下、GIFCT)に加盟した。GIFCTは米国時間の6月26日、Facebook、YouTube(Google)、Microsoft、Twitterによって結成され、8月1日に他テック企業に加え、政府機関、非政府組織などとともに初のワークショップを主催する。

GIFCTは産業用共有ハッシュデータベース作成の延長線として開始した。テック企業はそのデータを使用して、写真や動画など、過激派やテロリストがコンテンツとして残す識別情報を共有でき、一社が禁止コンテンツを発見すれば他社でもそのアップロードを防ぐことができる。言い換えれば、一社が感染症の予防に成功したら、抗体の生成法を残りのグループに共有する予防接種のようなものだ。

FacebookYouTubeTwitter、そしてMicrosoftが共同発表したブログ記事で、GIFCTは「我々の使命は、人権を尊重しつつ、テロリストが目的遂行のためにインターネットを使用できる範囲を大幅に阻害することだ」と書いている。

8月1日にサンフランシスコで開催されるGIFCT初のワークショップには、イギリスのHon Amber Rudd内務大臣や、アメリカのElaine Duke国土安全保障長官代理に加え、欧州連合、国連、オーストラリア、およびカナダの代表者らが出席する。同イベントの目的は、大手テック企業が中小企業と協力する方法や、その協力体制を整えるには何が必要かを正式に決定することだ。

同団体はこれから数カ月、新メンバーのSnapとJustPaste.itに加えて、さらに3つの企業の加盟、Tech Against Terrorismプロジェクトを介した50社からの過激派対策のベストプラクティスの共有、4つの情報共有ワークショップの計画などの目標に取り組んでいく。

テロリストによるコンテンツを適正化し、削除するオートメーション技術を向上させるのは、見落としを防ぐために非常に重要だ。一般的にFacebookのような大企業は、何千人もの業務委託者を雇って報告されたコンテンツを検査している。担当者は次々に押し寄せる、見るに堪えない不快な画像を素早く処理することで、精神的なダメージを負う場合もある。共有ハッシュデータベースとベストプラクティスを使用すると、過酷な業務を行う人たちの苦痛を軽減すると同時に、テロリストのプロパガンダを削除するスピードと精度を向上できる可能性がある。

大義名分の下、FacebookとSnapが立場を超えた協力関係を結ぶのは見ていて喜ばしい。Snapはその秘密主義、Facebookは競合をコピーすることで悪名高いが、GIFCTでは、テロリストのプロパガンタ拡散を制限するため、両社ともオープンにデータと対策の共有を行っている。言論の自由と暴力を誘発する内容の境界線の判断には、多くのニュアンスを加味しなくてはいけないため、協力体制は同組織に属する全企業のプロセス向上に繋がる。

テロリストが意図的にシェアしたコンテンツの削除以外にも、FacebookやTwitterのフィードにとめどなく流れてくるテロ攻撃関連のニュースを、どのようなアルゴリズムで処理するかという課題が残る。人間は進化学的に危険に関する情報を探す傾向にある。しかし、世界に溢れるテロ行為関連の情報を消費し過ぎてしまうと、これらの攻撃は実際に起こっているよりも、頻繁で危険だと感じるようになる。

元Googleのデザイン倫理者であるTristan Harrisが指摘するように、ソーシャルネットワークは、我々が憤慨するようなコンテンツに注目が集まることを知っている。GIFCTの進化とともに、キュレーションアルゴリズムによるテロ関連のニュースやコメントの最適な処理方法の研究がなされ、悲惨な事件をエンゲージメント上昇のために悪用することがなく、情報と議論やフリースピーチが不偏的に行き渡るように期待したい。

[原文へ]