ユーザーが自分のヌード画像をアップロードするリベンジポルノ対策でFacebookが自己弁護

次の記事

OpenStack FoundationがOpenStack以外のオープンソースプロジェクトもホストする方向へ

Facebookの安全性担当のトップAntigone Davisが、今オーストラリアでテストしているリベンジポルノ対策について説明している。この対策では、ユーザーが自分のヌード写真やビデオをMessengerに送り、Facebookはそれに、同意のない露骨なメディア(non-consensual explicit media)というタグをつける。

説明の中でDavisは、こう書いている: “この小規模なパイロット事業では、人びとが写真を前もってFacebookに送り、それがまったく共有されないようにする、という緊急的手段をテストしたい。この事業の参加/利用は、完全に自由意志である。それは予防的措置であり、それにより、画像が広範囲に共有される劣悪な状況を防止できる”。

Facebookはこれを、オーストラリア政府のeSafety部門と共同で行っており、それにより個人的な画像が本人の同意なく共有されることを防ぐ。リベンジポルノをやられる危険性を感じた者は、eSafetyに連絡する。すると同部局は、Messengerを使って自分のヌード写真を自分宛に送るよう、教える。今後はFacebookのハッシングシステムが画像を認識するので、画像そのものを同社のサーバー上に保存する必要はない。

eSafetyは画像にアクセスできない、とDavisは明言しているが、“FacebookのCommunity Operationsチームの専門的に訓練された社員”が、ハッシングする前に画像を検分することはある、という。ハッシングが終わったら写真を送った者に通知して、写真をMessengerから削除するよう求める。その時点で、Facebookはその画像をサーバーから削除する。

FacebookのCSO(Chief Security Officer) Alex Stamosのツイートによると、人びとが自分の写真を送ることに多少のリスクは伴うが、それは、“人びと(主に女性)が、非合意のあからさまな画像(NCII)をポストされることをやめさせられない、という、毎日のように起きている深刻で現実的な危害と対比した場合には”、許容できるリスクだ、という。

NCIIは、non-consensual intimate imagery(非合意の露骨な画像)の略だ。Stamosはさらに続けて、Facebookはデータを保護するための対策を講じており、復元不可能なハッシュだけを保持する、と言っている。

しかし一部には、画像のアップロードを必要としない、もっと良い方法があるはず、との批判もある。たとえば画像のハッシングをローカルにやって、ハッシュ値だけをアップロードするやり方だ。また、未成年者が自分の写真を送らないようにするための、年齢制限措置はあるのか?

ハッシュの計算をローカルでやれ、という説に対してStamosは、“写真のフィンガープリントアルゴリズムは通常、悪用を防ぐためにクライアントには含まれていない。人間の目が不正な報告を検出して防げるための方法が、必要である”、と応えている。

[原文へ]
(翻訳:iwatani(a.k.a. hiwa