マイクロソフトが米大統領選挙を前にディープフェイク検出ツールVideo Authenticatorを発表

次の記事

サムスンの5G対応Galaxy Tab S7は約9万円、米国で9月18日に発売

Microsoft(マイクロソフト)は、動画や静止画を分析して操作スコアを生成するツールの提供を発表した。これは、合成されたメディア、いわゆるディープフェイクを発見することを目的とした技術の1つになる。具体的には、メディアが人為的に操作されたことを示す「確率、または信頼度スコア」をVideo Authenticatorと呼ばれるツールが提供する。

Video Authenticatorのブログ記事には「ビデオの場合、ビデオが再生されるたびに、フレームごとにリアルタイムでこのパーセンテージを提供することができます」とある。「これは、人間の目では検出できないかもしれないディープフェイクや微妙な色あせ、グレースケールの要素のブレンド境界を検出することによって動作します」とのこと。

もしオンラインコンテンツの一部が本物に見えても「なんとなく間違った雰囲気がする」場合、それは本物であるかのように見せようとする、高度な技術を使った合成である可能性がある。おそらく人々に誤解を与えようとする悪意の意図があるのだ。ディープフェイクの多くは、面白いとか面白いとかいうまったく異なる意図で作成されている(未訳記事)が、文脈から外れるとこのような合成メディアは、拡散するにつれてそれ自体が独立した存在になることがあり、疑っていない視聴者を騙すことにもなりかねない。

AI技術はリアルなディープフェイクを生成するために使われているが、技術を使用して視覚的な虚偽の情報を見極めるのはまだ難しい問題だ。ハイテクな大嘘を見分けるための最良のツールは、人間の批判的な思考力であることに変わりはない。にもかかわらず、マイクロソフトが提供した今回の最新ツールを含み、技術者はディープフェイク発見器の開発に取り組み続けている。

ブログの記事は「この技術は、AIを駆使した偽情報の軍拡競争において一応の実用性しか提供しないかもしれないと警告している。ディープフェイクが学習し続けることができるAIによって生成されるという事実は、彼らが従来の検出技術を打ち負かすことは避けられない。しかし、次の米国大統領選挙のような短期的に目の肥えたユーザーがディープフェイクを識別するのに役立つツールとして、高度な検知技術が利用される可能性があります」と書いている。

今年の夏、Facebookがディープフェイク検出器を開発するために開始したコンテストでは推測よりも優れた結果が得られた(未訳記事)。なお、このコンテストでは、研究者が事前にアクセスしていなかったデータセットの場合に限られた、少し制限された環境だった。

一方マイクロソフトのVideo Authenticatorツールは、Face Forensic++の公開データセット(合成された顔画像の検出の学習データ)を使用して作成され、DeepFake Detection Challenge Datasetでテストされたことを明らかにしている。同社によると「これらはディープフェイク検出技術のトレーニングとテストのための両方の主要モデル」とのこと。

このツールは、サンフランシスコを拠点とするAI Foundationと提携しており、今年中に報道機関や政治キャンペーンなど、民主的なプロセスに関与する組織が利用できるようになる。「Video Authenticator は当初、RD2020(Reality Defender 2020)を通じてのみ利用可能となり、あらゆるディープフェイク検出テクノロジーに内在する限界と倫理的配慮を通じて組織をガイドします。詳細について知りたいキャンペーンやジャーナリストの方は、こちらのRD2020にお問い合わせください」と同社は付け加えている。

このツールは、マイクロソフトの研究開発部門であるMicrosoft Research(マイクロソフトリサーチ)が、AIチームと、AIに関する社内の諮問機関である工学・研究委員会の倫理・効果委員会が協力・開発したもので、偽情報による脅威から民主主義を守ることを目的としたマイクロソフトの幅広いプログラムの一部だ。

同社は「合成メディアを生成する方法は、今後も高度化していくと予想されます」と続ける。「すべてのAI検出方法には失敗率があるため、検出方法をすり抜けたディープフェイクを理解して対応できるようにしておく必要があります。従って長期的には、ニュース記事やその他メディアの信憑性を維持し、認証するためのより強力な方法を模索しなければなりません。オンラインで見ているメディアが信頼できるソースから来たものであり、改ざんされていないことを読者に保証するのに役立つツールは、現在のところほとんどありません」とのこと。

後者の対策、つまり改ざんされていないことを読者に保証するツールとしてマイクロソフトは、コンテンツ制作者がデジタルハッシュと証明書をメディアに追加できるようにするシステムも発表した。これは、コンテンツがオンライン上を移動する際にメタデータに残るメディアにデジタルハッシュと証明書を追加し、真正性の基準点を提供するものだ。

このシステムの2つ目のコンポーネントは、ブラウザの拡張機能として導入可能なリーダーツールで、証明書をチェックしたり、ハッシュを照合したりすることで、マイクロソフトが言うところの「高い精度」で、特定のコンテンツが本物であるか、変更されていないかを視聴者に提供するものになる。またこの証明書は、誰がメディアを制作したのかについての詳細を読者に提供する。

マイクロソフトは、このデジタル透かし認証システムが、英国の公的放送局であるBBCが昨年発表したTrusted News Initiativeの下支えになることを期待している。

このプロジェクトは、BBC、CBC、ラジオカナダ、マイクロソフト、ニューヨーク・タイムズの連合体が主導しているもので、デジタル透かし技術を広く採用できる標準に発展させることを目的にした団体であるProject Origin(プロジェクト・オリジン)でテストされるという。

「さまさまな出版社やソーシャルメディア企業が参加するTrusted News Initiativeも、この技術に参加することに同意しています。今後数カ月の間に、この分野での作業をさらに多くのテクノロジー企業、ニュース出版社、ソーシャルメディア企業に広げていきたいと考えています」とマイクロソフトは説明する。

ディープフェイクを識別する技術の作業が続く一方で、同社のブログ記事はメディアリテラシーの重要性を強調している。ワシントン大学、Sensity(センシティ)、USAトゥデイとのパートナーシップは、米国の選挙を前に批判的思考を高めることを目的としている。

またこのパートナーシップは、「合成メディアについて学び、批判的なメディアリテラシーのスキルを身につけ、合成メディアが民主主義に与える影響についての認識を得る」ために、米国の有権者を対象とした「Spot the Deepfake Quiz」を開始した。

同社にブログ記事によると、このインタラクティブなクイズは、USAトゥデイ、マイクロソフト、ワシントン大学が所有するウェブとソーシャルメディアのプロパティに配信され、ソーシャルメディアの広告を通じて配信される予定だという。また、テック系の巨大企業であるマイクロソフトは、米国で行われている公共サービス発表(PSA)キャンペーンを支援していることにも言及しており、選挙前にソーシャルメディアで情報を共有したり、宣伝したりする前に、「反射的な小休止」を取り、評判の良い報道機関からの情報であることを確認するよう人々に呼びかけている。

「PSAキャンペーンは、人々がより良い誤報や誤報が私たちの民主主義に持っている害を理解し、信頼性の高い情報を識別し、共有し、消費する時間を取ることの重要性を支援します。広告は、9月と10月に米国内のラジオ局を横断して実行されます」と付け加えた。

カテゴリー:セキュリティ

タグ:Microsoft

画像クジレット:Microsoft

原文へ

(翻訳:TechCrunch Japan)