告発 / 内部告発(用語)

欧州のデジタル規制の再改定でフェイスブックの態度が変わる可能性、内部告発者フランシス・ホーゲン氏が欧州議会で証言

次の記事

JAXAが宇宙飛行士候補者の募集を開始、応募資格を大幅に緩和

Facebook(フェイスブック)の内部告発者Frances Haugen(フランシス・ホーゲン)氏は、先に行われた英国と米国の国会議員の前でのセッションの後、欧州議会で洗練された証言を行った。

ホーゲン氏のコアメッセージは、大西洋の両側で発せられたのと同様の深刻な警告だった。「Facebookは安全より利益を優先し、個人、社会、民主主義に悪影響を及ぼす有害コンテンツの増幅を無視することを選んでいる。そして、欧州の規制監督は、こうした無責任な運営を行うプラットフォームを統制し、責任あるものにするために不可欠であり、立法者たちがソーシャルメディアに規制を課すことに一刻の猶予もない」。

Facebookの内部告発者として(これまでで)最も注目度の高い人物であるホーゲン氏は、欧州議会から非常に好意的な反応を受けた。議員たちは、同氏が時間を割いてくれたことや、彼らが同氏の「勇気」と表現する、懸念を公に表明してくれたことへの感謝の言葉を惜しまなかった。そして同氏が発言する前や、約3時間にわたるプレゼンテーションと質疑応答の最後にも、同氏を称賛した。

議員たちはさまざまな問題について同氏に質問した。最も大きな関心が寄せられていたのは、新たに導入されるEU全域のデジタル規制が、不安定なプラットフォーム大手に対して、効果的な透明性と説明責任をいかに最大限にもたらし得るかということだった。

Digital Services Act(DSA、デジタルサービス法)は、欧州議会議員の知性の前に置かれている。欧州委員会の提案に対する修正の検討と投票が行われており、この過程で同法案が大きく変化する可能性もある。

一部の議員が行動広告の全面禁止を求める動きを見せたことなどを受け、コンテクスチュアル広告のようなプライバシー保護に配慮した代替手段が法案に盛り込まれた。あるいは最近支持を得た別の修正案では、ニュースメディアをプラットフォームコンテンツの削除から除外するよう求めている

蓋を開けてみると、ホーゲン氏はこうした修正案に好意的ではないことがわかった。しかし、この規制を総じて支持すると同氏は発言した。

DSAの全般的な要点は、信頼できる安全なオンライン環境を実現することに置かれている。そして本日のセッション中に発言した多くの欧州議会議員たちは、ホーゲン氏が欧州議会で発言することに世界的な注目が集まっていることを受けて、EUの警笛を吹く街頭演説的なオポチュニティを捉えた。Facebookの(さらに)別のパブリシティ危機の真っただ中にある中、デジタル規制が審議中であるだけでなく、採択に向かって急速に進んでいる進歩的な状態であることを知らせるものだ。

Facebookの内部告発者は政治的エゴを満たすことに快く応じてみせた。EUがプラットフォーム規制に真剣に取り組んでいることに「感謝する」と述べ、EUはDSAにより「グローバルなゴールドスタンダード」を築くオポチュニティを有していると示唆した。

とはいえ、同氏は2021年10月に行われた別の証拠審議の際にも、英国議会で同様の表現を用いている。そこで同氏は、同国のオンライン安全法について同じように熱弁を振るった。

ホーゲン氏は欧州議会議員たちに対し、Facebookは「データを使ってごまかす」ことに並外れて長けている、と英国の立法者たちに警告した内容を繰り返し、Facebookのプラットフォーム上で起きていることに関するデータを提出することを単純に要求するだけのような甘い法律を通過させてはならない、と議員らに印象つけた。むしろFacebookは、データを引き出して監視監査を生成するのに使用するクエリの詳細に至るまで、同社が引き渡すデータセットのすべてについて説明を求められるべきだということだ。

法制化においてこのようなステップを取らなければ、EUの新しいデジタル規則に大きな抜け穴ができ、Facebookはチェックマークを付ける構図を描くのに必要なあらゆるクエリを実行して、選択的に自己利益的なデータを提供することでうまく乗り切るだろう、とホーゲン氏は警鐘を鳴らした。

Facebookのように信頼できないプラットフォームでも規制が効果を発揮するためには、市民社会組織や外部の研究者たちの幅広いエコシステムからの多層的で動的かつ継続的なインプットが必要だと同氏は提言した。新たに発生してくる弊害を掌握し、法律が意図した通りに機能していることを確保するためだ。

AIがもたらすインパクトに関して求められている説明責任を真に果たすためには、現在DSAが提案している「吟味された学識者」だけではなく、より広範な分野の外部専門家にプラットフォームデータを提供することで、監視に対する広い視野を持つべきだと同氏は強く要請した。

「Facebookがデータで偽ることは明らかです」と同氏は欧州議会で語っている。「DSAの導入を奨励します。Facebookはデータを提供する際、その取得方法を示す必要があります【略】データを引き出すために使用したプロセス、クエリ、ノートを開示することが極めて重要です。これを確認できない限り、提供された情報を信頼することはできません」。

ホーゲン氏は単に警告を発するだけではなかった。同氏はさらに賛辞を重ね、欧州議員たちに次のように伝えた。「欧州がこれらのプラットフォームを規制する上で重要な役割を担うことを強く信じています。欧州は活気に満ちた、言語的に多様な民主主義国家だからです」。

「言語的にも民族的にも多様な4億5000万人のEU市民のためのDSAの権利を獲得すれば、世界に向けたゲームチェンジャーを創出できます。ビジネスのオペレーションに対する社会的リスクの評価を各プラットフォームに義務づけることで、構築するプロダクトやその構築方法の決定は、利益の最大化だけに基づくものではなくなります。言論の自由を保護しつつ、リスクに対処する体系的なルールや基準を確立し、透明性、監視、執行がどのように機能すべきかを世界に示すことができるでしょう」。

「プラットフォームは自社がどのような安全システムを持っているのか、それらの安全システムがどのような言語に対応しているのか、言語ごとのパフォーマンスを明らかにしなければなりません。これを確実にすることが、深刻に、切実に求められています」と同氏は続け、包括的な情報開示の必要性に関する自身の主張を具体化した。「正直なところこれは欧州人の大多数にとって危険なことなのだろうか?と思われるかもしれません」。

ホーゲン氏によると、このようなアプローチは、そのプラットフォームが稼働するすべての市場と言語にまたがる弊害に対処する上で必要な「言語に依存しないコンテンツ中立的なソリューション」をFacebookに迫ることで、欧州を超えた規模のメリットをもたらすという。

Facebookの(限られた)安全予算における偏り、つまりどれだけの予算が英語圏の市場に向けられているのか、そして / または規制を恐れている少数の市場に向けられているのかという点は、Facebookの非常に多くの内部文書が漏洩したことで増幅された核心的な問題の1つである。そして同氏は、FacebookのAIモデルに状況に応じた透明性を持たせることで、強力なプラットフォームがどのように運用されているのか(そして何を優先するのか、何を優先しないのか)というグローバルな公平性の欠如に対処できると提言。そのためには一般的なパフォーマンス指標に加え、市場、言語、安全システム、そしてターゲットを絞ったコホート単位においても、詳細な情報が必要になると指摘した。

安全性を体系的な要件としてFacebookに取り組ませることは、欧州全域の市場でプラットフォームが引き起こす問題を解決するばかりでなく「世界の脆弱な地域に住んでいて、あまり影響力を持たない人々のために声を上げることにもなる」と同氏は主張する。そして次のように言い添えた。「世界で最も言語的な多様性に富む地域は、往々にして最も脆弱な地域であり、欧州が介入する必要性を抱えています。欧州は影響力を有しており、そうした地域の人々のために真に力を発揮できるのです」。

ホーゲン氏の発言の多くは以前の証言や記者会見でもお馴染みのものであった。一方、質疑応答では多くのEU立法者たちが、有害なコンテンツの増幅というFacebookの問題がマイクロターゲット / 行動広告(当議会で活発に議論されている)の全面禁止により解決されるのではないか、という論点に同氏の声を引き込もうとした。これによりアドテックの巨人は、背後にある人々の情報をデータ駆動型操作を通じて利益を得るために使用することができなくなるだろう、ということだ。

これについてホーゲン氏は異議を唱え、規制当局が決定するのではなく、人々が自分でターゲティング広告の有無を選択できるようにすることを支持すると述べた。

全面禁止の代わりに、同氏は「特定の事柄や広告は【略】実際に規制される必要があります」と提案し、規制の対象となる領域の1つとして広告料金を挙げた。「現在のシステムはヘイトを助成しています。つまり、ヘイト的な政治広告を掲載する方が、そうではない広告を掲載するよりも5倍から10倍安いのです。それを考えると、広告料を均一にする必要があると思います」と同氏は説明した。「ただし、特定の人をターゲットにした広告を規制すべきであるとも考えています」。

「ご存じかどうかわかりませんが、特定の広告について100人のオーディエンスをターゲットにすることも可能です。それが悪用されていることはまず間違いないと思います。政治広告に過剰にさらされているのはどのような人かを分析したところ、驚くことではありませんが、最も影響を受けているのはワシントンD.C.の人々で、それは極端に過度な露出状態です。私たちは月に何千もの政治広告について話し合っています。ですから、特定の人々を彼らの認識なしにターゲットにするメカニズムを持つこと【略】は容認できないと私は考えます」。

ホーゲン氏はまた、Facebookはサードパーティのデータソースを利用して、広告ターゲティング目的でユーザーのプロファイルを充実させていることに言及し、その利用を禁止するよう主張した。

「プロファイリングとデータ保持に関して、サードパーティのデータを取得することを許可すべきではないと思います。Facebookはクレジットカード会社やその他の形態と協働していますが、これは彼らの広告の収益性を根底から高めています」と同氏は述べ、次のように付け加えた。「データソースと連携する際にはその都度承諾する必要があると思います。人々は、Facebookに自分たちのデータの一部があることを知ればとても不愉快に感じるはずです」。

しかし、行動広告ターゲティングに関しては、全面禁止の支持を慎重に避けている。

それはこのセッション中に生じた興味深い波紋だった。この問題にはEU内部でモメンタムがあり、それにはホーゲン氏自身の内部告発が地域の立法者たちのFacebookに対する懸念を増幅させた結果としての影響も含まれていた。そしてホーゲン氏はそれを喚起するのに貢献したかもしれないのだ(しかしそうしないことを選んだ)。

「ターゲット広告に関しては、人々がどのようにターゲティングされるかを選択できるようにすべきであると強く提言します。そして、人々に選択を強要するダークパターンを禁止することを推奨します」と同氏はある回答の中で述べている(しかし「ダークパターン設計」のようなシニカルで多面的な要素に対し、規制当局がどのようにして有効な法律を作ることができるのかについての詳細には触れていない)。

「プラットフォームは、そのデータをどのように使うかについて透明である必要があります」と同氏は自身の提案のすべてを包含する本質を伝えてから、次の提案を繰り返すことに依拠した。「すべての政治広告に均一の広告レートを提供するようプラットフォームに義務づけるポリシーを公表すべきであることは、私が強く提唱するところです。政治広告でヘイトを助成すべきではありません」。

行動広告を禁止することに反対する同氏の主張は、規制当局が完全に包括的なプラットフォームの透明性を達成することに集約されている(むしろそれに依存している)ようだ。それは、Facebook(およびその他の同業各社)が人々のデータを使って実際に行っていることの正確な実態を提示できること、つまり、ユーザーがそのようなターゲティングを望むかどうかについて真の選択ができるようにすることだ。したがって、全面的な説明責任の遂行が重要な意味を持つ。

しかしセッションの別の局面で、それは子どもたちがFacebookのようなプラットフォームによるデータ処理に本当の意味で同意できるかどうかを尋ねられた後だったが、ホーゲン氏は、子どもはもちろんのこと、大人たちも、Facebookが自分たちのデータで何をしているのかを(現時点で)理解できているのか疑問であると主張した。

「自分がどのような情報をトレードしているのかを子どもたちが理解できるかということに関してですが、大人である私たちはほぼ間違いなく、何をトレードしているのかを理解していないと思います」と同氏は議員たちに語った。「アルゴリズムに何が含まれているのか、子どもたちにインフォームドコンセントが与えられるような形でターゲット設定されているのか、私たちにはわかりません。インフォームドコンセントが与えられているとは思えませんし、子どもたちの能力も限られています」。

これを踏まえると、同氏の信念、つまり「前述のような包括的な透明性は可能であり、すべての大人が操作的な行動広告を受け入れるか否かの判断を真に情報に基づいて下すことができるデータ駆動型操作、という普遍的に包括的な構図を描き出すだろう」との考えは、何というか、やや希薄に見える。

ホーゲンの論理、すなわち、規制当局がユーザーに提供されているあらゆるものについて不適切 / 不正確に伝達すること、および / または規制当局がユーザーに自らのリスクと権利に関する適切かつ普遍的な教育を保証していないことを含む、根本的な透明性の欠如に対して同氏が提案した解決策に従うならば、データ駆動型の搾取が(今まさに法律に組み込まれているフリーパスで)続いていくリスクがあることは確かであろう。

ここでの彼女の議論は一貫性に欠けているように感じられた。行動広告を禁止することに対する同氏の反対、そしてそれゆえに、ソーシャルメディアの操作的な有害性を助長する1つの根本的なインセンティブに対処することに反対している同氏の主張は、論理的というよりむしろイデオロギー的なものであるかのようだ。

(確かに、世界中の政府は同氏が主張しているような高い機能を備えた「完全な」監視機能を緊急に導入することができるという信念の飛躍は必要なように思える。とはいえ、同時に同氏は、何週間もかけて立法者たちに対し、プラットフォームは非常にコンテキストに特化した、データが詳細に記述されたアルゴリズムマシンとしてしか解釈し得ないものだと強く訴えてきた。同氏が今回の質疑応答で述べたようなFacebookの「驚くべき」データ量を考えれば、目の前にあるタスクの規模の大きさはいうまでもない。Facebookからデータを生の形で取得した場合、規制当局にとってあまりにも膨大すぎることが示されている)

これはおそらく、権利の専門家ではなく、データサイエンティストに期待される視点でもあるだろう。

(前述のような、行動広告の禁止に対する同氏の即座の拒否は、害が流れてそれが感じられるマシンの外にいるのではなく、ブラックボックスに内通してアルゴリズムやデータを操作することに専念してきたプラットフォームのインサイダーに見られるような、一種のトリガー反応といえよう)

セッション中の別の場面で、ホーゲン氏は、ソーシャルメディアの問題に対する唯一の万能薬として徹底的な透明性を求める自身の主張をさらに複雑にした。EUがこのような複雑な問題の施行を最大27の国家機関に任せることに対して警告を発した。

もしEUがそうするなら、DSAは失敗するだろうと同氏は示唆した。代わりに立法者たちに助言したのは、Facebookレベルのプラットフォームを包み込むために必要だと同氏が指摘する、非常に詳細で階層化された動的なルールの実施に対処するための中央EUの官僚機構を作ることだった。同氏はさらに、自身のような元業界のアルゴリズムの専門家たちがそこに「居場所」を見つけ、彼らの専門的な知識への支援や「公的な説明責任に貢献することによる還元」が推進されることを提唱した。

「アルゴリズムが実際にどのように機能し、その結果がどのような結果をもたらすのか、これらの分野の正式な専門家の数は、世界的に見て非常に少ないのが現状です。この分野に修士号や博士号はありません。そのため、分野に携わる企業の1つで働き、社内で実地訓練を受ける必要があります」と同氏は説明し、さらに次のように付け加えた。「この機能を27の加盟国に委譲した場合、1つの場所でクリティカルマスを獲得できなくなることを、私は深く懸念しています」。

「十分な専門家を確保し、それを広く分散させることは、非常に難しいでしょう」。

プラットフォームが人々の目をたやすく欺くことを防ぐためには、利己的なデータセットや「脆弱な」AIの中の悪質な詳細を明らかにする必要があると立法者たちに警告する声が非常に多い中、広告に個人データを使用しないなどの単純な制限を規制当局が実際に設定することにホーゲン氏が反対していることは、教訓的であるように思える。

同氏はまた、規制当局はプラットフォームがデータを使って実行できることに制限を設けるべきか、および / またはアルゴリズムに使用できるインプットに制限を設けるべきかについて、欧州議会議員らから直接質問を受けた。この質問に対しても、同氏は制限ではなく透明性を優先した(しかし他のところでは、前述のように同氏は、広告プロファイリングを充実させる目的でFacebookがサードパーティのデータセットを入手することは少なくとも禁止すべきだと主張している)。

結局のところ、このアルゴリズムの専門家のイデオロギーには、データ駆動型ソフトウェアマシンのための効果的な規制を考え出す方法について、ブラックボックスの外で考えることに関してはいくつかの盲点があるようだ。

民主主義社会がデータマイニングテクノロジーの巨人たちからコントロールを奪い返すためには、ある程度の急ブレーキは必要なことかもしれない。

したがって、ホーゲン氏の最大のアドボカシーは、デジタル規制を致命的に台無しにする抜け穴のリスクに関する極めて詳細な警告であろう。ここでのリスクが多元的であるという点で、同氏は間違いなく正しい。

同氏はプレゼンテーションの冒頭で、もう1つの抜け穴の可能性を指摘した。立法者たちに、ニュースメディアのコンテンツをDSAから除外しないよう求めた(これも議員たちが検討している修正案の1つだ)。「コンテンツ中立性のルールを作るのであれば、本当に中立でなければなりません」と同氏は主張した。「何も選ばれず、何も除外されないということです」。

「現代の偽情報キャンペーンはいずれも、システムを操作することで、デジタルプラットフォーム上のニュースメディアチャンネルを不当に利用していくでしょう」と同氏は警告した。「プラットフォームがこれらの問題に取り組むことをDSAが違法とする場合、私たちは法の有効性を損なうリスクを負うことになります。実際、今日の状況よりも状況が悪化する可能性があります」。

質疑応答の中でホーゲン氏は、いわゆる「メタバース」の構築に向けて計画されているFacebookの方向転換に照らして、規制当局が直面するであろう新たな課題について議員たちからいくつかの質問を受けた。

関連記事:ザッカーバーグ氏は110兆円規模のフェイスブックを「メタバース」企業にすると投資家に語る

これについて、同氏は議員らに対し「非常に懸念している」と述べ、家庭やオフィスでのメタバース供給センサーの普及によってデータ収集量が増加する可能性に警鐘を鳴らした。

同氏はまた、Facebookがワークプレイス用ツールの開発に注力していることが、ビジネスツールに関して従業員がほとんど発言権を持っていないことを考えると、オプトアウトが選択肢にさえならない状況をもたらすのではないかという懸念を表明した。これは人々が将来、Facebookの広告プロファイリングと、生計を立てることのどちらかを選ぶというディストピア的な選択に直面する可能性を示唆している。

Facebookが「メタバース」に新たな焦点を当てたことは、ホーゲン氏がFacebookの「メタ問題」と呼んだものを浮き彫りにしている。これはつまり、同社が現在のテクノロジーによって生じた問題を終わらせて修復するよりも「先に進む」ことを優先しているということでもある。

規制当局はこのジャガーノート(圧倒的な力を持つ存在)に対して、安全性に重点を置いた新たな方向性を計画させるためのレバーを投入しなければならない、と同氏は強調した。

​​画像クレジット:BENOIT DOPPAGNE/BELGA MAG/AFP / Getty Images under a license.

原文へ

(文:Natasha Lomas、翻訳:Dragonfly)