Uberがドライバーの顔認識チェックの利用で圧力を受ける

次の記事

自動運転技術のオーロラがボルボと提携、高速道路を自律走行するトラックの製造を目指す

Uberがドライバーの識別システムに顔認識テクノロジーを使用していることが英国で問題になっている。ドライバーが誤って識別され、ロンドン交通局(TfL)から営業ライセンスを取り消されたケースが複数見つかったことから、App Drivers & Couriers Union(アプリ運転手および配送業者組合、ADCU)とWorker Info Exchange(労働者情報取引所、WIE)は、Microsoft(マイクロソフト)に対しこの配車サービス大手へのB2B顔認識サービスの提供を停止するよう求めている。

同組合によると「顔認識やその他の身元確認の失敗」により、TfLによるライセンス取り消し処分を受け、ドライバーが職を失ったケースが7件確認されたという。

Uberは、2020年4月に英国で「リアルタイムIDチェック」システムを立ち上げた際「ドライバーのUberアカウントが、強化されたDBS(開示および禁止サービス、いわゆる無犯罪証明)チェックに合格したライセンス保持者以外に使用されていないことを確認する」としていた。またその際、ドライバーは自分の自撮り写真を「写真照合ソフトによる検証か、人間の審査員による検証かを選択できる」とも述べていた。

ADCUによると、ある誤認のケースでは、ドライバーはUberに解雇され、TfLにライセンスを取り消されたという。同組合は、この組合員の身元証明を支援し、UberとTfLの決定を覆すことができたと付け加えている。しかし、マイクロソフトが2020年夏のBlack Lives Matter(黒人の命の大切さを訴える)運動を受けて、米国の警察へのシステム販売を見合わせたことを挙げ、同社の顔認識テクノロジーの精度に対する懸念を訴えている。

顔認識システムは、識別の対象が有色人種の場合、特に高いエラー率になることが研究で明らかになっており、ADCUは、マイクロソフトのシステムが20%ものエラー率になる可能性があるという2018年のMIT(マサチューセッツ工科大学)の研究結果を引用している(肌の色が濃い女性の場合に最も悪い精度となった)。

同組合は、ロンドン市長に書簡をお送り、ハイブリッドリアルタイム個人認証システムの結果を根拠としたUberの報告書に基づく、TfLのプライベートハイヤーに対するライセンスの取り消しを、直ちにすべて見直すことを要請しているという。

マイクロソフトは、Uberに対する顔認識テクノロジーのライセンスの停止が要請されたことについて、コメントを求められている。

【更新】Microsoftの広報担当者は「MicrosoftはFace APIのテストと改善に力を入れており、あらゆる年齢層における公平性と精度に特に注意を払っている。また、お客様がシステムの公平性を評価できるよう、最適な結果とツールを得るための詳細なガイダンスも提供しています」と述べた。

ADCUによると、Uberは英国の首都での営業ライセンス回復のために実施した対策パッケージの一環として、労働力の電子監視および識別のシステムの導入を急いだという。

2017年、TfLはUberに営業ライセンスの更新を認めないという衝撃的な決定を下した。当局はUberの営業形態に対する規制圧力を強め、2019年にはUberがプライベートハイヤーライセンスを更新するのは「適切ではない」と再び判断し、この決定を継続した。

関連記事:安全性懸念でUberのロンドンでの営業免許更新を当局が認めず

TfLは、Uberのライセンス更新を保留した主な理由として、安全性とセキュリティの欠如に言及した。

UberはTfLの決定に対して法廷で異議を唱え、2020年に別のライセンス停止に対する控訴で勝訴したが、その際に与えられた更新期間はわずか18カ月だった(正規の5年ではない)。しかも数多くの条件が並べ立てられており、Uberは依然としてTfLの品質基準を満たすよう強い圧力を受けている。

関連記事:英裁判所がUberのロンドンでの事業継続を許可、ただし18カ月のみ

しかしADCUによると、現在、労働運動家らは、TfLがUberに導入を促した労働力の監視テクノロジーにおいて、規制基準が設定されていないことを指摘するなど、別の方向からもUberに圧力をかけているという。また、TfLによる平等性インパクト評価も行われていないと、同組合は付け加える。

WIEはTechCrunchに対し、UberのリアルタイムIDチェックの後に解雇され、TfLから免許を取り消されたImran Raja(イムラン・ラジャ)氏というドライバーのケースで、同団体がUberを相手取り、同氏への差別的扱いに対する訴えを起したことを明らかにした。

同氏のライセンスはその後回復したが、それは、ADCUがこの措置に異議を唱えた後のことだ。

WIEによると、Uberの顔認識チェックで誤認された、他の何人かのUberドライバーらも、TfLによるライセンス取り消しを英国の裁判所に訴えるとのことだ。

TfLの広報担当者は、顔認識テクノロジーの導入はUberのライセンス更新の条件ではなく、Uberが十分な安全システムを備えていることが条件だと話す。

「ドライバーの身元確認」に関する暫定ライセンスの関連条項には、次のように記されている。

ULL(Uber London Limited、ウーバー・ロンドン有限責任会社)は、アプリを使用するドライバーがTfLからライセンスを取得した個人であり、ULLからアプリの使用を許可された個人であることを確認するために、適切なシステム、プロセス、手順を維持しなければならない。

また、TechCrunchでは、TfLと英国情報コミッショナーズオフィス(ICO)に、UberがリアルタイムIDチェックを開始する前に実施したというデータ保護影響評価のコピーを求めており、入手した場合にはこのレポートを更新する。

一方、Uberは、ドライバーの個人認証に顔認識テクノロジーを使用することは、失敗を防ぐために手動(人間)で審査するシステムを導入しているため差別を自動化する危険性がある、という組合の主張に異議を唱えている。

しかし、同社はそのシステムがラジャ氏のケースでは明らかに失敗したことを認めている。同氏は組合が介入したことでUberのアカウントを取り戻し、そして謝罪を受けた。

Uberによると、同社のリアルタイムIDシステムでは、ログイン時にドライバーが送信する自撮り写真の「画像照合」が自動で行われ、システムがその自撮り写真とファイルに保存されている(1枚の)写真を比較する。

自動照合で一致しない場合は、システムは3人の人間による審査委員会に照会し、手動でチェックが行われる。Uberによると、最初の審査委員が承認できない場合は、2番目の審査委員にチェックが委ねられるという。

このテクノロジー大手は声明の中で次のように述べている。

当社のリアルタイムIDチェックは、正規のドライバーや宅配業者が本人のアカウントを使用していることを確認することで、アプリを利用するすべての人の安全と安心を守るように設計されている。今回提起された2つの事例は、技術的な欠陥によって引き起こされたものではない。実際、そのうちの1つは当社の不正防止ポリシーに違反していることが確認され、もう1つは人為的なミスだった。

テクノロジーやプロセスに完璧はなく、常に改善の余地があるが、ドライバーの抹消を決定する前に最低2回の人間による手作業での審査を保証する徹底したプロセスと併用されるこのテクノロジーは、公正であり、当社のプラットフォームの安全性にとって重要であると考えている。

Uberは、ADCUが言及した2つのケースのうち、1つのケースでは、リアルタイムIDチェックの際に、ドライバーがライブIDチェックに必要な自撮り写真を撮る代わりに、写真を見せていたという。つまり、ドライバーが正しい手順に従っていなかったため、IDチェックが失敗したことは間違いではないと主張している。

もう1つのケースについて同社は、人手による審査チームが(二度にわたって)誤った判断を下したヒューマンエラーに責任を負わせている。ドライバーの外見が変わり、自撮り写真を送ってきた(現在はひげを生やした)男性の顔が、同社がファイルしていた、きれいにひげを剃った顔写真の人物と同一人物であると審査委員が認識できなかったと述べている。

Uberは、ADCUが言及した他の5つのIDチェックの失敗で何が起こったのか詳細を説明できなかった。

また、同組合がIDチェックで誤認されたとしている7人のドライバーの民族性についても明言を避けた。

Uberは、将来起こりうる人為的ミスによる誤認識を防ぐためにどのような対策をとっているのかという質問に対しては、回答を拒否した。

Uberは、ドライバーがIDチェックに失敗した場合、TfLに通知する義務があると述べている。これは、ラジャ氏のケースのように、規制当局がライセンスを停止することにつながる措置だ。したがって、IDチェックプロセスに偏りがあると、その影響を受けた人の働く機会に不均衡なインパクトを与える危険性があることは明らかだ。

WIEは、顔認識チェックのみに関連してTfLのライセンスが取り消されたケースを3件把握しているという。

また同団体は「[Uber Eats]の宅配業者には、他にも契約を解除された者もいるが、TfLのライセンスを取得していないため、それ以上の措置はとられていない」と話す。

TechCrunchもまた、Uberに、ドライバーの契約解除が何件行われ、TfLへの報告で何件が顔認識に基づいたかを尋ねたが、ここでもこのテクノロジー大手は回答を拒否した。

WIEは、Uberが地理的な位置情報に基づいて行う契約解除に、顔認識のチェックが組み込まれている証拠があると話す。

あるケースでは、アカウントを取り消されたドライバーは、Uberから位置情報のみに関する説明を受けていたが、TfLがUberの証人調書を誤ってWIEに送ってしまったことがあり、その証人調書には「顔認識の証拠を含めていた」と述べている。

このことは、UberのIDチェックにおける顔認識テクノロジーの役割が、同社がリアルタイムIDシステムの方法を説明する際に示したものよりも広いことを示唆している(やはり、Uberはこの件に関するフォローアップの質問には答えず、公式発表やそれに関わる背景以上の情報を提供することを拒否した)。

しかし、UberのリアルタイムIDシステムに限ってみても、機械の提案に加えて、より広いビジネス上の責務(安全性の問題で規制順守を証明する緊急の必要性など)の重さを前にして、Uberの人間の審査スタッフが実際にどれだけのことを言えるか疑問が残る。

WIEの創設者であるJames Farrer(ジェームス・ファラー)氏は、差別問題が指摘されている顔認識テクノロジーのセーフティネットとしてUberが講じている人間によるチェックの質について疑問を呈する。

「Uberは、自動化された意思決定に対して法的にもっともらしい否認機能を用意しているだけなのか、もしくは意義のある人間の介入があるのか」と同氏はTechCrunchに語り「これらすべてのケースで、ドライバーは停職処分を受け、専門家チームが連絡を取ると言われる。そして大抵、1週間ほど過ぎると、誰とも話すことなく永久に停止されてしまう」と続ける。

「顔認識システムが不一致と判断すると、人間には機械を追認するようなバイアスがかかるという研究結果がある。人間は、機械を無効にする勇気を持つ必要がある。そのためには、機械を理解し、その仕組みと限界を理解し、機械の判断を覆す自信と経営陣のサポートが必要だ」とファラー氏は述べ「ロンドンで仕事をするUberのドライバーには、Uberのライセンスに対するリスクが付きまとうが、その対価は何だろうか。ドライバーには何の権利もなく、過剰に存在する消耗品だ」と続ける。

同氏はまた、Uberが以前法廷で、疑わしいケースではドライバーに有利な判断よりも、顧客の苦情を避けられる判断を優先すると証言したことを指摘する。そして「そうであれば、Uberが顔認識についてバランスのとれた判断をすると本当に信頼できるだろうか」と問いかける。

さらにファラー氏は、UberとTfLが、アカウントを無効にする根拠とした証拠をドライバーに開示せず、決定の実際の内容について不服を申し立てる機会を与えないことに疑問を呈している。

同氏は「私見だが、結局すべてテクノロジーのガバナンスの問題だ」とし「マイクロソフトの顔認識が強力でほぼ正確なツールであることを疑っているわけではない。しかし、このテクノロジーのガバナンスは、知的で責任のあるものでなければならない。マイクロソフトは極めて賢明であり、この点に限界があることを認めている」と付け加える。

「Uberが自社の営業ライセンスを守るための代償として監視テクノロジーの導入を強いられ、94%のBAME(Black、Asian and minority ethnic、黒人・アジア人・少数民族)の労働者を不当解雇から守る労働者の権利を無力にする施策など本末転倒だ」と語気を強める。

この顔認識に関わるUberのビジネスプロセスへの新たな圧力は、ドライバーは英国法における労働者ではなく「自営業者」であるというUberの言い逃れに対する長年の訴訟の末、ファラー氏をはじめとする元Uberドライバーや労働権運動家が大きな勝利を収めた直後のことだ。

現地時間3月16日火曜日、Uberは、2021年2月に最高裁がUberの上告を棄却したことを受け、今後はドライバーを市場での労働者として扱い、同社からの福利厚生を拡大すると述べた。

関連記事:Uberは最高裁判所の判決を受けて英国のドライバーを「労働者」待遇にすると発表

しかし、訴訟当事者は、Uberの「取引」ではドライバーがUberアプリにログオンしたときから労働時間を算出すべきとの最高裁の主張を、Uberが無視していると即座に指摘した。対するUberは、ドライバーが仕事を引き受けたときに労働時間を計算する資格が発生すると述べている。つまり、Uberは依然として、運賃収入を待つ時間についてはドライバーへの支払いを避けようとしているのだ。

そのためADCUは、Uberの「オファー」は、ドライバーが法的に受け得る報酬から40~50%下回ると見積もっており、Uberドライバーが公正な取引を得られるように法廷で闘い続けると述べている。

EUレベルでは、EUの議員らがギグワーカーの労働条件を改善する方法を検討しているが、このテクノロジー大手は現在、プラットフォーム業務に有利な雇用法を作り上げるために動いており、労働者の法的基準を下げようとしていると非難されている

2021年3月のUberに関わる他のニュースとしては、オランダの裁判所が、ADCUとWIEの異議申し立てを受けて、同社にドライバーに関してより多くのデータを引き渡すように命じたことだ。ただし、裁判所は、さらに多くのデータを求めるドライバーらの要求の大半を却下している。しかし注目すべきことは、ドライバーらがEU法の下で保証されたデータ権を利用して情報をまとめて入手し、プラットフォームに対する団体交渉力を高めようとすることに裁判所が異議を唱えなかったことだ。これは、ファラー氏が労働者のためにデータ信託を立ち上げたことで、より多くの(そして、より慎重に言葉を選べば)挑戦への道が開かれたことを意味する。

請求人はまた、Uberが不正行為に基づくドライバー解雇の判断にアルゴリズムを使用していることについて、法的または重大な影響がある場合、自動的な決定のみに左右されない権利を規定する、EUのデータ保護法の条項に基づいて検証を求めた。このケースで裁判所は、不正に関わる解雇は人間のチームによって調査され、解雇の決定には有意な人間の意思決定が関与しているというUberの説明を言葉通りに受け入れた。

しかし、プラットフォームのアルゴリズムによる提案・決定から始まり人間による「有意な」ぬれぎぬ・見落としに至る問題は、新たな争点となりつつある。そこではユーザーのデータを神のように崇め、完全な透明性にアレルギーを持つ、強力なプラットフォームがもたらす人間への影響や社会的不均衡を規制するための重要な戦いが繰り広げられるだろう。

Uberの顔認識にともなう解雇に対する直近の異議申し立ては、自動化された判断の限界と合法性に対する調査が始まったばかりであり、審判が下るまでには程遠いことを示している。

Uberがドライバーのアカウント停止に位置情報を使用していることも、法的な問題として挙げられている。

現在、欧州連合の機関で交渉が行われているEU全体に適応される法規制は、プラットフォームの透明性を高めることを目的としており、近い将来、規制当局による監視やアルゴリズムによる監査さえもプラットフォームに適用される可能性がある。

2021年3月第2週、Uberの訴訟に判決を下したアムステルダムの裁判所は、インドの配車サービス会社Ola(オラ)に対しても、UberのリアルタイムIDシステムに相当する顔認識ベースの「Guardian(ガーディアン)」システムに関するデータの開示を命じた。裁判所は、オラは現在提供しているものよりも広範囲のデータを請求人に提供しなければならないとし、その中には、同社が保持しているドライバーの「詐称が疑われるプロファイル」や、同社が運営する「ガーディアン」監視システム内のデータの開示も含まれている。

こういった状況からファラー氏は「いずれにせよ、労働者は透明性を手に入れることができる」と自信を示す。それに、Uberの労働者への対応をめぐって英国の裁判所で何年も闘ってきた同氏のプラットフォームとのパワーバランスを正そうとする粘り強さは疑うべくもない。

カテゴリー:パブリック / ダイバーシティ
タグ:Uberイギリス顔認証

画像クレジット:Getty Images

原文へ

(文:Natasha Lomas、翻訳:Dragonfly)