英国のUber運転手らがアルゴリズム説明責任をめぐりUberを提訴

次の記事

シンガポールのGrabが一般消費者向けにマイクロ投資やローンの金融サービスを提供へ

英国のUber(ウーバー)運転手の一団が、オランダにある同社の子会社に対し、個人データを開示しアルゴリズムに関するアカウンタビリティー(説明責任)を果たすよう求める訴えを起こした

ウーバーの運転手とUber Eats(ウーバーイーツ)の配達業者は、同社がプロファイリング、およびデータに基づくアルゴリズムによって、欧州のギグワーカーをどのように管理しているかを公開するよう求めるこの訴訟に加わることができる。この訴訟を起こしたプラットフォーム労働者たちはまた、EUデータ保護法で定められている、データ開示に関する他の権利も行使することを求める考えだ。

折しも欧州委員会が人工知能の利用をリスクの重大さに基づいて規制するための枠組みを早急に策定しようとしている中で起きた今回の訴訟は、既存の法的な保護体制の下で、自動化された決定がどこまで規制されているのかを確認できる非常に興味深い事例になりそうだ。

AI技術の利用事例の多くに適用されるのは、今後も引き続き、現存の一般データ保護規則(GDPR)で定められている保護規制のみになると予想される。そのため、最先端のデータドリブン型プラットフォームという文脈において現行の保護体制の規制力がどこまで及ぶかを確認することは重要である。

欧州委員会はまた、今年末にも成立させたいと考えている「デジタルサービス法」によって、プラットフォーム運営企業の責任を明確化する規制の強化を図ろうとしており、その一環として、データモビリティやプラットフォーム労働者の権利などの関連事項についても積極的に取り組んでいる。そのため、今回のウーバーに対する訴訟は非常にタイムリーだと言える。

ロンドン、バーミンガム、ノッティンガム、グラスゴーのウーバー運転手で構成される原告団は、本日(米国時間7月20日)、アムステルダムの地方裁判所で申し立てたこの訴訟を通して、巨大テック企業ウーバーがGDPRを順守していないことを訴え、直ちにGDPRを順守することと、順守が遅れる場合には罰金として1日あたり1万ユーロ(約124万円)を支払うことを同社に命ずる判決を求める考えだ。

原告団はまた、ウーバーのプラットフォームが持つ個人データを、同原告団が設立を希望するデータトラスト(非営利団体が運営)に移すことを可能にする要求に従うよう同社に命じる判決も求める予定である。

Uber U.K.(英国ウーバー)側は、データ開示要求に従うべく鋭意努力していると話し、さらに、要求されたデータを開示できない場合はその理由を説明している、と主張している。

データ権はAIのブラックボックスをこじ開けられるか

EU市民には、GDPRに基づき、自分の個人情報の開示を求める権利が与えられている。これには、自分が提供したデータの複製を他の場所で再利用するために入手する権利も含まれている。

GDPRではさらに、完全に自動化された決定プロセスに服することによって法的あるいは類似の側面で重大な影響を受ける個人に付加的なデータ開示要求権を与えることが定められている。これは今回のウーバー訴訟にも関係している。なぜなら、同社のプラットフォームでアルゴリズムが配車・配達リクエストの中からどのように仕事を割り振るか(または割り振るのを控えるか)によって、運転手や配達業者の収入額が決まるからだ。

2年前にTechCrunchの記事でも書いたように、GDPR第22条は、AIブラックボックスが人間の動き方を決める力を制限する方法を定めた条項である。同条項では、影響を受ける個人のデータを処理する際のロジックについて情報を提供することをデータ管理者に義務づけている。しかし、データ管理者がどの程度詳しく情報を提供すべきかについては明確に述べられていないため、今回のウーバー訴訟は、GDPR第22条の限界はどこなのかを見きわめ、GDPRで規定されているより全般的な透明性およびデータ開示要求権についても確認できる機会になりそうだ。

ウーバーの運転手で、今回の訴訟を支持するひとりであるJames Farrar(ジェームズ・ファーラー)氏によると、この訴訟はGDPRに定められているすべての権利を対象にしているという。ちなみに同氏は、英雇用審判所がウーバーの運転手に雇用された労働者としての権利があることを認めるという画期的な判決が下された訴訟でも、原告団を代表する人物のひとりだった(関連する報道によると、2016年のこの判決後もウーバーが控訴を続けたため、この件については英最高裁判所で明日から審理が始まる)。

原告団のウーバー運転手たちは昨年、同社に対して「データ主体によるデータ開示要求」を行い、同社のアルゴリズムのプロファイルとパフォーマンスが運転手を管理している方法に関する詳細なデータを開示するよう求めた。しかし原告団はプレスリリースの中で「複数の運転手が、まったく不備のない要求を提出し、要求対象のデータについて明確で詳細な説明を提示したにも関わらず、データはほとんど、あるいはまったく開示されなかった」と書いている。

ファーラー氏は、昨年ウーバーが同氏に対していくらかのデータを開示したことを認めているが、それも同氏いわく「何度も継続して要求し続けた」末のことだったという。また、開示された情報には欠落している部分がいくつもあった。例えば、GPSデータは勤務した2年間のうちの1カ月分しか開示されず、乗車完了後に乗客が同氏に対して行った評価および同氏のプロファイルや関連付けられているタグについては、何の情報も開示されなかった。

ファーラー氏はTechCrunchの取材に対し、「ウーバーが私のプロファイル情報を持っていることは分かっているが、彼らはそれを開示したことがない」と語り、パフォーマンスタグについても同じ状況だと付け加えた。

「GDPRによると、ウーバーはデータ処理の根拠について説明する義務がある。しかし、運転手を管理するアルゴリズムや、そのアルゴリズムが運転手にどのように作用するのかについて、同社はこれまでまともな説明を行ったことがない。私自身も、例えば私のプロファイル情報に関連付けられている電子的なパフォーマンスタグがどのように処理されているのかという点について、ウーバーから説明を受けたことは一度もない」(ファーラー氏)

「偽の『不正使用』申し立てがウーバーのシステムによって検知された結果、運転手としての登録を解除された人がたくさんいる。これもまた法律で透明性を義務づけられている領域だが、ウーバーはその法律を順守していない」(ファーラー氏)

今回の訴訟は、App Drivers & Couriers Union(アプリ運転手および配送業者組合、ADCU)も支持している。ADCUはウーバーの運転手が業務中にパフォーマンスを監視されていることも争点として取り上げるつもりだという。

ADCUはまた、ウーバーがパフォーマンスに関する電子タグ(「到着遅延・到着予定時刻オーバー」、「乗車拒否」、「態度」、「不適切な行動」など)を運転手のプロファイル情報にどのように関連付けてきたかを示す証拠を提示する予定だ。

「このことは、ウーバー運転手の雇用形態について世界各地の裁判所で行われてきた数多くの訴訟の中で同社が繰り返してきた『運転手は自営業者であるため管理統制の対象にはならない』という主張と矛盾する」と原告団はプレスリリースの中で付け加えている。

原告団側の弁護士であるEkker Advocatuur(エッカー法律事務所)のAnton Ekker(アントン・エッカー)氏は、発表した声明の中で、「Uber BV(ウーバーBV)はウーバーのプラットフォーム運営者としてオランダで登記されている企業であるため、オランダの裁判所には今、ウーバーがGDPRを確実に順守するよう見届ける重要な役割が課せられている。今回の訴訟は、ギグエコノミーの労働者が、労働者としての権利を向上させるためにデジタル権に訴える画期的な事例である」と述べている。

さらに、International Alliance of App-based Transport(国際アプリベース運輸労働者連合、IAATW)に加盟している労働者も、ADCUが「史上初の国際的なコラボレーション」と呼ぶこの訴訟を支持している。

今回の訴訟に関してTechCrunchがウーバーにコメントを求めたところ、同社からメールで以下のような回答が得られた:

当社のプライバシー担当チームは、個人が知る権利を持ついかなる個人データも要求に応じて開示すべく、鋭意努力しております。データが存在しない場合や、そのデータを開示することにより他の人が持つGDPRに基づく権利を侵害する場合など、特定のデータを開示できない時にはその理由を説明いたします。GDPRの下で、個人はその懸念についてウーバーのデータ保護責任者に申し立てる権利または各国のデータ保護関連当局に再審査を求める権利を保障されています。

ウーバーはまた、同社の運転手らが昨年行った「データ主体によるデータ開示要求」に対してはすでに回答済みであり、その後、それらの運転手からは何の連絡もない、とTechCrunchに語った。

さらに同社は、実際に法廷で申し立ての内容を確認するのを待ちたい、と付け加えた。

今回の訴訟を支援している前述の各団体は、原告団の運転手らが運営したいと考えているデータトラストに運転手のデータを引き渡すようウーバーに強く要請している。

実は、ファーラー氏が運営する非営利団体Worker Info Exchange(労働者情報取引所、WIE)が、団体交渉を行うためにデータトラストを設立したいと考えているのだ。

「当団体はデータトラストを設立したい考えだが、ウーバーが一貫性のある方法で情報を開示せず、設立準備の妨害を止めない現在の状況が続く限り、実現は難しい。最善の方法はAPIだ」とファーラー氏は語り、「しかし大きな問題は、99.99%の運転手が適切なデータ開示またはアルゴリズムに関する説明をほとんどあるいはまったく受けていないことだ」と付け加えた。

運転手側の弁護士の事務所ウェブサイトに掲載されている声明の中で、同事務所は、他のウーバー運転手も、データ開示要求を本人の代理で行う権限をWIEに委任すれば原告団に加わることができるとしている。以下がその声明の抜粋だ。

労働者情報取引所(WIE)は、大手プラットフォームではなく、そのようなプラットフォームの運営企業が毎日好調な業績をあげる原動力となっている人々、つまり労働者たちに有利に働くように、勢力の均衡を変えることを目指しています。

ウーバー運転手の方は、本人の代理でGDPRにデータ開示要求を行う権限をWIEに委任することにより、この訴訟に加わることができます。

原告の運転手らはさらに、クラウドファンディングサイトのCrowdjustice(クラウドジャスティス)で、訴訟費用3万ポンド(約410万円)を集めるキャンペーンも開始した。

今回の訴訟とそれがウーバーに与える影響について、Newcastle University(ニューカッスル大学)法学部のLilian Edwards(リリアン・エドワーズ)教授は、「この訴訟の争点がGDPR第22条であることを考えると、ウーバーは同社のアルゴリズムについて『適切なセーフガード』を配置していることを示す必要がある」と指摘する。

「GDPR第22条は通常、例えばウーバーのアルゴリズムのように、自動化された情報処理にのみ基づく決定が行われないように要求する、あるいはそのような決定を人間が行うことを要求する権利を付与するものだ。しかし今回の訴訟では、ウーバーが、それなりの成果を出していることを理由に、運転手との関わりにおいて同社のアルゴリズムは必要不可欠だったと主張する可能性がある」とエドワーズ氏はTechCrunchに語った。

「しかしこれでウーバーにとって問題がすべて解決するわけではない。同社は依然として『適切なセーフガード』を設ける必要がある。そのうち最大のものは、これまで散々議論されてきた、アルゴリズムの仕組みに関する説明を受ける権利だ。しかし、それをどのように実現できるのか、具体的な方法についてはまだ誰も知らない」(エドワーズ氏)

「アルゴリズムが動く大まかな仕組みについて一般的な説明をするだけで十分なのだろうか。労働者が求めているのはそんなことではなく、アルゴリズムが本人のデータに基づいてどのように決定を下しているか(場合によってはどのように本人にとってマイナスになる、あるいは不利になる決定を下しているか)を具体的に理解することである。ウーバーは、そんなことは無理に決まっている、今でも企業秘密を十分すぎるくらい開示している、と反論してくるかもしれない。それでも、GDPR導入後、ついにこれらの争点が徹底的に議論される機会が開けたことはすばらしいと思う」(エドワーズ氏)

英国のデータ保護当局International Commissioner Office(個人情報保護監督機関、ICO)のウェブサイトに掲載されている、GDPR第22条の規定に関するガイダンスには、データ管理者は「特定の決定に至ったロジックと、その決定が個人に意味する重大性および想定される影響について、意味ある説明を提供しなければならない」と記されている。

さらに同ガイダンスには、自動化された決定に服する個人は、GDPR第22条により、希望すれば同決定の結果について人間によるレビューが行われるよう要求する権利を有することが記されている。同条項はまた、アルゴリズムによる決定に異議を申し立てることを可能にしている。該当する方法で決定を自動化しているデータ管理者は、偏見と差別を防止するための措置を講じなければならない。

関連記事:Uberが公共交通機関向けソフトウェア開発のRoutematchを買収

カテゴリー:パブリック / ダイバーシティ

タグ:Uber 訴訟

[原文へ]

(翻訳:Dragonfly)