倫理(用語)

シリコンバレーが今必要とする、倫理を学ぶための新たな取り組み

次の記事

Amazonが悪徳業者追放のためビデオ会議で出店業者の身元確認をテスト

編集部注:本稿はLisa Wehden(リサ・ウェーデン)氏による寄稿記事だ。同氏は、仕事の未来に焦点をあてたベンチャーキャピタルファンドBloomberg Betaの投資家。ベルリンでEntrepreneur Firstを立ち上げた経験がある。

Apple(アップル)とGoogle(グーグル)は5月、iOSとAndroidで新型コロナウイルス検査で陽性となった人と接触のあった個人をわかるようにする追跡機能を発表する予定だ。

セキュリティの専門家は早くも、新型コロナウイルス(COVID-19)の陽性となったユーザーの個人情報が晒されたり、広告業者に追跡されやすくなったり、誤検出の餌食になるなどのプライバシーリスクの危険性を指摘している。

これらはテック産業の倫理に関するおなじみの議論に新しく生じた懸念だ。公衆衛生の監視と個人のプライバシーの間のトレードオフを、テクノロジーはどう考えるべきなのか? 誤情報と言論の自由への取り組み方は? Facebook(フェイスブック)やその他のプラットフォームは今までにないほど情報の質を評価する上で重要な立場にあり、公式情報源を強く推進したり、社会的距離対策を否定するユーザーのポストを削除したりしている。

パンデミックの拡大とともに新たなテクノロジーの開発競争が加速する中で、テクノロジーがこれらの課題に対する検証方法を見つける事がこれまで以上に重要になっている。現在のテクノロジーはこの課題に対して十分な準備ができていない。プライバシーと安全性の相容れない問題において健全なバランスをとり、同時にその取り組みを公衆に説明する必要があるにもかかわらずだ。

ここ数年間、学業の世界ではテクノロジーがもたらす倫理的ジレンマに対処する方法を学生たちが学べるよう取り組んできた。2019年にスタンフォード大学は、哲学、政治学、コンピューターサイエンスの教授陣が指導する「倫理、公共政策および技術的変化」についての新しい学部課程コースを開設すると発表。現在は人気コースとなっている。ハーバード大学、マサチューセッツ工科大学、テキサス大学オースティン校などが同じようなコースを開設している。

しかし、未来のテクノロジストが学生だけでは、問題解決はまだまだ先だろう。現在のテック産業にもっと豊富な倫理的知見を持って欲しいと願うなら、学生だけではなくテック業界の実務者向けの倫理教育が必要だ。

この指導をテック業界の実務者へと拡大するために、ベンチャーファンドである当社Bloomberg Betaは、同じスタンフォード大学の教授陣を実験的に招聘することに合意した。この学部課程コースを基に、私たちはテクノロジーセクターで働く上位者向けの教育的体験をデザインできるだろうか。私たちは内容(実世界のジレンマを取り入れたもの)、授業の構成と場所を調整し、6週間の夜間コースをサンフランシスコに開設した。コースの告知から1週間で、定員数の2倍の申し込みがあった。

できる限りの方法で多様な受講者グループを選び出した。みなテック業界で責任ある立場を占めている人々だ。彼らによると、仕事で倫理的なジレンマに直面したときに相談するコミュニティが存在しないと言う。友人や家族に打ち明けるという人や、インターネットで答えを探したと告白した人もいた。多くは社内で率直に口に出すことを恐れていた。最高倫理責任者の任命や、Microsoft(マイクロソフト)やIBMによる倫理的AIのための原則の設定など価値あるものを含め企業が主導する倫理的な取り組みはいくつかあるものの、クラス受講者らはテック業界の行動についてオープンで正直な会話をする場がないと打ち明けた。

学部学生と同じように、同コースの受講者も学者と業界のリーダーたちの両方から学びたいと希望していた。毎週、オランダの元欧州議会メンバーのMarietje Schaake(マリーチェ・シャーケ)氏のようなエキスパートを招いて、データプライバシーから政治広告に至るまで、現実の問題について討論した。教授陣が議論の進行役となり、受講者たちが複数のしばしば対立する視点でゲストの専門家とともに議論するよう促した。

受講者の半数以上が科学、技術、工学、数学分野の出身で、しっかりした倫理フレームワークの教育をほとんど受けたことがない。同クラスでは、医師が指針とする行動原則(「まず、害を与えてはならない」)を含め、医療倫理などの他の分野の原則について、新しいアルゴリズムの設計という文脈で議論した。Ursula K. Le Guin(アーシュラ・K・ル・グウィン)氏の著書「The Ones Who Walk Away from Omelas(オメラスから歩み去る人々)」のようなSF作品の文章からも問題への向き合い方を問いかけ、責任を持ってデータを収集し使用する方法を受講生らが評価した。

そこで掘り下げた価値観に基づく質問に対する答え(誤情報と言論の自由の間のトレードオフなど)は、「正しい」「間違っている」というはっきりとした答えの範疇に収まらなかった。むしろ、より効果的なやり方で自分自身のバイアスをチェックし、情報に基づく意思決定を行うスキルを高めるため、今回の議論は非常に重要だったと受講者らはいう。ある受講者は次のように語っている。

質問、思考実験、教授との議論のトピックを一巡し、さらにそこに内在する課題について深く考えてみた後では、自分が始めに思ったのとは逆の立場になっていることがしばしばあった。

自宅隔離のためクラスがもう集まれないことになったとき、受講者らから1週間もしないうちにバーチャルセッションの要望があった。今まさに起きている出来事について、構造化された環境でクラスメートと議論できるフォーラムをみなが渇望していたのだ。政府、テック業界、個人が新型コロナウイルスへどう反応したかを検証した第1回のバーチャルセッションの後、ある受講者は次のように述べている。「この問いかけに関してもっと有意義な会話ができるような気がする。私たちに何ができるか、何をしたら良いか、何をすべきか」。

テック業界のプロフェッショナルたちは、倫理に関して学びたいと望んでいるように見える。そうとなれば、やるべきことはもっと機会を提供することだ。私たちは年内にもう1つのコースを開講し、オンラインバージョンを提供したり、教材を公開したりする方法を模索しているところだ。

私たちがテクノロジーに解決を委ねる危機は新型コロナウイルスが最後ではないだろう。そして解決策は今すぐ必要とされている。テック業界の行動において情報に基づく意思決定を望み、この危機に立ち向かう人たちにより倫理的な考えを持って取り組むよう願うなら、テック業界で働く人々に向けて倫理的に考えるための訓練を行う必要があるだろう。

受講者が反対意見や違和感のある視点も掘り下げられるよう、また個人的な経験を共有できるように、クラスで行われた議論の内容については非公開とさせていただく。本文に登場する受講生からは、見解を公開するにあたり明示的な許可を得ている。

新型コロナウイルス 関連アップデート

[原文へ]

(翻訳:Dragonfly)