第4次産業革命
倫理

新しいテクノロジーのデザインには倫理的側面への考慮を

次の記事

PixTellerがあればデザイナーは(ほとんど)要らない?!…4000以上のテンプレートを揃えたインスタントデザインスタジオだ

【編集部注】著者のGillian ChristieはVitality Instituteの健康イノベーションマネージャー(health innovation manager)、Derek Yachは同社のチーフ健康役員(chief health officer)である。

米国の大統領選挙以降の数週間、FacebookのCEOマーク・ザッカーバーグは火消しに追われている。もちろん文字通りではなく、比喩なのだが。彼のソーシャルメディア会社が、偽のニュースや「フィルターバブル」を伝播することによって選挙の予想外の結果を招くことに貢献したと、広範な非難が集中しているのだ。ザッカーバーグはこうした非難に激しく反論しているが、この案件は厄介な質問提起している:テクノロジーが社会のために役立つことを保証するにはどうすればよいのか?

第4産業革命が提起する難しい倫理的質問には、単純で白黒の答えを得やすいものは少ない。より小型で、より強力で安価なセンサー;人工知能、ロボット工学、予測分析、機械学習における認知コンピューティングの進歩;ナノ、ニューロ、そしてバイオテクノロジー;IoT;3D印刷;その他が、真の答を早急に求めている。そして、これらの技術を私たちの体と脳に埋め込んで、私たちの身体的および認知機能を強化するときに、これはもっと難しく複雑になる。

まもなく社会が自動運転車に関して下さなければならない選択肢を例にとろう。もし衝突を避けることができない場合、車の乗員に危害を加えても、通行人の死傷者を最小限に抑えるように車をプログラムする必要があるだろうか?あるいはどのような状況下でも、その乗員を保護する必要があるだろうか?

研究によれば、人びとの意見は矛盾している。消費者は交通事故での死傷者数を最小限に抑えることを望んでいるが、その一方自己防衛型ではない自動運転車を購入したくはない。もちろん、理想的な選択肢は、企業がこうした可能性を完全に回避するアルゴリズムを開発することだが、これが常に可能になるとは限らないだろう。しかし、明確なことは、消費者が正体不明のアルゴリズムに鍵を渡す前に、そのような倫理的争点を調整しておかなければならないということだ。

消費者が根本的な倫理について確信を持てない場合には、技術の普及が優先されることはない。課題は、現実的なソリューションを特定するには、さまざまな利害関係を持つあらゆる種類のステークホルダーのインプットと専門知識が必要となることだ:利益を上げながら革新を試みているテクノロジー企業のリーダーたち;一般市民を保護するための政策を策定しなければならない様々な管轄の規制当局;意図されないリスクや便益の評価を理論化する倫理学者たち;公衆の健康を追求する公衆衛生研究者たち;その他多数。

非常に多くの異なるステークホルダーが関与するなかで、テクノロジーが社会に役立つガバナンスモデルをどのように確保すれば良いのだろうか?

必要なのは、技術、健康、倫理の世界を横断する人びとによる、社会的に大きな利益をもたらす技術をどのように開発し、配備するかを決定するための強力で先を見通した指針だ。それは(ドナルド・トランプ次期大統領が主張しているような)国レベルで単独で行うアプローチではなく、分野間および政府間のアプローチをとる必要がある。最近発表された世界経済フォーラムの第4次産業革命センターは、こうした協議を始める場所の1つかもしれない。

最終的には、適切なルールと境界を特定するために、個人や社会に対する技術の効果を評価する必要がある。マーク・ザッカーバーグは、情報の配信におけるFacebookの本当の役割を確立するために、異なるセクターや国の指導者の間での公開討論や議論を考えているかもしれない。人工知能技術をどう見るにせよ、私たちはそれがもたらす結果を知っている。あるものは善く、あるものは悪く、中立なものなどないことを。

[ 原文へ ]
(翻訳:Sako)

写真提供: GALERIE BILDERWELT/GETTY IMAGES/GETTY IMAGES