テクノロジーの「暗い森」(Dark Forest)

次の記事

Facebookがソーラー発電のインターネット・ドローンをテスト中、エアバスと提携

かつての私たちはなんと楽観的だったことだろう。テクノロジーは私たちに環境と調和した豊かな世界をもたらして、さらには新しい世界さえ連れてくる筈だったし、インターネットは国境を消し去り、あらゆる障壁を普遍的な表現の自由で置き換えて、私たち皆をより近しいものにしてくれる筈だった。私たちがあらゆる進歩を楽しみに見つめていた時代のことを覚えているだろうか?

私は、Liu Cixin(劉慈欣)による素晴らしいSF3部作である”Remembrance of Earth’s Past”(地球の追憶)シリーズを読み終えたところだ。それは私たちの時代に対して、冷静に切り込む悲観的な物語である。あまりネタバレしないように紹介するならば、この物語は異世界との楽観的な接触への期待が、決して思うようには進まない ―― なぜなら宇宙は「暗い森」(”The Dark Forest”:3部作の2冊めのタイトル)だから ―― という苦い気付きを描き出す作品だ。ここで語られる「暗い森の理論」とは、文明というものは、お互いを恐れるがゆえに、自分たちがいきなり潜在的な脅威と見なされ破壊されることがないように、あえて自分自身を積極的に晒す(さらす)ことはしないというものだ。

ここにはある種の類似がある。私たちは、テクノロジーを恐れ、それが提供するすべてのものに不信感を抱き、新しいものすべての裏側に、ダークサイドがあると想定するようになってしまった。例えば最近ミニブームとなった“10 Year Challenge”(10年チャレンジ)ミームを考えてみよう。それに対してこのWiredの記事は、このブームは、FacebookのAIが顔の加齢をよりよく認識できるようにする訓練に、私たちを向かわせるトロイの木馬だろうと指摘している。

だが私はそれは疑わしいと考えている。別にFacebookの透明な誠意を信じているからではない。なぜなら彼らは既に、より正確に(そして密かに)タグ付けできるデータを、豊富に所有しているからだ。たとえ明示的なタグ付けが多少役にたつものだとしても(私はそのことに対しても疑念を抱いている。メタデータは失われ、いたずらや冗談目的の投稿も多いからだ)、目立った変化をもたらすものではない。Max Readは次のようにツイートしている

だが私は、上の記事は、私たちの多くがいかにテクノロジーを「暗い森」として扱うようになったかを示す典型的な例だと考えている。テクノロジーが提供するものは何でも、無害と証明されるまでは脅威だと考えられるようになり、たとえ一度無害が証明されたとしてもやはり脅威であると思われ続ける場合もある。この関係が逆であったのはそれほど昔のことではない。どのように、そしてなぜ、こうなってしまったのだろうか?

その理由の一部は、おそらく憤りによるものだ。きわめて裕福で影響力のあるハイテク産業は世界有数のパワーセンターの1つになった。そして人びとは、テクノロジーはこの新しいヒエラルキーを破壊したり弱めたりするどころか、ますます強化しようとしているのではないかと(正しく)考えるようになっている。人間のヒエラルキーを改善するのは、民主主義の仕事だ。だがそれはテクノロジーの仕事ではない、という気持ちを振り払うのは難しい。まあ確かに、ここ数年の民主主義は、驚くほど貧弱な仕事しかしてきていなかったように見える。だがそれを全て、テクノロジーのせいだと責めることは難しい。

私は、こうしたテクノロジーを「暗い森」扱いする態度の大部分は、多くのひとにとってテクノロジーが、本質的に魔法化してしまっているからだろうと考えている。AIの場合、上のWiredの記事からもわかるように、専門家たちでさえも、テクノロジーが必要とするものについて合意することはできず、それがどのように機能するのかについてや、結果がどのように得られたかのかについて、正確に説明することはできていない(その「結果」も常に再現性があるわけではない)。

(おそらく知らないうちに、偏った結果が得られているのだ!と叫びたいひとも居るかもしれない。それは真実だし重要な点だ。しかし、業界の外の人びとが皆、声高に机を叩きながら、ハイテク業界に対してAIが暗黙的なバイアスを持っていることを無視しないようにと詰め寄る様子は異様なものに感じる。私が知っているすべてのAI関係者たちはこのリスクを深く認識しており、それを主要な関心事だと常に語っている。そして実際それを軽減もしくは排除するためにあらゆる努力を惜しんではいない。それなのに、すべてのAI研究者およびエンジニアたちが、このリスクを軽いものと受け止め無視しているという暗黙の前提があるのは何故だろう?。そう、繰り返しになるが、テクノロジーが暗い森になってしまったからだ)。

「魔法としてのテクノロジー」は、AIだけとは限らない。スイッチを操作してライトが点灯したときに、何が起こるかを本当に理解している人が何人いるというのだろう。テキストメッセージングがどのように動作しているのかを、少ないとしても本当に理解している人間が何人いるだろうか?あるいは地球の気温がほんの2、3度変わっただけで数十億の人間に壊滅的な影響が及ぶのは何故なのかを理解している人の数は?多くはない筈だ。私たちが恐れているのは何なのか?私たちが恐れているのは未知の出来事なのだ。ほとんどの人にとって、テクノロジーは暗い魔法であるために、テクノロジーは暗い森になってしまうのだ。

だが問題は、この暗い魔法(dark magic)こそが、地球温暖化のような急を要する眼の前の問題を解決する、唯一の希望だということだ。私たちは既に、かすんではっきりしない脅威に満ち溢れた、暗い森の中に住んでいる。それらは新しいテクノロジーによってもたらされたものではなく、旧来のテクノロジーが、私たちの星のもつ容量から溢れ出てしまったことによってもたらされた結果なのだ。気候変動は、森を抜けて恐ろしいスピードで私たちに届けられる恐怖の予感であり、その中でテクノロジーは、私たちを導くことができる火の1つかもしれないのだ。

当然のことながら、そのテクノロジーの火は、理論的には、長期的にはあるいは間違った使われ方をして、最終的にある種の脅威になる可能性がある。それは多くの悪人によって利用されて人びとを操り、抑圧を具体化し、ふさわしくない人びとのてに富をもたらす。地球の一部の地域では、さらなる恐ろしいやり方で技術が誤用されている。すべて実際の出来事だ。だが火が危険であるという理由だけでは、その全ての新しい利用方法が悪意ある脅威になるとは断言できない。お決まりの反対運動はやりすごして、新しいテクノロジーは(たとえそれがFacebookからやって来たとしても)自動的に悪用されてしまうものではないという、ちょっとした楽観主義、ちょっとした希望、そしてちょっとした信頼を取り戻そう。

(私にとって、Facebookが多くの悪いことを行っていることを認め、それを非難することにためらいはない!だがそれは、彼らがすることすべてが悪いという意味ではない。企業は人間のようなものだ。このような時代には信じることは難しいかもしれないが、彼らは善いことも悪いことも同時に行うことができるのだ。ショックだろうが、これはイーロン・マスクに対しても成り立つ話だ)。

私はただそれを良いことだと言っているわけではない。私が言いたいのは、とにかく何かをする必要があることだろうということだ。なぜなら好きか嫌いかにかかわらず、私たちは既に種(しゅ)として、とてつもなく暗い森の中に迷い込んでしまったように思えるからだ。そしてより良いテクノロジーを積み重ねて行くことだけが、その森を抜け出すための手段なのだ。もしそれが意図的に、落とし穴と流砂で一杯の道だと想定して始めてしまっては、その脱出の道筋を切り拓くことはとても困難になってしまう。あらゆる意味で懐疑的ではいよう。しかし私たちの基本的な立場として、犯罪行為と悪意を仮定するのは止めておこう。

原文へ
(翻訳:sako)