テッド・チャン
What’s Expected of Us
読書クラブ

映画「メッセージ」の原作者テッド・チャンが問いかける自由意志の意味

次の記事

顔認識スタートアップのClearview AIがイリノイ州法違反で集団訴訟に発展

今回のTechCrunchブッククラブは、テッド・チャンの「予期される未来」(What’s Expected of Us)を取り上げる。

本書はテッド・チャンの短編集「息吹」(Exhalation所収の3番目の作品だ。ブッククラブに遅れをとっていた1人だったとしても、焦る必要はない。たったの4ページしかないからだ。この記事を読み終わるより早く、その短編を読み終わることができるだろう。

そしてまだ読んでいないとしたら、ブッククラブの1つ前の記事もぜひ読んでほしい、そこでは最初の(やや長めの)短編2つ(宿命を巡る美しい物語の「商人と錬金術師の門」、ならびに気候変動や人びとと社会のつながりなどについて語る重要で繊細な物語である「息吹」)について取り上げている。

関連記事:テッド・チャンの「商人と錬金術師の門」を読む

本記事の後半では、より長いストーリー「ソフトウェア・オブジェクトのライフサイクル」(ヒューゴー賞、ローカス賞、星雲賞受賞)も取り上げる。この記事では読み進める中で生じたいくつかの疑問を挙げている。

いくつかの簡単なメモ

  • 話に参加したい場合は、気軽に読者の感想をdanny+bookclub@techcrunch.com宛にメールを送って欲しい。あるいはRedditまたはTwitterのディスカッションに参加してもらうのもいい。
  • こちらにある非公式ブッククラブの記事をのぞいて欲しい。このページには、書評カテゴリ専用のRSSフィードも組み込まれている(投稿量はとても少ない)。
  • 本記事のコメントセクションへの投稿も歓迎だ。

予期される未来

私たちはまだ作品集「息吹」(Exhalation)の3つの物語を取り上げたに過ぎないが、これらの異なる物語を繋ぐものが見え始めている、技術的決定論で徐々に満たされつつある人生における運命の意味以上に、重要なものはないというテーマだ。

チャンは、私たちの運命がすでに決まっていることを証明するような、新しい技術たちを前提に置いて書くことが大好きだ。「商人と錬金術師の門」(The Merchant and the Alchemist’s Gate)では、そこを通るものが時間を前後に旅することができるテレポートゲートを登場させたが、一方で「予期される未来」の中では、ボタンが押された時点での1秒過去に向けて光信号を送る「予言機」というデバイスが登場する。これよって利用者はデバイスのLEDが明るく輝いたときには未来がもう決まっているという事実に向き合うことになる。

この2つのストーリーにはある種の対称性があるが、私にとって興味深いのは、それらの結論が互いにどのように異なっているかだ。 「商人と錬金術師の門」でチェンは、運命は決まっているかもしれないし、タイムマシンがもしあったとしても過去を変えて未来に影響を与えることはできないかもしれないが、本質的には旅そのものに意味があるのだと主張している。過去は確かに不変かもしれないが、過去の理解には高い順応性があり、自身と他人の以前の行動の文脈を理解することが、多くの点で存在における肝心なポイントなのだ。

しかし「予期される未来」が描くのは、予言機が生み出す、人びとの無気力が広がるディストピアだ。ここに描かれているのは、わずかな時間を遡って信号を送るシンプルなデバイスに過ぎないが、自由意志が本質的に神話に過ぎないという圧倒的な証拠を示しているのだ。これは多くの人、少なくとも一部の人にとっては、カタレプシー(強硬症、自発的な動きが行えなくなること)となり完全に食欲をなくしてしまうのに十分なことなのだ。

Extra Crunch寄稿者であるEliot Peper(エリオット・ペパー)は、ときおり寄せるフィクションレビューに、チャンの解決策の中に示された、彼のお気に入りの一節を取り上げている。

「自由意志を持っているふりをしろ。たとえそうではないとことを知っていても、自分の決断に意味があるかのようにふるまうことが最も重要だ。現実がどうなのかは重要じゃない。重要なのはなにを信じるかだ。そして、目覚めたコーマを避ける唯一の方法は、うそを信じることだ。いまや文明の存続は、自己欺瞞にかかっている。いやもしかしたら、昔からずっとそうだったのかもしれないが」(早川書房刊・大森望訳の「息吹」所収の「予期される未来」より引用)。

現実のベールの背後にある緻密な決定論を科学が明らかにして行く中で、より良い未来を築くためには、その反対を信じることがますます重要になる。自由意志への信念は、参政権を持つことと同じだ。それは私たちの人生をかたちづくる目に見えないシステムに立ち向かうために、変化の機会を生み出し、私たちを刺激する希望の火花なのだ。

関連記事:関連記事:新しい光で私たちの世界を見る方法(未訳、有料記事)

ペパーはこの物語の核心的なメッセージを捉えているが、率直に言って、自己欺瞞を続けるのは簡単ではない(自分の製品について投資家を説得しようとしたことがある、完璧に自信がないスタートアップ創業者なら、そのことを教えてくれるだろう)。「すべてが重要なものではないというふりをする」と言うのは1つのやり方だが、もちろん実際には重要なことはあるし、誰もが本質的にその欺瞞を認め理解している。それは物事を成し遂げるために人為的な締め切りを設定するような、まやかし的自助努力のようなものだが、まさにその非常に人為的な点であることこそが、効果が出ない理由なのだ。チャンが「予言機」について書いているように「その後、予言機に対する関心を失ったように見えたとしても、それが保つ意味を忘れてしまえる人間はいない。それからの数週間で、未来が変更不可能であるということの持つ意味がだんだん身にしみてくる」のだ(上記書籍から引用)。運命は私たちの魂の中に閉じ込められている。

しかしチェンは、人によってこの認識に対して、異なる反応を示すことを指摘している。カタレプシーになるものもいるが、物語の中には他の経過をたどるものもいることが暗示されている。もちろん、そうした他の経過もすべて、予言機がやってくる前に定まっているものなのだ。運命や運命自体の知識にどのように立ち向かうかについても、自分の運命を選べる者はいない。

だが、そうした選択の自由が与えられていないとしても、私たちは先に進まなければならない。構造的には、物語は過去に遡るかたちで語られる(これも「商人と錬金術師の門」に似ている)。未来のエージェントが予言機の未来についての警告を、時を遡って送ってくるのだ。そしたメッセージで何かを変えられるのかという疑問に、未来のエージェントは「いいえ」と答える。だが最後にこう付け加えるのだ「なのにどうしてわたしはこんなことをしたのか?なぜなら、そうするよりほかに選択の余地がなかったからだ」(上記書籍から引用)と。

つまり、実際にすべてが事前に決定されていた可能性があるのだ。人生のすべてを変えることはできないのかもしれない。それでも、私たちは生きている限り前進するつもりだし、すでに決められている行動であったとしてもそれを行うつもりだ。おそらくそのためには、自己欺瞞となんとか折り合っていく必要があるだろう。あるいは、そもそも行為を選択できるかどうかに関係なく、目の前のアクションにひたすら一所懸命に取り組めばよいだけなのかもしれない。

ソフトウェア・オブジェクトのライフサイクル

短編集所収の次の作品は、もう少し広範に渡っている。仮想世界や、その中で私たちが育成する実体、そしてそれが人間としての私たちにどのような意味を持っているかに関して触れている内容だ。この物語を読んでいく中で、考えることを迫る問いかけについて挙げておくことにする。

  • 何かを愛するとはどういう意味なのだろうか?(人間の)子供だということで私たちは愛を理解しているが、AIを愛することはできるだろうか?彫像のような無生物を愛することはできるか?私たちの愛がそれ以上は及ばなくなる境界線はあるのだろうか?
  • 実体を感じさせるものは何か?他者から与えられた経験が必要だろうか、それともその感覚はどこからともなく生み出すことができるのだろうか?
  • チャンは、さまざまな状況で時間を早送りする。AI学習を促進するための特別な場所を使ったり、プロットにおける人間のキャラクター自身の時間も進める場合がある。この物語の文脈における時間の意味は何だろう? 時間と経験の概念はどのように相互作用しているのだろうか?
  • 著者は、知的な存在としての文脈におけるAIの「人権」をめぐる法的問題に関して、触れてはいるものの深くは掘り下げていない。これらの「実体」(AI)がどのような権利を持っているかを、私たちはどのように考えるべきなのだろうか? 読者の意見を最もよく代表しているのは、どのキャラクターだろうか?
  • 意識、感覚、独立などの概念は、どのように定義できるのだろうか?チャンがこれらの定義の境界を示しているように見えるのは、物語のどの要素だろうか?
  • プロットの中心的な主題の1つは、AIの金銭と収益性への挑戦だ。AIが判断される観点は、人間に提供する有益性だろうか、あるいはAIが独自の世界と文化を作る能力の観点からだろうか?これらのコンピュータープログラムができることの文脈の中で「成功」(非常に広く考えて)について私たちはどう考えるのだろう?
  • 私たちが「不気味の谷」を超えて、ますます多くの技術が私たちの感情的な心と結びつくにつれて、人間による共感は今後数年間でどのように変わっていくのだろう? これは最終的には人類の進化なのだろうか、それとも今後数年間で克服すべき課題というだけなのだろうか?

関連記事:タイムマシンは私たちに人生の意味を提供できるのだろうか?

原文へ

(翻訳:sako)