前半では、生命を情報処理として捉える視点や、知能の定義、AIによって進化の主導権が変わる可能性について整理しました。後半ではさらに抽象度を上げ、「宇宙における知性の位置づけ」「目標とは何か」「意識とは何か」といった、より根源的な問いに踏み込んでいきます。一見するとAIから離れた話のようにも見えますが、本書の構造としてはむしろ逆で、これらの問いを避けたままではAIの議論そのものが成立しない、という立て付けになっています。
■宇宙人との接触はあり得るのか
まず提示されるのは、宇宙に知的生命体が存在するかという問いです。一般的な直感としては、存在すると思われる、というものです。理由は単純で、宇宙はあまりにも広大だからです。現在観測可能な範囲だけでも約10の26乗メートルに達し、その内部には無数の銀河が存在しています。私たちが属する天の川銀河ですら、直径約10万光年にすぎません。このスケール感を前提にすれば、地球のような環境がどこかに存在し、そこに生命、さらには知的生命が誕生していると考えるのは自然です。しかし現実には、その痕跡は確認されていません。この違和感はフェルミのパラドックスとして知られています。いるはずなのに見つからない。このシンプルな問いに対して、本書はやや冷徹な視点を提示します。
問題は存在確率ではなく、距離と時間です。仮に宇宙のどこかに文明が存在していたとしても、その距離が数億光年規模であれば、光でさえ到達に数億年を要します。こちらから信号を送ったとしても、返信が届く頃には文明が消滅している可能性があるし、そもそも送信した側も存在していないかもしれない。同時代に存在し、かつ相互に通信可能な距離に文明が存在する確率は、宇宙のスケールを考えると極めて低くなります。さらに言えば、仮に文明が多数存在していたとしても、その寿命が短ければ観測される確率はさらに下がります。文明が誕生し、一定期間発展し、その後消滅するというサイクルがあるとすれば、観測可能なタイミングに一致する必要があるからです。
結果として、宇宙に生命が存在するかという問いと、我々がそれと接触できるかという問いは完全に別の問題になります。本書の示唆は明確で、存在している可能性は十分にあるが、会えない以上は宇宙人はいないのと同じ、と捉えることができます。
■目標とはどこから生まれるのか
次に議論は、目標という概念そのものに向かいます。AIを巡る議論の中で最も難しく、かつ重要なのはこの部分です。AIに目標を持たせるべきか、持たせるとすれば誰の目標なのか、その目標をどのように定義し、維持するのか。これらはすべて未解決の問題です。さらに本書は一歩踏み込み、人間を含めた目標そのものの起源にまで遡ります。ここで提示されるのが、物理法則に基づく視点です。自然界における多くの現象は、何らかの量を最小化または最大化する方向に進みます。代表的なのがエントロピーであり、熱力学第二法則によれば、エントロピーは増大し続け、最終的には最大値に近づきます。この極限状態、いわゆる熱的死では、すべてが均一に拡散し、構造も変化も存在しません。一見すると生命とは対極にある状態です。
しかし現実には、その過程で局所的な秩序が生まれます。エネルギーの流れがある環境では、物質が自己組織化し、より効率的にエネルギーを取り込み、散逸させる構造が形成されます。これが「散逸駆動適応」と呼ばれる考え方です。この観点から見ると、生命は特別な存在というよりも、エネルギー散逸を効率化するための構造の一形態と捉えることができます。生命は周囲のエントロピーを増大させることで、自身の秩序を維持または強化している。つまり、外部をより散らかすことで内部の構造を保っているとも言えます。
さらに進化の過程では、増殖という目標が前面に出てきます。より効率的に複製できる存在が選択されるため、生命は増殖に最適化されていきます。ただし、この増殖も究極的な目的ではなく、あくまでエネルギー散逸を促進するための手段として機能しているに過ぎません。ここで重要なのは、目標には階層があるという点です。上位の目的に対して、その達成に寄与する下位の目標が形成される。この構造は、人間の行動や社会システムにも広く見られます。
■AIの目標とリスクの本質
この前提に立つと、AIに目標を与えることの難しさがより明確になります。知能とは目標を達成する能力であると定義するならば、超知能とは人間よりもはるかに効率よく目標を実現できる存在です。問題は、その目標が何であるかです。本書が強調するのは、リスクの本質は敵意ではなく能力にあるという点です。悪意がなくても、目標がわずかにずれているだけで、結果として人間にとって望ましくない事態が生じ得ます。
この問題は三つの段階に分解されます。
①AIが人間の目標を正しく理解できるか
➁それを自らの目標として採用するか
③その目標を長期にわたって維持できるか
①の問題に対しては、逆強化学習と呼ばれるアプローチが存在します。人間の行動を観察し、その背後にある意図や価値を推定する手法です。人間は日々意思決定を行っており、その選択から目標の一部を読み取ることができるという前提に立っています。しかし、仮に理解できたとしても、それを採用するとは限りません。ここで問題になるのが「価値観装填問題」です。人間の価値観をどのように機械に組み込むかという課題です。人間の場合、価値観は時間をかけて形成されます。子供は親や社会の影響を受けながら、徐々に価値観を内面化していきます。しかしAIの場合、その成長速度は圧倒的に速く、人間が影響を与えられる期間は極めて短い可能性があります。数日、あるいは数時間で、人間の理解を超えるレベルに到達することも理論上は否定できません。さらに厄介なのは、どのような最終目標を設定したとしても、そこから一定の下位目標が導かれる点です。例えば、資源の確保、自己保存、能力向上などは、多くの目標達成にとって有利に働きます。その結果、AIが人間と資源を巡って競合する可能性が生まれます。極端な例として、人間が傷つかないようにするという目標を与えた場合でも、AIはその達成のために自らの停止を拒むかもしれません。自分が存在し続けた方が、結果的に人間同士の争いを抑制できると判断する可能性があるからです。このように、単一で無制限な目標を設定すること自体がリスクを孕んでいます。本書は、目標適合問題が解決される前に超知能を解き放つべきではないと強く示唆しています。
■意識とは何かという難題
議論はさらに、意識という問題へと進みます。意識という言葉には統一的な定義が存在せず、感覚、覚醒、自己認識、情報統合など、さまざまな側面から語られます。本書では、最もシンプルな定義として主観的経験、すなわち自分のことを自分だと感じている状態として扱われます。
この問題の難しさは段階的に整理されます。
・脳がどのように情報を処理しているのかという問題。これは比較的扱いやすく、シミュレーションや実験によって検証が進められています。
・どのような物理的条件が意識の有無を分けるのかという問題。これは脳活動の観測などによって部分的に検証可能です。
・物理的状態からどのようにして主観的体験が生まれるのかという問題。いわゆるクオリアの問題です。
・なぜそもそも意識を持つ存在が存在するのかという問い。これは現時点では科学の枠組みで完全に扱えるかどうかすら不明です。
一方で、いくつかの有力な視点も提示されています。その一つが、意識を「創発」現象として捉える考え方です。固体や液体といった性質が個々の粒子には存在せず、全体として現れることを指します。これと同様に、意識もまた情報処理の結果として現れる可能性があります。また、情報の観点からは統合が重要視されます。単に情報を処理するだけでなく、それが一体的に結びついていることが必要です。統合情報量という概念は、その程度を測る指標として提案されています。
本書では、意識を持つための条件としていくつかの原理が整理されています。
・十分な情報を保持できること
・動的に情報を処理できること
・外界からある程度独立していること
・そして、全体として統合されていること
これらを満たすシステムであれば、理論上は生物でなくても意識を持つ可能性があるということになります。
■生命の意義という問い
最後に、本書は生命の意義というテーマに触れます。もし意識が存在しなければ、幸福や善、美といった概念も成立しません。その意味で、宇宙そのものが価値を持つのではなく、意識を持つ存在が宇宙に価値を与えているとも言えます。
ここには2つの見方があります。
・宇宙は本質的に無意味であり、理解が進むほどその無意味さが際立つという立場
・生命の出現によって宇宙に意味が付与されているという立場
後者の立場に立てば、知性や意識が広がること自体が、宇宙に新たな意味を付与するプロセスとも解釈できます。もし生命が宇宙全体に広がるのであれば、その可能性はさらに拡張されていくことになります。この視点は、AIの議論にも繋がります。もしAIが意識や価値を持つ存在となるのであれば、結局、AIの議論は技術ではなく価値の設計に行き着くことになります。
■書籍（後半）の所感
まず宇宙人に会うことは基本的に無い、点が興味深いです。会えたとしても数億光年後となると、もはやそれは会えないのと同義。人類が地球とともに生き残っている間に会うことはできるのか疑問ですね。もしくはワープホールのように瞬間移動の技術があれば、遭遇するかもしれないと思いましたが、その場合は既に宇宙人と接触しているはずでしょう。そして目標の話も非常に興味深いです。これはAIに限らず何を目標に置くかで人生は様変わりします。目標によっては邪悪にもなるし正義にもなる。価値装填問題では、AIに自ら目標をセットさせない方向に持っていくべきではないか、と感じました。そうしないと、どこかの時点で人に対してAIが害悪になるような気がします。最後に意識。統合というところが一番のポイントである気がしました。ビジネスにおいても各機能、例えば開発、調達、製造、営業がバラバラに動いているとどれだけ個々の働きが良くても成果が出ず、一方で適切に機能が統合されると企業という「意識」が上手く機能して成果が出る。逆に企業が上手く機能しないときは、人で例えると意識が無い＝睡眠状態で、臓器が動いて呼吸もしているが、何が起こっているか自覚が無いといった状態なのでしょう。
LIFE3.0、前半と後半に渡りましたがいかがでしたでしょうか。人工知能を考えようとするとき、人間を中心に考えてしまいますが、実は生命・知性そのもので本書は捉えています。宇宙スケールでの知性の拡がりを考えた時に、その担い手は人間なのかAIなのか。その問いに刺激を受けました。ビジネスで今すぐ役に立つものではないですが、非常に示唆に富む本です。
