AIをどう使うかではなく、人間とは何かを問い直す書籍。ワンダフル・ライフに続き、私自身が強い影響を受けた書籍を紹介します。マックス・テグマークによる本書は、2017年に刊行されたAI論の代表的な一冊です。著者はMITで宇宙論を研究する物理学者でありながら、AIの長期的影響や安全性にも取り組んできた人物です。本書は出版後、広く読まれ、AIを巡る議論の基盤の一つとなりました。本書のユニークさは、AIを単なる技術進化の延長ではなく、「生命の進化の次の段階」として位置づけている点にあります。ここでは生命が三つの段階に分類され、人類はその中間に位置づけられます。そして、AIの進展によって、生命そのもののあり方が根本から変わる可能性が提示されます。本稿では、本書を読み進める中で特に思考を刺激された概念を整理しつつ、その含意を簡潔にまとめていきます。分量が多いため、前半と後半に分け、本稿は前半になります。なお、内容はあくまで出版当時の議論をベースとしており、現在のAI状況とは一部乖離がある可能性があります。
書籍表紙：『LIFE3.0──人工知能時代に人間であるということ』
マックス・テグマーク著／紀伊國屋書店
■生命を「情報処理」として捉える視点
本書では、生命が「自己複製する情報処理システム」として再定義されます。複製されるのが物質そのものではなく、「構造を規定する情報」であるという点が特徴的です。この視点に立つと、生命は進化の度合いに応じて三段階に整理されます。
〇ライフ1.0（生物的段階）
ハードウェア（身体）もソフトウェア（行動様式）も遺伝子によって固定されており、生きている間に大きく書き換えることはできない。変化は世代をまたいだ進化に依存。
〇ライフ2.0（文化的段階）
ソフトウェアを柔軟に書き換えられる存在。人間は学習や教育を通じて能力や価値観を変化させることができる。言語の発明により、知識は個体を超えて蓄積・共有され、文化として加速的に発展。
〇ライフ3.0（技術的段階）
ソフトウェアだけでなく、ハードウェアまでも自ら設計・改変できる段階。進化を待つ必要がなく、意図的に自己をアップデートできる存在。
現在の人類はライフ2.0に属しますが、AIの進展によってライフ3.0に近づく可能性がある、というのが本書の基本的な問題設定です。
■AIは進化の主導権を変えるのか
ライフ3.0が意味するのは、単なる高度な機械の登場ではありません。それは進化の主導権が自然から知性へ移ることを意味します。これに対する見方は、大きく三つに分かれます。
〇楽観的立場
高度なAIの登場は自然な進化であり、むしろ望ましいとする考え。AIは人類を超える存在になるが、それは全体として良い結果をもたらすと期待される。
〇懐疑的立場
人間レベルの汎用AIは極めて実現が難しく、少なくとも当面は深刻に考える必要はないという見方。
〇慎重派（安全性重視）
AIは今世紀中に人間に匹敵、あるいはそれを超える可能性があるとしつつ、その帰結は自動的に良いものにはならないとする立場。だからこそ、事前に安全性や価値設計を議論すべきだと主張する。
本書は特定の立場に単純に与するというより、どの未来を選ぶかは人類次第であるという問題提起に重きを置いています。
■知能とは何か ― 定義をめぐる再考
興味深いのは、知能の定義そのものが曖昧であるという指摘です。本書では、知能を複雑な目標を達成する能力と広く捉えています。この定義の重要な点は二つあります。一つは、知能を単一の尺度で測ることの限界です。IQのような指標は一側面に過ぎず、実際には目標の種類ごとに異なる能力が存在します。もう一つは、価値中立性です。ここでいう知能は「良い目標」を達成する能力に限定されません。どのような目標であれ、それを実現する力であれば知能として扱われます。この整理により、高い知能＝人類にとって望ましい存在という直感が必ずしも成立しないことが浮き彫りになります。目標設定の質が知能を規定することになります。
■人間の能力とAIの進化の関係
本書では、人間と機械の能力差を「地形」にたとえる比喩が用いられています。人間の能力は均一ではなく、特定の分野に偏っています。例えば、身体運動や対人関係のような進化的に重要だった領域では高い能力を持つ一方、単純計算や大量記憶のような分野では機械に劣ります。一方、コンピュータは適用範囲の広い汎用的な処理能力を持ちます。この関係は、地形の中の水位の上昇に例えられます。最初に計算や事務といった低地が水没（機械に置き換えられる）し、その後より高度な知的作業へと波及していく。現在はすでに中位の領域にまで水没が及びつつあり、将来的にはより高度な領域にも到達する可能性があります。さらに、もしAI自身がAIを改良する段階に入れば、その進化は人間主導の速度を大きく上回る可能性があります。いわゆるシンギュラリティの議論は、この延長線上に位置づけられます。
■超知能がもたらす未来の分岐
ここでは、超知能が出現した場合の複数のシナリオが提示されます。特徴的なのは、それらが単なる楽観・悲観の二分法ではなく、多様な可能性として描かれている点です。
例えば、
〇人間とAIが共存し、互いに補完し合う社会
〇AIが社会運営を暗黙裡に担い、多くの人がそれを受け入れる体制
〇技術進歩が意図的に抑制される世界
〇人類が主導権を維持しつつAIを利用する構図
〇AIが人類に代わる存在となる未来
〇人類が制御されて奴隷のようになるケース
〇そもそもAI以前に人類が自滅する可能性
など、極めて幅広い選択肢が並びます。どれが正しい予測かではなく、どの方向に進むかはある程度設計可能であるという前提があります。但し、AIが自ら世界を設計するというシナリオは、人間が方向性を決めるのだからあり得ない、という考えもありますが、超知能AIが人間の制御下から離れることも十分考えられます。完全に制御できる前提が崩れた瞬間に、檻から逃げられるようなイメージです。
■書籍（前半）の所感
前半の部分を読むと、生命の進化の3段階、そして知能という言葉の定義が意外にも難しい、という点は新鮮な感覚がありました。確かに人間はまだハードウェアを書き換える状態には至ってはおらず、一方で知識はいくらでもアップデートできる。そして知能の「複雑な」という定義。複雑な、の中には理解力、自己意識、問題解決力、学習能力などが含まれており、一筋縄ではいかない面白さを感じました。後段のシナリオも興味深いです。人間とAIがどのように役割分担をするか、というテーマは、今後AIが加速度的に発展していく中で、ますます重要性を帯びてくる気がします。個人的には人とAIが共存し繁栄していく方向に世界が進む可能性が高いと思っています。それは自然に実現するものではなく、どの領域をAIに委ねどこを人間が担うのかという設計次第で大きく変わる前提付きの楽観です。ただ、やはりAIが暴走する、制御できない、人が支配されるシナリオは、良くも悪くも想像力を掻き立てられて興味深いため、そちらの方が十分に起こり得るのでは、と考えるのも無理はないな、と感じました。AIが進化すること自体は不可避だとして、私たちは何をAIに委ね、何を自分達で担い続けるのか。その線引きこそがこれからの時代の本質的なテーマなのかもしれません。
次週は、後半部分（宇宙人との接触、生命とAIの目標、意識とは）に触れていきたいと思います。
