Ichijyo Shinya Official Book Review 一条真也の読書館

『ＮＥＸＵＳ　情報の人類史㊦ＡＩ革命』ユヴァル・ノア・ハラリ著、柴田裕之訳（河出書房新社）を読みました。「ネクサス」（ＮＥＸＵＳ）とは、「つながり」「結びつき」「絆」「中心」「中枢」などを意味する言葉です。本書は、一条真也の読書館『サピエンス全史』、『ホモ・デウス』、『２１Ｌｅｓｓｏｎｓ』で紹介した三部作に続く、著者の世界的ベストセラーです。著者は１９７６年生まれの歴史学者、哲学者。オックスフォード大学で中世史、軍事史を専攻して２００２年に博士号を取得。現在、エルサレムのヘブライ大学で歴史学を教えるかたわら、ケンブリッジ大学生存リスク研究センターの特別研究員も務めています。

本書の帯

本書の帯には、「『進化するデジタル時代で人々を導く羅針盤』台湾・初代デジタル発展相　オードリー・タン氏推薦」「人間ならざる知能を前に　人間の『絆（ネットワーク）』を守れるか？」「知の巨人、６年ぶりの書き下ろし超大作」と書かれています。帯の裏には、オードリー・タン氏の「その深い洞察は、私たちが著書『ＰＬＵＲＡＬＩＴＹ』で提唱する多元的な共創の原理とも響き合い、進化するデジタル時代で人々を導く羅針盤となる』という言葉が紹介され、「知の巨人が『ＡＩ革命』の射程を明らかに。ＡＩの真の新しさとは何か？」と書かれています。

本書の帯の裏

カバー前そでには、こう書かれています。
「ＡＩの真の新しさとは何か？　それは、自ら決定を下したり、新しい考えを生み出したりすることができるようになった史上初のテクノロジーだという点にある。私たちは、ついに『人間のものとは異質の知能』（エイリアン・インテリジェンス）と対峙することになったのだ。

憎悪の拡散、常時オンの監視、ブラックボックスの中で下される決定・・・・・・。ＡＩが社会の分断を加速させ、ついには全人類から力を奪い、人間と人間以外という究極の分断を生み出すのを防ぐことはできるのか？

今こそ、過去の歴史に学ぶときだ――古代ローマの政争や、近世の魔女狩り、ナポレオンの生涯などから得られる教訓を通じて、知の巨人が『ＡＩ革命』の射程を明らかにする」

アマゾンより

本書の「目次」は、以下の通りです。
第Ⅱ部　非有機的ネットワーク
第６章　新しいメンバー
――コンピューターは印刷機とどう違うのか
連鎖の環
人間文明のオペレーティングシステムをハッキングする
これから何が起こるのか？
誰が責任を取るのか？
右も左も
技術決定論は無用
第７章　執拗さ――常時オンのネットワーク
眠らない諜報員
皮下監視
プライバシーの終わり
監視は国家がするものとはかぎらない
社会信用システム
常時オン
第８章　可謬
――コンピューターネットワークは
　　間違うことが多い
「いいね！」の独裁
企業は人のせいにする
アラインメント問題
ペーパークリップ・ナポレオン
コルシカ・コネクション
カント主義者のナチ党員
苦痛の計算方法
コンピューターの神話
新しい魔女狩り
コンピューターの偏見
新しい神々？
第Ⅲ部　コンピューター政治
第９章　民主社会――
　　　　私たちは依然として話し合いを
　　　　行なえるのか？
民主主義の基本原則
民主主義のペース
保守派の自滅
人知を超えたもの
説明を受ける権利
急落の物語
デジタルアナーキー
人間の偽造を禁止する
民主制の未来
第１０章　全体主義
――あらゆる権力はアルゴリズムへ？
ボットを投獄することはできない
アルゴリズムによる権力奪取
独裁者のジレンマ
第１１章　シリコンのカーテン
――グローバルな帝国か、
　　それともグローバルな分断か？
デジタル帝国の台頭
データ植民地主義
ウェブからコクーンへ
グローバルな心身の分断
コード戦争から「熱戦」へ
グローバルな絆
人間の選択
エピローグ
最も賢い者の絶滅
「謝辞」「訳者解説」「原註」「索引」

第Ⅱ部「非有機的ネットワーク」の第６章「新しいメンバー――コンピューターは印刷機とどう違うのか」の冒頭を、著者は「私たちは前代未聞の情報革命のただ中を生きていると言われても、驚く人はいないだろう。だがそれは、いったいどのような種類の革命なのか？　近年、私たちは画期的なイノベーションの大洪水に見舞われているので、何がこの革命を推し進めているのかを見極めるのは難しい。それはインターネットか？　スマートフォンか？　ソーシャルメディアか？　ブロックチェーンか？　アルゴリズムか？　ＡＩか？」と書きだしています。

今進んでいる革命の根源はコンピューターです。インターネットからＡＩまで、他のいっさいは副産物にすぎません。コンピューターは１９４０年代に誕生しました。当初は数値計算のできる巨大な電子機械でしたが、猛烈な速さで進化し、あれこれ斬新な形態を取り、驚異的な能力を新たに発展させていきました。その進化があまりに急速だったので、コンピューターとは何かや、コンピューターは何をするのかは簡単には定義できなくなったとして、著者は「チェスをすることや、自動車を運転することや、詩を創作することなど、特定の事柄は永遠にコンピューターにはこなせないだろうと、人間は繰り返し主張してきたが、『永遠』はけっきょくわずかな年月にすぎなかった」と述べています。

コンピューターとは本質的に、２つの驚くべきことをやってのける可能性を持った機械と言っておけば十分だといいます。その２つとは、自ら決定を下すことと、自ら新しい考えを生み出すことです。最初期のコンピューターにはそうしたことはとうてい達成できませんでしたが、その潜在的な可能性はすでにあり、コンピューター科学者にもＳＦ作家にもそれがはっきり見えていました。早くも１９４８年には数学者のアラン・チューリングが、「知的な機械」と呼ぶものを創り出す可能性を探っていましたし、５０年には、コンピューターは最終的に人間と同じぐらい賢くなり、人間のふりをすることさえ可能になるかもしれないと主張していました。

１９６８年にはコンピューターは、チェスよりはるかに単純な盤上ゲームのチェッカーでさえ相変わらず人間に勝てませんでしたが、『２００１年宇宙の旅』でアーサー・Ｃ・クラークとスタンリー・キューブリックは、スーパーインテリジェンス（超知能）を持つＡＩのＨＡＬ９０００が、それを創り出した人間たちに叛逆することをすでに思い描いていました。著者は、「決定を下したり新しい考えを生み出したりすることができるインテリジェント・マシン（知能機械）の台頭は、歴史上初めて、権力が人間から離れて何か別のものへと移っていくことを意味する」と述べています。

知能に関して、コンピューターは原子爆弾だけではなく、粘土板や印刷機やラジオといった、従来のあらゆる情報テクノロジーをもはるかに凌ぎます。粘土板は税についての情報を保存しましたが、どれだけの税を徴収するかを自ら決めることはできませんでしたし、まったく新しい税を考え出すこともできませんでした。印刷機は聖書などの情報を複製しましたが、聖書にどの巻を含めるかを決めることはできませんでしたし、聖書についての新しい註釈を書くこともできませんでした。ラジオは政治演説や交響曲といった情報を広く伝えましたが、どの演説や交響曲を放送するかを決めることはできませんでしたし、演説の原稿を書いたり交響曲を作曲したりすることもできませんでした。著者は、「一方、コンピューターにはそのすべてができる。印刷機とラジオは人間に使われる受動的なツールであるのに対して、コンピューターはすでに、人間の制御や理解の及ばない能動的な行為主体になりつつあり、いずれ社会や文化や歴史の行方を決める上で主導権を発揮できるようになるだろう」と述べます。

「人間文明のオペレーティングシステムをハッキングする」では、人類が強力なコンピューターに対する恐れにつきまとわれるようになったのは、２０世紀半ばにコンピューター時代が幕を開けてからにすぎないことが紹介されます。しかし、人間は何千年にもわたって、それよりもはるかに深刻な恐れに脅かされてきたとして、著者は「私たちはつねに、人間の心を操って錯覚を生じさせる、物語や画像の力を正しく認識してきた。だから人間は古代からずっと、錯覚の世界に閉じ込められることを恐れてきた。古代ギリシアでは、プラトンが有名な洞窟の比喩を語っている。この比喩では、一団の人々が洞窟の中に鎖でつながれ、何もない奥の壁の方を向いたまま、一生を過ごす。その壁はスクリーンであり、そこにさまざまな影が映るのを人々は目にする。囚われの身である彼らは、それらの虚像を現実だと思い込む」と述べています。

古代インドでは、仏教やヒンドゥー教の賢人たちが、あらゆる人間はマーヤー（幻影）の中に閉じ込められて生きていると説きました。わたしたちが通常、「現実」と思っているものは、自分自身の心の中にあるただの虚構であることが多いとして、著者は「人々が戦争を起こし、他者を殺し、命を差し出すことを厭わないのは、何かしらの虚構を信じているせいだ。１７世紀にはルネ・デカルトが、意地の悪い悪魔が虚構の世界に彼を閉じ込め、彼の見聞きするもののいっさいを生み出しているかもしれないことを恐れた。コンピューター革命は私たちを、プラトンの洞窟やマーヤーやデカルトの悪魔と向かい合わせようとしている」と述べるのでした。

第７章「執拗さ――常時オンのネットワーク」では、慈悲深い官僚制度も暴虐な官僚制度も人々を知るためには、これまで２つのことをする必要があったと指摘します。第１に、人々について大量のデータを集めること。第２に、そのデータをすべて分析し、さまざまなパターンを突き止めること。そのため、古代の中国から現代のアメリカまで、帝国や教会、企業、医療制度はみな、厖大な数の人の行動に関するデータを集め、分析してきました。ところが、どの時代にも、どの場所でも、監視は不完全だったとして、著者は「現代のアメリカのような民主社会では、プライバシーと個人の権利を保護するために法的限界が定められてきた。古代の秦帝国や現代のソ連のような全体主義政権では、監視がそのような法的障壁に直面することはなかったが、技術上の限界には行き当たった。どれほど残忍な独裁者であろうと、すべての人をつねに追い続けるのに必要なテクノロジーは持っていなかった。したがって、ヒトラーのドイツやスターリンのソ連、あるいは１９４５年以降にソ連を真似てルーマニアで樹立されたスターリン主義の政治体制でも、ある程度のプライバシーが初期設定条件となっていた」と述べています。

「監視は国家がするものとはかぎらない」では、事務員からトラック運転手まで、今や雇用者によって監視されている被雇用者の割合もしだいに多くなっています。上司は部下がどの瞬間にどこにいるかや、どれだけの時間をトイレで過ごしているか、勤務中に私的な電子メールを読んでいるかどうか、それぞれの仕事をどれだけ速くやり終えているかを正確に知ることができます。著者は、「企業は顧客も監視している。顧客の好き嫌いを知ったり、未来の行動を予測したり、リスクやチャンスを評価したりすることを望んでいるからだ。たとえば、自動車は運転者の行動を監視し、そのデータを保険会社のアルゴリズムと共有し、保険会社は危険な運転をする人の保険料を上げ、安全な運転をする人の保険料は下げる。アメリカの社会心理学者ショシャナ・ズボフは、ひたすら拡張を続けるこの商業監視システムを『監視資本主義』と呼んでいる」と述べます。

第８章「可謬――コンピューターネットワークは間違うことが多い」では、グーグルの順位はじつに重要なので、人々はあの手この手を使ってグーグルのアルゴリズムを操作し、自分のウェブサイトの順位を上げようとすることが紹介されます。たとえば、ボットを使ってウェブサイトへのトラフィックを増やすかもしれません。これはソーシャルメディアでもありふれた現象であり、調整されたボットの大軍団がユーチューブやフェイスブックやＸ（旧ツイッター）のアルゴリズムを絶えず操作しています。もしある投稿記事が爆発的に拡散したら、それは人間が本当に興味を持ったからなのか、それとも、何千ものボットがＸのアルゴリズムをまんまと騙したからなのか？　ポケモンやグーグルの順位のようなコンピューター間現実は、人間が神殿や都市に持たせる神聖さのような共同主観的現実と似ているといいます。

歴史を通して経済と政治は、宗教や国民や通貨といった、人間が発明した共同主観的現実を理解することを人間に求めてきました。アメリカの政治を理解したい人は、キリスト教やＣＤＯのような共同主観的現実を考慮に入れなければなりませんでした。ところが、アメリカの政治を理解するには、ＡＩが生み出したカルトや通貨から、ＡＩが運営する政党、果ては完全に法人化されたＡＩまで、さまざまなコンピューター間現実を理解することが、しだいに必要になるだろうとして、著者は「アメリカの法制度はすでに企業を、言論の自由などの権利を持つ法人として認めている」と述べます。また、人間が何万年にもわたって地球という惑星を支配してきたのは、人間だけが企業や通貨、神、国民といった共同主観的存在を創り出して維持し、そうした存在を利用して大規模な協力を組織することができたからだといいます。だが今やコンピューターは、それに匹敵する能力を獲得するかもしれません。

ユダヤ教やキリスト教やイスラム教のような宗教は、いつも「どこか雲の上に何もかもお見通しの目があって、私たちのすることのいっさいを、ポイントの付与あるいは剥奪の対象としており、そうして積み重なったスコア次第で私たちの死後の運命が定まる」と夢想してきました。当然ながら、誰一人自分のスコアは確実には知りようがありません。死んでからでなければ、確かなことはわかりません。実際問題としては、罪人になるか聖人になるかは共同主観的な現象であって、その定義そのものが世論で決まることを意味します。「新しい神々？」では、哲学者のメーガン・オギーブリンが著書『神、人間、動物、機械（Ｇｏｄ，Ｈｕｍａｎ，Ａｎｉｍａｌ，Ｍａｃｈｉｎｅ）』で、人間がコンピューターをどう理解するかは、伝統的な神話に強く影響されていることを証明したことが紹介されます。特に、ユダヤ＝キリスト教神学の全知で人知を超えた神と、下す決定が不可謬でしかも不可解に思える今日のＡＩの類似性を強調しています。この類似性は、人間に危険な誘惑を惑を突きつけてくるのです。

人間はすでに何千年も前から、人間ならではの腐敗と誤りからわたしたちを守ってくれる不可謬の情報テクノロジーを見つけることを夢見てきました。聖典はそのようなテクノロジーを巧みに作り上げようとする大胆な試みでしたが、裏目に出ました。聖典は自らを解釈することができなかったので、神聖な言葉を解釈して変わりゆく状況に適応させるために、人間の制度や機関を構築しなければなりませんでした。さまざまな人が聖典を異なる形で解釈したので、腐敗と誤りへの扉が再び開かれました。だがコンピューターは聖典とは対照的に、変わりゆく状況に自らを適応させることも、自らの決定や考え方をわたしたちのために解釈することもできるとして、著者は「したがって、不可謬のテクノロジーの探求がついに成功したのであり、人間の制度や機関の介入を必要とせずに私たちに語り掛けたり自らを解釈したりする聖典としてコンピューターを扱うべきだと結論する人もいるかもしれない」と述べます。

古代のユダヤ教徒やキリスト教徒は、聖書が自らを解釈できないことを知って失望し、渋々人間の制度や機関を維持して、聖書というテクノロジーにはできないことをやらせました。２１世紀には、人間はそれとほぼ正反対の状況にあります。わたしたちは自らを解釈することができるテクノロジーを考案しましたが、まさにそれゆえ、そのテクノロジーを注意深く監視する人間の制度や機関を創出せざるをえないようです。著者は、「結論としては、新しいコンピューターネットワークは、必ずしも悪でも善でもない。確実に言えるのは、そのネットワークが異質で可謬のものになるということだけだ。したがって私たちは、強欲や憎しみといった人間のお馴染みの弱点だけではなく、根本的に異質の誤りを抑制できる制度や機関を構築する必要がある。この問題にはテクノロジー上の解決策はない。むしろそれは、政治的な課題だ。私たちには、それに取り組む政治的な意志があるのか？　現代の人類は二つの主要な政治制度を打ち立てた。大規模な民主主義体制と大規模な全体主義体制だ」と述べるのでした。

第Ⅲ部「コンピューター政治」の第９章「民主社会――私たちは依然として話し合いを行なえるのか？」の冒頭を、著者はこう書きだしています。
「文明は官僚制と神話の結合から誕生する。コンピューターベースのネットワークは新しい種類の官僚制であり、これまで私たちが目にしてきた人間ベースのどんな官僚制よりもはるかに強力で執拗だ。このネットワークはまた、コンピューター間神話を創作する可能性が高く、そのような神話は人間が生み出したどんな神話よりも格段に複雑で、人間には思いもよらない異質のものになるだろう。このネットワークの潜在的な利点はなく大きい。逆に、潜在的な欠点は人間の文明を破壊しかねないことだ」

「民主主義のベース」では、「それでは、聖職者はどうなのか？」「キリスト教徒は、ロボットに自分の結婚式を執り行なわせることについては、どう感じるだろう」として、　キリスト教の伝統的な結婚式では、神父や牧師の役割を自動化するのはたやすいといいます。ロボットが、不変の言葉や仕草を再現し、婚姻証明書をプリントアウトし、中央のデータベースをアップデートするだけでいいのです。技術的には、自動車を運転するよりも結婚式を執り行なうほうが、ロボットにとってははるかに簡単です。著者は、「それにもかかわらず、次のように考えているは多い。人間の運転手は自分の仕事がなくなりはしないか心配するべきであるのに対して、人間の聖職者の仕事は安泰だ、なぜなら、信者が聖職者に望んでいるのは、意識を持つ人間との関係であって、たんに特定の単語や動作を機械的に再現することではないからだ、と。痛みや愛情を感じることができる人間だけが、私たちを神と結びつけられるというわけだ」と述べます。

「デジタルアナーキー」では、もし、人や世論を操るのがうまいボットや人知を超えたアルゴリズムが公の場での話し合いを支配するようになったら、わたしたちがこれまでにないほど民主的な討論を必要としているまさにそのときに、その討論が成り立たなくなりかねないといいます。急速に発展する新しいテクノロジーについて私たちが重大な決定を下さなければならない、ちょうどそのときに、公共の領域は、コンピューターが生成したフェイクニュースの大洪水に見舞われ、人々は自分が人間の友人と、人を操るのが上手なマシンのどちらと討論しているのか区別がつかなくなり、議論の最も基本的なルールや最も基本的な事実についての合意が１つ残らず失われるだろうとして、著者は「この種のアナーキーな情報ネットワークは、真実も秩序も生み出せず、長くは維持することができない。もし私たちがアナーキーに陥ったら、次の段階にはおそらく、人々は自分の自由と引き換えにある程度の確かさを手に入れることで合意し、独裁社会が確立されるだろう」と述べるのでした。

第１０章「全体主義――あらゆる権力はアルゴリズムへ？」では、民主主義国においてさえも、グーグルやフェイスブックやアマゾンのようないくつかの企業がそれぞれの領域で独占企業になった理由が述べられます。１つには、ＡＩが力の均衡を崩して、これらの巨大企業に有利な状況を生み出しているからです。著者は、「レストラン業のような従来の業界では、規模の大きさは圧倒的な利点ではない。マクドナルドは世界的なチェーン店であり、１日当たり５０００万人のお腹を満たす。そして、その規模のおかげで、コストやブランド戦略など、多くの点で優位に立てる。それでも、あなたは小規模なレストランを開き、地元のマクドナルドに負けずにやっていける。あなたのレストランには毎日２００人しか客が来なくても、マクドナルドよりも美味しい料理を作り、客を喜ばせて常連になってもらうことは可能だ」と述べています。

ところが、情報市場はそれとは仕組みが違います。グーグルの検索エンジンは連日、２０億～３０億人が使い、８５億件の検索を行ないます。仮に、地元の検索エンジンの新規企業がグーグルに挑もうとしても、まったく勝ち目がありません。著者は、「グーグルはすでに何十億もの人に使われているので、厖大なデータを持っており、それを使ってトレーニングを行ない、段違いに優れたアルゴリズムを開発することができ、そのアルゴリズムがさらに多くのトラフィックを引き寄せ、それを利用して次世代のアルゴリズムをトレーニングするという具合に、発展を続ける。その結果、グーグルは２０２３年には全世界の検索市場の９１・５パーセントを支配していた」と述べます。

第１１章「シリコンのカーテン――グローバルな帝国か、それともグローバルな分断か？」では、人類の文明を脅かしているのは、原子爆弾のような物理的な大量破壊兵器や、ウイルスのような生物的な大量破壊兵器だけではないとして、著者は「私たちの社会的な絆を損なう物語のような、社会的な大量破壊兵器によっても、人類の文明は崩壊しうる。ある国で開発されたＡＩが、他の多くの国々で人々が何一つ、誰一人信信じられなくなるようにするために、フェイクニュースや偽造貨幣や偽造人間の洪水を引き起こすのに使われる可能性がある。多くの社会――民主社会と独裁社会の両方――は、適切な行動を取ってＡＩのそのような使い方を規制したり、悪人を取り締まったり、自分たちの支配者や狂信者の危険な野心を抑えたりするかもしれない。だが、ほんの一部の社会がそうしそこねただけで、人類全体が危機に陥りかねない」と述べています。

「デジタル帝国の台頭」では、中国政府が２０１７年に「次世代人工知能発展計画」を発表し、「２０３０年までに中国のＡＩの理論やテクノロジーや応用は世界を先導する水準に到達し、中国を世界随一のＡＩイノベーションセンターにする」と宣言したことが紹介されます。中国は、その後の年月に莫大な資源をＡＩに投入したので、２０２０年代初めには、ＡＩ関連のいくつかの領域ですでに世界の先頭に立ち、それ以外の領域でもアメリカに追いつきつつあります。当然ながら、ＡＩの重要性に目覚めたのは中国政府だけではありません。２０１７年９月１日には、ロシアのプーチン大統領が、「人工知能はロシアだけではなく全人類にとっての未来である。［・・・・・・］この領域を先導する者が世界を制するだろう」と断言しました。翌１８年１月には、インドのモディ首相が、「データを支配する者が世界を支配する」と、同様の意見を述べました。１９年２月にはトランプ大統領が、「ＡＩ時代が到来した」、そして「人工知能の分野におけるアメリカの継続的なリーダーシップが、アメリカの経済と国家の安全保障維持に何よりも重要である」と述べ、ＡＩに関する大統領令に署名しました。

「ウェブからコクーンへ」では、心と身体についての古くからの神学論争は、ＡＩ革命にはまったく無関係に見えるかもしれませんが、じつは２１世紀のテクノロジーによって復活したのです。著者は、「わたしが目覚めている時間のほとんどを、自分の部屋でコンピューター画面の前に座って、オンラインゲームをしたり、バーチャルな関係を築いたり、仕事さえもリモートでしたりしながら過ごしたとしましょう。食事のために、あえて出掛けることすらしません。料理を配達してもらうだけです。もしあなたが古代のユダヤ教徒や初期のキリスト教徒のような人だったら、私を気の毒に思い、私は物質的空間や生身の体という現実との接点を失い、妄想の中に生きているに違いないと結論するだろう。だが、もしあなたの思考がルターや後の多くのキリスト教徒の考え方に近かったら、私は解放されたのだと思うかもしれない。私は自分の活動と関係のほとんどをオンラインに移行させることで、自分を有機的な世界の制約から解き放ち、人を弱らせる重力や堕落した身体から脱し、デジタル世界の無限の可能性を楽しむことができるようになった、と。そのデジタル世界は生物学の法則からも、物理学の法則からさえも自由になる可能性を持っている。私は、はるかに広大で、より刺激的な空間を自由に動き回り、自分のアイデンティティの新たな面を探ることができる」と述べます。

「人間の選択」では、国際関係についてのこのぞっとするような見方は、人間関係についてのポピュリストやマルクス主義者の見方によく似ていることが指摘されます。それらはみな、人間は権力にしか関心がないと見ているからです。そして、それらはみな、霊長類学者のフランス・ドゥ・ヴァールが「ベニヤ説」と名づけた、人間の本性に関するもっと根深い哲学理論に基づいています。その理論によると人間は本質的には石器時代の狩猟者であり、この世界を、強者が弱者を餌食にし、力が正義であるジャングルとして見ることしかできません。そして、人間は何千年にもわたって、この不変の現実を神話や儀式の薄い可変性のベニヤ板で偽装しようとしてきましたが、弱肉強食というジャングルの掟からはけっして本当に自由になれてはいません。それどころか、わたしたちの神話や儀式そのものが、ジャングルの支配者たちによって、弱者を欺き、陥れるために使われる武器なのです。著者は、「もし人間の文明が争いによって破壊されたとしたら、どんな自然の法則のせいにも、人間のものとは異質のテクノロジーのせいにもすることはできない。それはまた、私たちが努力すれば、より良い世界を生み出せることも意味する。これはうぶで浅はかな考えではなく現実主義だ。古いものもみな、かつては新しかった。歴史で唯一不変なのは変化することなのだ」と述べるのでした。

エピローグでは、本書では、ＡＩについての考察と聖書のような正典化された宗教文書の考察を並行して行なってきたことが確認されます。なぜなら、わたしたちは今、ＡＩの正典化という、決定的に重要な瞬間に差し掛かっているからです。著者は、「アタナシオスのような教父たちが『テモテへの手紙１』を聖書のデータセットに含める一方、『パウロとテクラの言行録』は排除することにしたとき、彼らは何千年にもわたって世界の在り方を決めることになった。２１世紀に至るまで、何十億ものキリスト教徒が、テクラの寛容な態度ではなく、『テモテへの手紙１』の女性蔑視の考え方に基づいて自分の世界観を形作ってきた。今もなお、それを逆転させるのは難しい。なぜなら、教父たちは聖書にどんな自己修正メカニズムも組み込まないことにしたからだ。今日、教父のアタナシオスに相当するのが、ＡＩのための最初のコードを書いたり、まだ赤ん坊の段階にあるＡＩのトレーニングに使うデータセットを選んだりするエンジニアだ。ＡＩが権力と権威を増し、ことによると自らを解釈する聖典となりつつあるなか、現在のエンジニアたちが下す決定は、はるかな未来にまで影響を与え続ける」と述べています。

「最も賢い者の絶滅」では、「もし私たちが真に賢いのなら、なぜこれほど自滅的なことをするのだろう？」という本書の冒頭で提起された疑問が繰り返され、著者は「私たちは地球上で最も賢いと同時に最も愚かな動物だ。飛び抜けて賢いので、核ミサイルやスーパーインテリジェンスを持つアルゴリズムを作ることができる。そして、飛び抜けて愚かなので、制御できるかどうか不確かなまま、そして、制御できなければ破滅を招きうるのにもかかわらず、かまわずそれらを作っている。なぜそんなことをするのか？　破滅への道を突き進ませるものが、何か私たちの本性の中にあるのか？それは私たちの本性ではなく、情報ネットワークのせいだと、本書では主張してきた。人間の情報ネットワークは、真実よりも秩序を優先するせいで、これまでたびたび多くの力を生み出したが、知恵はほとんどもたらさなかった。たとえば、ナチスドイツは非常に効率的な軍隊を築き上げ、狂気の神話のために使った。それが途方もない規模の苦難と、何千万もの人の死と、最終的にはナチスドイツの崩壊にもつながった」と述べます。

幸い私たちは、危険に気づかないまま自己満悦したり、やみくもに絶望したりするのを避ければ、自らの力を抑制し続けられるような、バランスの取れた情報ネットワークを創出することができます。そうするのは、新たな奇跡のテクノロジーを発明したり、これまでのすべての世代がなぜか見落としてきた素晴らしいアイデアを思いついたりするというのとは違います。著者は、「より賢いネットワークを創り出すには、むしろ、情報についての素朴な見方とポピュリズムの見方の両方を捨て、不可謬という幻想を脇に押しやり、強力な自己修正メカニズムを持つ制度や機関を構築するという、困難でかなり平凡な仕事に熱心に取り組まなければならない。それがおそらく、本書が提供できる最も重要な教訓だろう」と述べます。

「訳者解説」では、柴田裕之氏が、「『サピエンス全史』では人類の過去を見渡し、「認知革命」「農業革命」「科学革命」の３段階をたどりながら、ヒトという非力な霊長類が地球の支配者となる過程を詳しく考察しました。著者は、「サピエンスの成功のカギとして著者が挙げているのが、多数の見知らぬ者どうしが協力して柔軟に物事に対処する能力であり、その協力は、伝説や神話、神々や宗教、企業や法制度、国家や国民、人権や平等や自由といった虚構を共有することで成り立っている。だが著者は、果たしてその成功が、サピエンスはもとより、生きとし生けるものの幸せにつながったのか、という問題も併せて提起した」と述べています。

続く『ホモ・デウス』では、人間が不死と至福と神のような力の獲得を目指す理由を、サピエンスの変化と宇宙論という大きな枠組みの中で解き明かしてから、生命の遠い将来を探究し、人間がいずれ神のような存在となる可能性や、知能と意識が最終的にどのような運命をたどるかについて、入念に考察しました。そして、過去３００年にわたって世界を支配してきた人間至上主義が、人間ではなくデータをあらゆる意味と権威の源泉とするデータ至上主義に取って代わられる危険を警告するとともに、それを避ける選択肢があることを示し、希望を与えてくれました。

前２作でそれぞれ主に過去と未来を題材にした後、『２１　Ｌｅｓｓｏｎｓ』では「今、ここ」にズームインしました。そして、長期的な視点を持ちつつ、自由や平等、ナショナリズムや移民、テロや戦争など、今日の差し迫ったに２１のテーマを取り上げて論じました。著者は、「話は多岐に及ぶが、その背景にある著者の意図ははっきりしており、それは、『的外れな情報であふれ返る世界』で『それなりの明確さを提供するように努め』ることと、『さらなる思考を促し、現代の主要な議論のいくつかに読者が参加するのを助けること』だった」と述べます。

ちなみに、従来は「ＡＩは『Ａｒｔｉｆｉｃｉａｌ　Ｉｎｔｅｌｌｉｇｅｎｃｅ（人工知能）』の頭字語だった」が、「『Ａｌｉｅｎ　Ｉｎｔｅｌｌｉｇｅｎｃｅ（人間のものとは異質の知能）』の頭字語と考えるほうがいいかもしれない」と著者が言っていることが紹介されます。「ＡＩは進化するにつれ、人間の設計に依存しているという意味で）『人工』である程度が下がり、より『エイリアン（人間とはまったく異質のもの）』になってきているからだ」

題名が示唆するように、本書のキーワードは「ネクサス」と「情報」です。「情報」とは多種多様な意味を持ちうるものですが、著者は歴史という文脈で情報を、「さまざまな点をつなげてネットワークにして、新しい現実を創り出すもの」と定義します。ほとんどの情報は現実を表す試みではありません。誤りや嘘や空想、神話や物語をはじめとする虚構も情報です。柴田氏は、「やや意外な説明に思えるかもしれないが、著者は例を挙げながらそれを裏づけていく。『ネクサス』は、一般には『つながり』『結びつき』『絆』『中心』『中枢』などを意味するが、本書ではさまざまな点をつなげている情報がネクサスとなる」と述べています。

人類が直面しているとして著者が挙げる三大危機、すなわち生態系の崩壊と世界戦争と制御不能のテクノロジーはグローバルな問題です。その解決にはグローバルな協力が必要とされますので、国内であれ、国際間であれ、分裂や分断を許している場合ではありません。著者によれば、わたしたちには「バランスの取れた情報ネットワークを創出することができる」といいます。ここで話が一巡して原点に戻ってくるとして、柴田氏は「人類の強みは物語というネクサスで結びついた情報ネットワークを通して大勢が協力できることだった。そして、物語は虚構だから、いくらでも柔軟に変えたり新たに生み出したりできる。そして私たちは『話し合いができるかぎり、共有できる物語を見つけて互いに近しくなることができる』」と述べるのでした。今回も、柴田裕之氏の達意の訳文で、現代における世界最高の思想家であるハラリの「知」の冒険を大いに楽しむことができました。