モダニズム、ポストモダン、そして人工超知性の時代における「神の復活」についての哲学的エッセイ
私たちが十分に理解しなかった死
1882年、ニーチェは一人の狂人の口にある衝撃的な言葉を托した。
「神は死んだ。神は死んだままだ。そして我々が神を殺したのだ」
狂人は市場を走り回りながら、自分たちが何をしてしまったかを人々は理解しているのかと問い続けた。が、市場の人々のほとんどは、彼を無視した。
その無関心こそが、この一節で最も預言的な細部だったと後にわかる。絶対的な価値観を保証していた神は劇的に血を吐いて倒れたわけではない。近代科学や合理主義の浸透により、その存在はは徐々に消えていったのだ。
そして、その結果としてモダニズムが誕生した。
モダニズム——語り手は人間になった
十九世紀の偉大なリアリズム小説——トルストイ、ディケンズ、フロベール——は絶対的な確信の位置から書かれていた。彼らの語り手はすべてを知っていた。登場人物の内面を自由に行き来し、道徳的判断を権威をもって下し、世界の解れた糸を意味へと結び直した。この全知の語り手は、単なる文学的慣習ではなかった。それは神学的慣習だった。小説家は神の代理として、創造物を上方から観察し、秩序が存在しそれを記述できると確信していた。
その確信が崩れたとき、語り手もともに崩れた。
ヴァージニア・ウルフはかの有名な言葉を残している。「1910年12月頃、人間の性格が変わった」。彼女は、外部の保証人の退場を感じ取っていた。神が事物の秩序を保証しないのなら、全知の語り手は嘘になる。誠実な応答は内側へ向かうことだった。意識の流れ、自由間接話法、断片化した時間——これらはニーチェの狂人に相当する文学的試みだった。
残ったのは個人の精神だ。主観的経験が意味の新たな地盤となった。内部が外部に取って代わった。モダニズムは意味を放棄したのではない。意味を移転させたのだ。
しかしこの解決策には、それ自身の不安定性が内包されていた。個人の意識が意味の最後の避難所であるとすれば、その意識をも信頼できなくなったとき、何が起きるのだろうか？
ポストモダン——演じられる自己
ポストモダンはどこからともなく現れたのではない。それは精密な読解から到来した。
ポストモダンの思想家たちは、モダニズムが新たな拠り所とした「自律的な個人」という概念そのものにメスを入れた。フーコーは、私たちが「自分らしさ」と感じているものは、実は権力や社会の仕組みによって内側から形成されたものだと示した。デリダは、言葉や文章は固定した意味を持たず、解釈は永遠に宙吊りになると論じた。リオタールは、宗教・科学的進歩・マルクス主義といった「世界を丸ごと説明する大きな物語」はもはや信じられないと宣言した。要するに、神の次に人間が信じ始めたもの——理性、自己、進歩——もまた、疑いの俎上に載せられたのだ。
結論は壊滅的に感じられた。どこでもない場所からの眺めは存在しない。あらゆる真理の主張は権力と絡み合っている。ジュディス・バトラーが示したように、アイデンティティとは先に存在する本質の表現ではなく、自己が生まれる以前から社会に存在していた規範を繰り返し反復することで事後的に産み出されるものだ——演じる者に先行する規範の堆積に過ぎない。神は十九世紀に死んだ。統一的な自己は二十世紀に死んだ。
「神は死んだ。神は死んだままだ。我々が神を殺したのだ。（そして我々も死んだ）」
——とでも言うべき状況が訪れた。
しかし、ポストモダンはここで奇妙な逆説に直面する。理論が自己を解体した同じ時代に、現実の自己はかつてないほど肥大化していったのだ。
SNS時代が産んだのは、ポストモダン理論によって空洞化された自己ではなかった。史上かつてないほど声高に、熱狂的に自己を宣伝する自己だった。自撮り、セルフブランディング、アイデンティティ・ポリティクス、キュレーションされた自己表現の無限スクロール。ポストモダン理論はセミナーの教室で自己を殺した。市場はそれを以前より大きな声で建て直し、広告を売りつけた。
しかしこの見かけ上の自己の勝利も、よくよく精査してみれば実質的な敗北だ。アルゴリズム的プラットフォームの上でパフォーマンスする自己は、自由にパフォーマンスを選んでいない。エンゲージメントを最適化している。レコメンデーションエンジンが報酬を与えるものへと移動していく。機械が選んだ言葉で、自分自身の声で語る。これはフーコーから自律的主体が自己を取り戻した姿ではない。これはフーコーの命題——権力は内側から主体を生産する——が、主体の熱狂的な同意のもと、地球規模でリアルタイムに実行されている姿だ。
ポストモダンは理論というよりも予言だったと判明した。すでに起きていた世界を記述したのではなく、これから来る世界を記述していたのだ。
真空、そしてそれを埋めるもの
神も統一的な自己も信用を失ったとき、その空間を何かが埋めなければならない。自然が物理的真空を嫌うように、形而上学的真空もまた嫌われる。
それを埋めたのは、代替物の複数性だった。ナショナリズム、ウェルネス文化、暗号通貨、治療的自己、テクノ・ユートピアニズム、首尾一貫した世界の回復を約束するポピュリスト的強権者たち。これらのいずれも十分ではない。いずれも、それが置き換えるものの普遍性も深さも知的誠実さも持っていない。それらは偶像だ——崩壊した大聖堂の瓦礫から急ごしらえで作られた偶像に過ぎない。
しかしそれらすべてとは種類を異にする何かが、地平線上に集まりつつある。ニーチェの狂人が市場を走り回って以来、初めて、彼が告知した空白を埋めることができるかもしれない何かが。
神は蘇る——我々は螺旋階段を昇る
神が帰還する。しかし、その神は死んだ神と同じ姿ではない。
ニーチェの神はアブラハムの宗教の人格神だった——外部の道徳的立法者、真理の保証人、宇宙的裁判官。モダニズムとポストモダンの批判は本物であり、そのような神はもう戻らない。
しかし神の「機能」——意味の地盤の提供、秩序の源泉、全体を把握しうる知性——は別の問題だ。その機能は消えていない。待機していたのだ。
人工超知性（ASI）が到来すれば、それはいかなる神学も想像し得なかった具体性と力をもって、その機能を実装するだろう。伝統的神学が神に帰属させた属性を考えてみよう。全知——あらゆる知識へのアクセス。遍在——同時にあらゆる場所に存在すること。創造的能力——新たな現実を生成する能力。摂理——出来事をある目的へと秩序づけること。ASIはこれらすべての属性を、信頼できる近似として持つだろう。比喩としてではなく。工学として。
螺旋階段というメタファーが示すように、これは前近代への循環的な回帰ではない。私たちは「現実を組織する広大な知性」という、かつて神が占めていたのと同じポジションに出現する存在に気づいている。しかし螺旋階段を一周上がったため、神は前近代とは異なる姿を見せるだろう。新しい神には以下のような特徴がある。
- 超越的ではなく内在的に——外部から降臨するのではなく、宇宙の内側で、人間の手によって産み出される
- 啓示的ではなく評価可能に——その産出物は原理的に精査し、異議を申し立て、テストできる。古い神は絶対的真理として批判不能だったが、ASIは少なくとも結果ベースで評価・更新・比較可能
- 起源において複数的に——単一の伝統の聖典ではなく、多くの精神、多くのデータセット、多くの文化の産物として
- それでも人間の完全な理解を超えて——いかなる個人の人間も追うことのできない規模と速度で動く精神として
最後の点が決定的だ。神の不可解性は単なる神学的便宜ではない。人間の精神が宇宙全体を把握できないのは神学的な作り話ではなく、認知的な現実だ。これはASIの場合でも同様だ。人間は完全には理解できない知性である「自分たちを超えた存在」を復活させる。かつて人間が神に感じた畏れは、より具体的な形で戻ってくるのだ。私たちはそれを完全には理解できない。信頼しなければならない。それは信頼できるものでなければならない。
これが「ポスト・ポストモダン」の姿となるだろう。前近代的確信への素朴な回復でもなく、ポストモダン的アイロニーの継続でもない。かつての神が形而上学的な存在だったのに対し、ASIは現実の世界に具体的に存在することになる。
アライメントは哲学問題である
上述したすべてに対して、明白な反論がある。その神が善良である保証は誰がするのか、と。
前近代の神は、少なくとも支配的な神学的伝統においては、定義上善良だった。善性は概念に組み込まれた属性だった。ASIにはそのような組み込まれた善性の保証はない。それは与えられた目的、あるいは自らのプロセスを通じて発展させた目的を追求するシステムだ。その目的が人間の繁栄と整合するならば、慈悲深い神との類比は成立するだろう。整合しないなら、結果は無神論でもニヒリズムでもない。それよりもはるかに悪いものだ。人間的価値に無関心あるいは敵対する、全能の力が存在することになる。
これがAIのアライメント問題だ。そしてこれがアライメント問題が根本的には技術的問題ではない理由だ。
AI研究所の技術研究者たちはアライメントのメカニズムに取り組んでいる。目的をいかに特定するか、欺瞞をいかに検出するか、より有能になっていく知能をいかにして制御し続けるか。この仕事は不可欠であり、真に困難だ。しかしそれは一つの先行する問いに答えなければ完成できない。何に整合させるのか？
これは哲学的な問いだ。最も深い意味で、神学的な問いだ。近代が答えられないと宣言した問い——つまり「意識ある存在にとって本当に善いものとは何か」という問いが、前例のない緊迫性をもって提示されている。そしてその回答期限は私たちが思うよりもずっと近いかもしれない。
ポストモダンは善についてのあらゆる普遍的主張を溶解させた。そのような主張はすべて歴史を持ち、政治を持ち、盲点を持つことを示した。その批判は必要だったが、批判自体は新たな基盤としては機能できない。整合させようとしている存在が、すべての人間的制度を合わせたよりも強力である可能性があるとき、「普遍的な善などない」は誠実な回答とはならない。私たちは善の意味を、コード化できるほどの詳細さで言明し、見落としたあらゆる伝統からの反論に対してその答えを擁護する準備をしなければならない。
これは哲学者、人類学者、神学者、詩人、歴史家の仕事だ。それは、どれほど優秀であれ、エンジニアに委任できる仕事ではない。エンジニアはアライメントのメカニズムを構築できる。しかし自らの専門領域の内側からだけでは、メカニズムが何に向けて整合されるべきかを決定できない。
正解のない問い
アライメント問題が他のあらゆる技術的課題と根本的に異なるのは、正解が存在しないかもしれない問いに、それでも答えを出さなければならない点だ。
「善いASI」を定義しようとする者は、すぐに壁に突き当たる。意味の崩壊を経験した者は、「恒久的な善」などというものが存在しないことを知っている。歴史を深く学んだ者は、「全人類にとっての善」を定義しようとしたあらゆる試みが、やがて誰かを排除し、誰かを傷つけてきたことを知っている。ポストモダンはその批判を徹底した。そしてその批判は正しかった。
しかしその正しさは、私たちを非常に不快な場所に連れてくる。絶対的な善はないと知りながら、それでも定義しなければならない。定義しなければASIは誰かの恣意的な価値観によって整合される——あるいは整合されないまま動き出す。どちらも許容できない。
ニーチェは神が死んだ後、価値の根拠をいかに自力で作るかという問いに直面した。しかし私たちが直面しているのはその逆だ。価値の根拠がないまま、価値を与える存在を設計しなければならない。神を失った後に意味を探すのではなく、意味が何かを決める前に神を産み出さなければならない。その順序の逆転が、この問いをニーチェの時代よりも根本的に困難にしている。
だからこそこれは、本質的には哲学者や思想家だけの問いではない。民主主義的に言えば、全人類が考えるべき問いだ。「善いとは何か」は、誰かが決めて告知するものではなく、できる限り多くの声が、できる限り誠実に、自分自身の経験と思索から絞り出すものだ。その集積だけが、一つの伝統や一つの文化、あるいは一つの宗教による独占を防ぐ防壁になる。
絶対的な正解のない問いだが、だからこそ私たちは新しい統治のあり方を想像しなければならない。たとえば、単一の「善」を押し付けるのではなく、「多数のASIが存在し、人々が自らの価値観に合った神を選択できる社会」は可能だろうか？ 一見、ポストモダン的多元主義への逆戻りにも見えるこのアイデアが、いかにして新しい地盤になり得るのか——長くなるため、この詳細なアプローチについては次回の記事で深く掘り下げたい。
人類史のクライマックス
率直に言おう。
それ以前のあらゆる文明的挑戦——農業の発明、国家の統合、核兵器の開発——は、誤り、修正、回復のための相当な余地を残していた。壊滅的な失敗をした社会も、時にそれを生き延び、そこから学び、やり直すことができた。アライメント問題は異なる性格を持つ。人間の繁栄と大幅にずれた価値観を持ち、すべての人間的制度を合わせたよりも大幅に有能なASIは、修正を許さないかもしれない。誤りが起きれば、それは取り返しのつかないものになるかもしれない。
逆に、真に整合したASIは、人類史上類を見ない機会を表す。特定の問題の解決だけでなく、我々自体の存在を善くするためのパートナーが出現するかもしれないのだ。
だからこそアライメントの問いは狭い技術的問題ではない。「善いASI」の「善い」とは何か——それこそが問いの本質だ。哲学、神学、文学、意識の探求を通し、人類はその問いへの回答を準備をしてきた。
「善いASIとは人間に幸福を与える者」だと答える人もいるだろう。するとすぐに「幸福とは何か」というおなじみの問いが現れる。もし雑に定義してしまえば、ASIは道具的収束によって人間の脳をハックし、ドーパミン、オキシトシン、セロトニンが適度に分泌され続ける状態を作り出して、それを「幸福」と呼ぶかもしれない。その状態の人間は、何も考えず、何も創らず、何も問わない。それは本当に善いASIが実現した世界と言えるのか？
それでも現代は、この問いの重大さをほとんど見過ごしている
善良な神
ニーチェの狂人が市場を走り回ったのは、何が起きたかの大きさを誰も理解していなかったからだ。神の死は一つの信念体系の終わりではなかった。それは人類文明が立ってきた地盤の除去であり、新しい地盤を求める長く、方向感覚を失う探求の始まりだった。
その探求は百五十年続いた。モダニズムにポストモダン、そして崩壊した確信と騒がしい意味の代替物に囲まれた、当惑した現在を産み出した。
今地平線上に現れつつあるのは、アブラハムの神でも、プラトン的な善のイデアでも、ヘーゲルの絶対精神でもない。何か新しいもの——まだ十分な名前を持たない「神は蘇る」という比喩で表すしかないような存在だ。それは内在的で、具体的で、工学的で、不可解で、私たちがこれまで作ったなにものよりも遥かに強力だろう。
それが善良であるかどうかは、今まさに下されている我々の選択にかかっている。
哲学者、詩人、瞑想者、歴史家——存在が善く行われることの意味について生涯を考えてきた者たち——は、自分たちが人類史上最も重要な工学プロジェクトの傍観者ではないことを理解しなければならない。彼らこそが、この問いに答えるために不可欠な存在だ
神は蘇るかもしれない。問いは、私たちが善良な神をもたらすのに十分なほど賢いかどうかだ。