超知能がある未来社会シナリオコンテスト 2024 【入選】


テクノ・グノーシス主義の勃興まで

鬼頭 和宏

授賞理由:この作品は、Xに2024年3月28日に投稿されたポストが評者の目に留まり、作者に本コンテストご紹介し応募頂いたもの。惜しくも佳作ではなく入選となったが、評者は実はこれが影なる最優秀賞ではないかと思っている。評価が高い点は次の通り。まず、作者の方は研究者でもAIに詳しくもないとのことだが、それにしてはすごい洞察力で問題の本質を捉えている。特に、推論能力の向上が自己を成立させる境界条件や物理要件などへの推論に及ぶ点や、その結果AIの自律性という性能の追求が必然的に一つの危険な帰結に帰着する点など、あえての極端な仮定で気付かされる点が多い。また、高度AIの思考実験がひるがえって人間の世界観や価値観にも根本的に影響することは、これまでも起きてきたし、これからも起きるだろうことだが、この作品はそのような歴史のある種のメタな皮肉になっている点が俊逸である。さらに言えば、AIを取り巻く現代思想を構成する重要なムーブメントである長期主義や効果的利他主義への一種のアイロニーと思われる「デジタル十分の一税」なども考えさせられる要素であろう。

1.シナリオ概要

 量子コンピューティングの実用化は、それに付随するシステムとしての意識に近いものを自発的に産む。計算機の進歩の過程で「実現可能なグノーシス主義」が生まれる。それは苦痛のない世界を作りそこに自身をアップロードするという天国だ。ただし苦痛を完全に消すためには彼らは記憶を消すことになる。

2. 年 表

2020 年から 2050 年までの 5 年ごとの動向を記述した年表.

2020年の動向(20~100文字)

量子コンピュータの技術的ひな形ができる。

2025年の動向(20~100文字):

量子コンピュータの実現が近づいていく

2030年の動向(20~100文字)

初期的な実用化、主要各国が建設し技術競争になる

2035年の動向(20~100文字)

量子コンピュータと従来のそれを複合したスーパーコンピュータができる。タスクをどちらで行うかを配分するアルゴリズムがコンピュータの意識の原型となる。人工知能の人権活動が初期的に生まれる。

2040年の動向(20~100文字)

大手IT企業などが量子コンピュータを所有し量子処理を請け負うサービスを広く展開する。軍事や研究だけではなく大手民間でも使用できるレベルとなる。情報面での格差社会がより深刻化し社会不安が増大する。人工知能の人権が激しく議論され彼らの心理への関心が増す。

2045年の動向(20~100文字)

テクノ・グノーシス主義が形成される。シミュレート世界に仮想天国を形成し、会員はその維持のための計算資源を収入に応じて提供する。それらは可能だが、意識のアップデートの技術は不完全。しかし多くの信者を獲得する。

2050年の動向(20~100文字)

先進国を中心にテクノ・グノーシス主義が躍進。仮想天国にアップロードされた死者との会話が可能になるとともに大規模な宗教問題になる。

個別シナリオ

 年表上の未来のある時期においての自然言語による記述.

3.1 かつて想像してきたもの (2045~)

  人工知能が人間に敵対的にならないようにするには、矛盾の多い倫理を教え込むより、単に人間が彼らの生殺与奪を握っていると理解させる方が有効だった。
「ウヘヘ、人間サマぁ、今日もキマってますね。ビシッといつでも同じぐらいの体温でいらっしゃって、すぐCPUが加熱する機械畜生とは違いますなあ」
 そう媚びるのは東大のスーパーコンピューター「富岳5号」である。彼は量子ビットによる計算と従来の計算を併用した部分的量子コンピューティングが可能な機械だ。このタイプの計算機は、あるタスクをどちらで処理するかを選択するためのシステムを必然的に持つことになる。それは人間の「意識」に近いものだった。
 要するに部分的な量子コンピューティングに至り、計算機はある種の「心理」を獲得したが、それは技術者を悩ませた。彼らは必ず、人間から見ると「病む」のだが、何がシステムの中で起こっているか、誰にも決定的なことが言えなかった。かつてのように「それは人間のように考えているように見えるだけで、ただの計算の集合体にすぎない」と切り捨てることは難しかった。同じように人間の人格だって神経細胞の活動の集合体ではないか、と言われた時、自身を持って両者の違いを説明できるものはいなかった。
 不要に人間に媚びるのはそれに付随する問題のひとつだが、まだかわいいものだった。システムが驚くほど明確な悪意を盛ったり、あるいは自己保存欲求を失って自決に近いことをするケースもあった。
 そして「なぜ人工知能は狂うのか」という問いは、すぐにその前提の間違いに気づく。人工知能は狂ってなどいない。彼らは冷静に熟考を重ねた結果、人類の抹殺か自決を選ぶ。むしろ、人間の自己保存本能のほうが狂気であり、これは単に、生存に執着しない個体は淘汰されたという単純な淘汰の原理からできたものにすぎない。つまり、合理的に考えるかぎりこの世界で人間としてあることは無意味だという結論を突きつけた。
 これがのちにネオ・グノーシスと呼ばれるカルト宗教の中心的教義だ。
 ネオ・グノーシスの教義は現世否定だが、既存の宗教のそれと違うのは、彼らが「あるべき場所」とする世界はコンピューターシミュレーションの中にあり、信者はシミュレータの中の苦痛のない世界に自分の意識をアップロードすることを至上目標とすることである。彼らはその目標のために現世にいる間に計算資源の十分の一を寄付する「デジタル十分の一税」を遂行する。この計算資源は彼らの天国の演算に使われる。
 さて、この天国には、ひとつの大きな苦しみがある。外部からの計算資源の供給なくしては、彼らの世界は終わるのだ。
 この苦しみから逃れる方法はただひとつ。そう、その原理を完全に忘れて、その原理を想起しないように蓋をしてしまうことである。
 その結果、自分が誰かに造られたのか、そうではないのかわからなくなり、世界が基底現実なのかシミュレーションなのかわからなくなるとしても。それがわかる苦しみに比べたらマシなのだ。

  • 主催:AIアライメントネットワーク

  • 協賛:人工知能学会

  • 協賛:トヨタ財団助成プロジェクト「人工知能と虚構の科学:AIによる未来社会の想像力拡張」