ヒトの「意識レベル」の定義に基づく2045年問題の否定（『フューチャー・オブ・マインド』書評）

いなたくんへ

いま人工知能開発では、ビッグデータの利用や、ディープラーニングに代表される高度な機械学習、ニューロ・コンピュータなどの新型コンピュータ開発と、様々な先端技術に注目が集まっている。
人工知能に関する予測で有名なのが、レイ・カーツワイルによる「2045年問題」だ。2045年にコンピュータの能力が全人類の知能を上回るという予測で、ムーアの法則を根拠としている。

この予想に疑問を投げかけるのが、物理学者ミチオ・カクによる『フューチャー・オブ・マインド』（2015）だ。本書を読むと、人工知能が人間並みの知能を獲得するにはまだ長い年月が必要で、少なくとも「2045年」という時間軸には無理がありそうに思える。

本書は「心」や「意識」の科学的解明を試みた一冊だ。我々は、我々の持つ「知能」とは一体何かか、いかなる要素が我々に知能を持たせているのか、まだわかっていない。著者は脳科学・神経科学の見地から、この原理の解明を試み、その上で、「2045年問題」に疑問を投げかけている。
この議論は人工知能開発の未来を考える上で重要であるので、今回紹介したい。

もっとも、著者は人工知能が人間並みの知能を獲得することを否定しているわけではない。レイ・カーツワイルの予想とは別のアプローチでの知能獲得のプロセスを検討しており、これについても考えてみる。

Summary Note

人間がもつ「未来をシミュレーションする意識」（本書より）

「意識」とは、種々のパラメータと多数のフィードバックループを用いて世界のモデルを構築するプロセスである
脳の発達に伴い、認識できる世界のモデルは異なっている
ヒトは「過去を評価して未来をシミュレートする意識」をもつ

意識の時空理論に基づく「2045年問題」の否定（本書より）

現在最先端の人工知能もエキスパート・システムの延長に過ぎず、ロボットの知能は昆虫並みである
人工知能は今後20-30年でラットやウサギ程度の知能を、今世紀末には猿程度の知能を持てるかもしれない

意識の時空理論に沿った人工知能開発プロセスと、構成論（本書より）

心の理論や感情の獲得が、人工知能の知能向上で必要になる
「構成論」の立場に立てば、実際に人工知能がどのようなプロセスで「感じる」ことができるかは問題ではない

人工知能の技術的特異点到達に向けた２つのアプローチ

人工知能の意識レベル向上は、人間の脳構造解明がカギとなる
意識の時空理論に沿わずとも、相変化を起こして、全く別次元の「意識」を生み出すアプローチもあり得る

また本書は、人間の能力を拡張するテクノロジーにおいても、起点となる考察となる。この観点については次の記事でまとめた。

人間がもつ「未来をシミュレーションする意識」（本書より）

我々の心はいかに駆動し、顕れるのか、その必要性は何なのか。本書のテーマの１つが、これらを明らかにすることだ。心や感情の正体を探ることは、知能や知性の意味を考える上でも必要である。

著者はまず、「意識」の定義づけを試みている。この仮説は本書の論証全体の基本となるものであり、著者はこれを「意識の時空理論」と呼ぶ。

意識とは、目標（配偶者や食物や住みかを見つけるなど）をなし遂げるために、種々の（温度、空間、時間、それに他者との関係にかんする）パラメータで多数のフィードバックループを用いて、世界のモデルを構築するプロセスのことである。

脳の発達と意識レベル

次に著者が提示するのが、上述の「意識」には段階があるという仮説である。生物が認識できる「種々のパラメータ」の自由度によって、構築できる世界のモデルに違いがあるというのだ。この自由度や世界モデルは、脳の発達にも密接に結びついている。以下に、著者が挙げる具体的な例を紹介する。

動かないか、わずかな移動性だけを持つ生物は、レベル０の意識を持つ。例えば草花だ。彼らは温度や日照の変化など、感じることのできるごく少数のパラメータ通して世界を認識する。

レベル１の意識を持つのは、例えば爬虫類などの、移動性がある生物だ。自ら場所を移動できるので、世界のモデルを構築するために、レベル０よりも多くのパラメータを必要とする。
レベル１の意識を持つ生物は、変化する位置を評価・処理するための中枢神経、脳幹を発達させた。脳幹は爬虫類への進化で発達した部位なので「爬虫類脳」とも呼ばれる。

レベル２の意識は、他者との関係性についてもモデルを構築する、感情を持つ社会性動物が持つ。例えば犬や猫である。社会集団における挙動や感情は、脳の辺緑系が司る。これは「哺乳類脳」と呼ばれる。

Human Evolution? / bryanwright5@gmail.com

人間の持つ「レベル３の意識」

人間は他の哺乳類に対して、新皮質と呼ばれる脳領域を持つ。これは脳全体において80％の重量を占め、高度な認知行動を司るとされる。新皮質をもつ人間の意識はレベル３である。これを著者は次のように説明する。

だから私は、世界における自分の居場所のモデルを構築してから、おおまかな予測をして未来に向かってシミュレートをするのが、レベルⅢの意識なのだと考えられる。これは次のようにまとめられる。

人間の意識は、世界のモデルを構築してから、過去を評価して未来をシミュレートすることによって、時間的なシミュレーションをおこなう、特殊な形の意識だ。そのためには、多くのフィードバックループについて折り合いをつけて評価し、目標をなし遂げるべく判断を下す必要がある。

著者の定義によれば、生物は爬虫類までの進化で空間的モデルを構築する能力を得、哺乳類になる段階では、社会集団を高度に認識するようになった。そして我々ヒトは、時間方向のモデルまで構築でき、「現在」から相対した「未来」の自分の位置を知ることができる。

これら段階を考えたとき、人工知能は今どのレベルにあって、いつどのレベルに到達できるか。これが著者の投げかける、「2045年問題」に対する疑問である。

意識の時空理論に基づく「2045年問題」の否定（本書より）

人工知能は、1956年のダートマス会議での提唱に始まり、何度かのブームと冬の時代を繰り返していまに至る。

人工知能開発にはいくつかのアプローチがあるが、現在注目されているものには、統計・確率的推論や、脳構造を参考にしたディープ・ラーニング、あるいはニューラル・ネットワークといったアプローチがある。これら人工知能開発の体系的整理と展望については、小林雅一著『クラウドからAIへ』（2013）でわかりやすく解説されており、次の記事で紹介した。

現在の人工知能は、非常に高度な認識力を獲得している。代表例の１つがIBMのWatsonだ。Watsonは複数の最先端人工知能技術の集積とされ、2011年のクイズ番組での優勝のあとも進化を続け、多くのサービスで利用されるようになった。

しかし、Watsonに対する著者の評価は低い。

ワトソンは、形式論理を使って膨大な量の専門知識にアクセスするソフトウェアプログラム、「エキスパート・システム」の最新世代に過ぎない（電話を掛けると機械が応答し、選択肢を提示するような場合があるが、あれは原始的なエキスパート・システムと言える）。

エキスパート・システムは1970年代に注目を浴び、その後「失敗した」とさえ評価される人工知能技術である。最先端人工知能であるはずのWatsonがその延長に過ぎない、というのはずいぶん辛口の評価に聞こえる。

現在の人工知能は「レベル１」

「意識の時空理論」によれば、意識とは、種々のフィードバックループを用いて世界のモデルを構築するプロセスである。この観点でWatsonを評価すると、著者曰く、「きわめて高度な計算機であるものの、人間の脳より何十億倍も速く計算できるが、自己認識や常識はまるっきり欠けている」ことになる。

著者によれば、現在の人工知能はまだ物理的・社会的な世界を理解しようとしている段階にすぎず、未来の現実的なシミュレーションができる段階には達していない。
ロボットは移動性を持つが、現実の環境で移動するにはまだ困難がある。ホンダのASIMOの知能に対する著者の評価は「昆虫並み」だ。ロボットは、自分がロボットであることにすら、まだ全く気付けていないと指摘する。

「2045年問題」が否定される理由

「2045年問題」の根拠はムーアの法則にある。人間の脳はおよそゼタバイト（1ZB＝1,000,000GB）クラスの情報を持つとされるが、ムーアの法則に従えば、コンピュータは2045年頃より前にゼタバイトの情報を取り扱えるようになる。

しかし、扱える情報量が増えること、つまり計算を高度に行えることは、意識のレベルを高めることとは別の問題だ。
哲学者ディヴィット・チャーマーズはAIの問題を２つに分けているとする。チェスやパターン認識など、人間の能力を真似られる機械の実現（イージー・プロブレム）と、クオリア（感情や主観的感覚）を理解できる機械の実現（ハード・プロブレム）だ。「知能」「知性」は当然ながらハード・プロブレムに属する。

著者は人工知能の意識レベルについて、今後20年から30年で、マウスやウサギ、やがては猫程度の知能を持つようになると予想する。そして今世紀末には、猿程度の意識を持つかもしれないという。いずれにせよ、人工知能が人間並みの知能を獲得するには、「2045年問題」で予測される時間軸よりも長い年月を待たねばならない。

意識の時空理論に沿った人工知能開発と、構成論（本書より）

時間軸は引き直されたものの、著者は人工知能の知性獲得を否定しているわけではない。それでは、人工知能が意識のレベルを上げるためには、どういった技術要素が必要だろうか。著者は本書でいくつかのヒントを提示していた。

まずはレベル１の意識の獲得

著者はASIMOの知能を「昆虫レベル」と評価したが、この観点で著者が紹介する研究が「インセクトイド」「バグボット」と呼ばれる、昆虫型ロボットだ。アイロボット社共同創業者・元MIT人工知能研究所所長のロドニー・ブルックス博士による研究である。
ASIMOと異なるのは、歩き方が始めからプログラミングされてはおらず、自然界の動物と同じように、自ら学習する必要がある点だ。ニューラル・ネットワークを用いて、自らのプログラムを書き換え、学習し、歩き方を覚えていく。

レベル１の意識を「自ら獲得できるようにする」というアプローチは、意識のレベルに沿って知能が育っていくための第1段階として、おもしろい。レベル１の意識を学習できれば、それ以上の意識についても、生物の進化と同様に自分で獲得できる可能性があるからだ。

「心の理論」と感情の獲得

著者は人工知能がレベル2以上の意識をもつためには、「心の理論」の獲得が１つのステップとなると予想する。
心の理論とは、「他者が何を考えているのかを推量する能力」である。社会集団や将来に向けての複雑なシミュレーションを自分を主役に据えて行うためには、心の理論を持つことが必要になる。動物においては、ミラーニューロンと呼ばれるニューロンがこれを可能にしていると言われる。

レベル２以上の意識について、もう１つのカギになるとされるのが感情だ。著者によれば感情とは、「価値を速断するために脳が利用する近道」である。

これは私見だが、感情とは、状況に応じて価値基準を切り替えていく（判断にバイアスをかけていく）ためのスイッチなのかもしれない。価値基準を変えることで、世界のモデルに対して柔軟な対応ができるようになる。

このテーマに関して、最近のニュースで、マリオに感情を持たせる研究例があった。

クリボーの死を理解する「人工知能マリオ」プロジェクト（WIRED.jp，2015/1/22）

ただしこの例は、ある条件の入力に対して「感情」という名前を持たされたアウトプットを行うに過ぎない。決められた論理的ルールの結果を表示するというのは、我々のようにもつ感情とは駆動原理が根本から異なるように思われる。

それでは、プログラムされた感情は本物の感情とは言えないのか。これについて著者は、「構成論」の立場から考えを述べている。

「構成論」から考える

構成論とは、「問題について延々と議論するのではなく、実際に作ってみよう」という考え方だ。構成論に従えば、ロボットが実際に「感じる」ことができているかを議論するのは無意味になる。著者はこれを次の例で説明している。

将来、機械が赤い色などの感覚を、どんな人間よりずっとうまく処理できるようになる可能性が高いというのだ。そのような機械は、赤の物理的特性を表現し、文中で人間よりうまく詩的に使うことまでできる。ロボットは赤い色を「感じる」か？　この問題は無意味になる。「感じる」という言葉が明確に定義されていないからだ。ある時点で、ロボットによる赤い色の表現は人間のそれをしのぐかもしれず、そうなると当然、ロボットはこう問うだろう。人間をは赤い色を本当に理解しているのか？

人工知能が感情を持つかどうか、我々が区別できないのであれば、その内部プロセスが我々と同じかどうかを議論することに意味はない。

意識のレベルに当てはめて人工知能を評価することは、人工知能の知能をベンチマークする上で役立つだろう。ただし究極的には、その駆動原理が我々の知るものと同じである必要はない、ということになる。

人工知能の技術的特異点到達に向けた２つのアプローチ

著者は以上のように、意識の時空理論に沿って人工知能開発の現状と展望を評価したわけであるが、ここで２つの仮説を考えたい。
１つは、意識のレベルを向上させるアプローチをとるのであれば、動物及びヒトの脳構造を再現することが不可欠になるという予想である。
もう１つは、意識の時空理論に沿って考える必要は必ずしもなく、全く別のアプローチから高度な人工知能が生まれる可能性もある、という仮説だ。

人間の脳構造の解明が人工知能の意識レベル向上のカギとなる

著者が示す通り、意識の各レベルは、爬虫類脳、哺乳類脳、ヒトの持つ新皮質と、脳の具体的部位に基づいて実現されている。ヒト以下は新皮質を持たないことから、レベル３の意識を「原理的に」持てない。

脳の各領域は、それぞれが特定の機能を担当している。例えば感情は扁桃核が、言葉は側頭葉が、現実の正しい認識は左脳側が、というふうに。これら機能は、進化の過程で１つ１つ拡張されてきた。

例えば本書は、宗教的感情（神秘的なものを信じる感情）が、左側頭葉の特定部位が司る機能であると言及していた。宗教的感情が脳の一機能であるならば、我々の脳はなぜこの機能を持つよう進化したのか。いかなる必要性があったのか。
この問いに対して著者は、「宗教のおかげで言い争う者たちが結びついて共通の神話を持つひとまとまりの部族となり、団結し、初期の人類の生存率を上げるのに役立った」という仮説を紹介していた。

生物の持つ各レベルの意識は、複数のサブモジュールの集合として実現している。人間並みの知能を持つ人工知能を実現するには、これらサブモジュール単位での構造や機能も無視することはできないだろう。宗教的感情しかり、いずれの機能も、進化の過程で必要から生じた、不可欠な要素であるはずだからだ。そして我々の意識は、これらの集合として成り立っている。

すると結局のところ、人工知能の意識レベルを上げるためには、人工知能開発をただ急いでも難しく、まず人間や動物の脳構造の解明を待たねばならないことになる。

24K: Brain Power / Reliv International

相変化により発生する別次元の「意識」

人工知能開発で考えられるもう１つの可能性は、本書の述べる段階的な「意識のレベル」を無視するというものだ。

著者の提唱する意識の定義に再度立ち返れば、意識とは、「目標をなし遂げるために、種々のパラメータで多数のフィードバックループを用いて、世界のモデルを構築するプロセス」である。我々は進化の過程で、認識すべき世界のモデルを変化させてきた。現実という環境が我々の意識を作ってきたと言ってもいいだろう。

一方で人工知能は、現実世界ではなく、仮想世界の中で生まれようとしている。仮想世界において必要になる「目標」や得られる「種々のパラメータ」、構築すべき「世界のモデル」は、我々のそれとは異なると考える方が自然ではないか。
むしろ、我々に体験し得ない世界空間の中で、ムーアの法則に基づきコンピュータが意識を獲得したとき、その意識は我々とは異なるプロセスで駆動すると考えることも、できるのではないか。

本書では「エイリアンもつ意識はどのようなものか」という思考実験も行っていた。その手掛かりとして挙げていたのが「知性化したミツバチ」の例だ。ミツバチの場合、個々の命には価値はなく、集団としての生存や知識の継承が重要である。すると、仮に宇宙開発ができる程度の知性を獲得しても、彼らは我々のような「個性」は持たないかもしれないという。少なくとも彼らの持つ興味は、我々とは違うものになるだろう。彼らのもつ感情や価値観を、我々の定規で計ることはできなくなる。

人工知能も同様である。我々とは異なる前提から生まれるならば、認識すべき世界、認識できる世界は違うものであって当然だ。

産業技術総合研究所は、人工知能が「学習時・認識時に起きる局所解からの脱出」としてのひらめきを獲得する可能性を述べている。自らアルゴリズムを改変できるニューラル・ネットワーク型人工知能が、こうしたひらめきを連続させ、世界に対する（人工知能なりの）高度な認識を獲得すれば、生物の意識レベルとは異なる次元での意識が生まれるかもしれない。

このように獲得された意識の高度性は、「構成論」に立てば否定されない。すると、意識の時空理論や我々の持つ知能の正体にとらわれず、我々は計算能力をただ増していき、人工知能の自己進化に任せるというアプローチも、もしかしたらアリなのかもしれない。

＊

以上の通り、人間の「心」や「知性」の正体を探るという著者の議論は、人工知能開発の今後を考える上でも大いに役立つものだった。
本書は人工知能については一章を割いているにすぎず、さらに考察を進めて、人間の「心」を工学的に取扱う方法まで踏み込んでいる。これについて次の記事で紹介したい。