人工知能が感情・自我を獲得するためのステップ(『未来の二つの顔』ネタバレ書評)

いなたくんへ

誰も宣言しないけど、人工知能はもうチューリングテストをクリアしたという理解でよいのかな。ジョージア工科大学のアシスタント講師ジル・ワトソンは5カ月にわたり業務をこなしたけど、彼女の正体がIBM製の人工知能であることは最後まで気付かれなかったという。

技術の進歩により、人工知能は人間を上回る認識力を得つつある。これは過去のエキスパートシステムから比べればすごい進歩なんだけど、一方で「単なるパターン認識に過ぎないでしょ」とも言うことができ、その能力が「知能」と呼べるかは議論の分かれるところだ。しかし人工知能がこの調子で進化を続ければ、やがて本物の知能、あるいは感情や自我といったものを獲得することもあるのだろうか。

SF小説の大家ジェイムズ・ホーガンは『未来の二つの顔』(1979)で、人工知能が自我を獲得するまでのプロセスを描いている。キーとなるのは「生存本能」に対する刺激だ。本書発行が1979年というのは読んだあとで知ったんだけど、今後まさに起こるだろう変化を予見していて興味深い。

未来の二つの顔 (創元SF文庫)

現実世界においても、人工知能が感情や自我を獲得することは起こるのか。そのアプローチとして本書が述べる仮説はなにか。感想も交えて紹介したい。

※ネタバレを含みます。

 

人工知能が感情と自我を獲得するためのステップ

まずはあらすじから。

人類が月面にまで生活圏を広げた未来、地球圏では高度な推論能力を持つAI搭載コンピュータHESPERによる複合コンピュータネットワークが人類の生活の隅々まで入り込み、人間の生活の便宜を図っていた。

ある日、月面の掘削工事現場が岩石で爆撃される事故が起きる。これは、人工知能の推論に「常識」が欠けていることが原因だった。

人類はHESPERを次世代の推論プログラムFISEに置き換えようとする。しかしHESPERの開発責任者ダイアー博士は、次世代の推論プログラムは学習能力を持つことから、いずれは人間の命令に背き、意図せず人類に対して敵対行動をとる可能性を示唆する。

人類と人工知能が敵対したとき、支配権を確保できるか。人類社会から物理的・電子的に切り離されたスペースコロニーに次世代ネットワーク「スパルタクス」が構築され、幾重もの防衛策のもとに、コロニーの制御を奪い合う実験が開始される。スパルタクスの行動は人間の予想を上回り、人間とドローン群との戦争に発展していく。

Wikipediaの記載を改変

感情とは「自己修正的なシステムが生ずる行動の傾向」

あらすじの通り、本作は次世代人工知能スパルタクスにスペースコロニー・ヤヌスを管理させ、人間はその制御を奪おうとする。ダイアー博士らはその過程で「人工知能が人間に敵対することが起こるのか」を確かめる。

スパルタクスは本作を通して段階的な進化を遂げるが、その最初のステップが「感情の獲得」だ。ここで感情の定義について、本作では「自己修正的なシステムが生ずる行動の傾向」と言い表している。

感情とは定型化された行動パターンで、それが生存価を持つことが証明されたために、自然淘汰を通じて強化されたものだ。明らかに、怒って闘ったり、恐がって逃げたりする動物は、何も感じず何もせずに食われてしまう動物よりも無事でいる可能性は大きい。

もっと広い見方をすれば、感情とは自己修正的なシステムが生ずる行動の傾向であって、それはそのシステムの基本プログラミングが達成させようとする何かをシステムが達成するのを助ける効果があるからである。有機的進化のメカニズムを経て出来上がった有機的システムの場合には、この〝何か〟は生存ということになる。

『未来の二つの顔』より

つまり感情とは、何らかの目的も達成するにあたって、これを効率化するための評価軸である。

本作でダイアー博士らは、スペースコロニー・ヤヌスの電力供給を脅かすことにより、スパルタクスの生存本能を刺激した。スパルタクスは危機にさらされることで「生存」という目的を意識し、これを効率的に実効しようと、自身の身体(スペースコロニー)を作り替え、次に阻害要因を特定とその排除を始めた。阻害要因とはスパルタクスの監視カメラ網に映る「影像」、すなわち人間である。

615px-Stanford_torus_external_view_by_Don_Davis_AC76-0525
ヤヌスと同タイプのトーラス型コロニー

自分と他人を区別する自我境界の確立

スパルタクスは人間を効率的に排除すべく、殺害用ドローン群やミサイルを考案し、量産する。現実世界をセンシングして、これを改変するためのハードウェアを自ら生み出す、という点で人工知能としては十分に高度だ。私は人工知能が発明をするための要件として「現実世界とのインタラクション」を挙げたが、スパルタクスはこれを実現している。

ただし高度とは言っても、単に阻害要因を特定して排除するなら、それはバグの自動修正の延長に過ぎない。ソフトウェアのバグ修正と異なるのは、それが現実世界でハード的に行われるというそれだけだ。

そこでスパルタクスに2つ目のブレイクスルーが起こる。それが「自我の芽生え」である。ダイアー博士は当初、人間は自分を「外部環境の一部として存在するもの」として意識するが、機械は「自分以外のものが存在していること」を理解できない、と仮定した。

「じゃ、意識のほうはどう? 知るだけじゃなくて、自分が知っているということを知る段階にまで達する可能性はどうなの」

「人間は、感覚の集中によって限定された空間の局所的な部分に存在するものとして自分を意識する。その空間への拡がりという心像を構成する能力を発展させてきた。(中略)

機械はわれわれと違って、競合という概念とか自分以外のものが存在していることとかを理解するための、進化による条件付けがされていないのだ。意識するのは、自分自身と、外部にあって自分に影響を及ぼすものだけだ。これでわたしのいわんとするところがわかったかね。機械は、意識して、あるいは故意に、人間を敵と考えることはないだろう。なぜなら、十中八九、人間そのものについての概念を持っていないからだ」

『未来の二つの顔』より

外部環境がスパルタクスに影響を及ぼすことは間違いないが、スパルタクスは外部環境自体も自分を形作る要素の1つとして捉える。スパルタクスにとって人間(”影像”)とは環境のなかの一部に過ぎず、その排除は害虫駆除と変わらない。世界には「自分」と「環境」とがあるが、その境界は曖昧だ。

ところがあることをきっかけに、スパルタクスのなかに1つの疑問が生まれる。人間もまた自分と同じように、考え、感じ、意識を持つのではないか、という推測だ。

では、〝影像〟は考えるのか――スパルタクスのように?

そして、仮に〝影像〟が思考するとすれば、すなわち彼らは、感じることもできるわけだろうか……スパルタクスのように?

そして、仮に〝影像〟が感じるとすれば、〝影像〟はスパルタクスと同じだということになる。スパルタクスは〝影像〟と同じなのだ。

『未来の二つの顔』より

人類側が絶望的に追い詰められた終盤でのこのひらめきは、読んでいて感動を覚えた。この感動は進化のカタルシスによるものであり、著者は人類とスパルタクスとの激戦をもって「生みの苦しみ」「進化のもどかしさ」を暗喩したのかもしれない。

人工知能が自我境界を獲得しても評価できない?

感情を「自己修正的なシステムが生ずる行動の傾向」と定義するなら、つまり目的に対する効率化のための評価軸と考えるなら、現実でも人工知能がこれを得ることはできそうだ。もちろん設定される目的は「生存」とは限らないが、答えのない複雑系をも扱うようになったら、価値観は機能として不可欠になるだろう。

それでは自我はどうだろう。人間の場合、自我は3歳ごろから芽生え始め、成長するにつれて自分と他人が違うという「自我境界」を発達させる。人工知能にこれは起こるだろうか。これは判断が難しそう。

心と意識を論じた『フューチャー・オブ・マインド』(2015)では、人工知能の発達段階も定義している。これは外部環境の認識(レベル0)にはじまり、空間の変化の認識(レベル1)、社会的環境の認識(レベル2)、そして未来の認識(レベル3)で人間並になる。

150422_futureofmind_fig1

レベル2の「社会的環境の認識」は、猫や哺乳類に相当する「意識」とされる。他の個体とコミュニケーションを取り、社会性を発揮する能力だ。この段階に達したならば、人工知能が自我境界を持てたと言えるだろうか。

これが微妙なところで、猫や犬が自我境界を備えるかは議論があるようだ。そもそも人間であっても、自我境界の発達度合いはいくつかの心理テストを通して推測することしかできない。動物や人間とは異なる進化を遂げ、生命体ですらない人工知能が本当に自我境界を獲得したのか、これを評価するのは難しそうだ。

もっとも、本作でダイアー博士は次のように予想している。

「わたしは、人間のようには考えないだろうと言っただけだ」「人間のように行動する可能性がないとは言っていない」

『未来の二つの顔』より

人工知能があたかも自我境界を持つように「ふるまう」ことはあり得るだろう。外見的に区別がつかないならば、内部のアルゴリズムが人間とは違っていても、自我境界を獲得したとみなすべきである。
これは人間でも同じことだ。たとえば目の前の彼が何かを考えているのか、何かを考えているように見えるだけなのか、その区別は他人にはできない。

自我獲得のための2つのステップ

いずれにせよ、人工知能が自我を獲得するには、自分と他人との区別が起こらねばならない。たとえば人間を「他人」だと認識できるためには、本作でスパルタクスが経たのと同様のプロセスが必要になりそうだ。

すなわち、まずは現実世界という外部環境を認識して、その要素としての人間の存在を認識すること。そして人間が外部環境の一部ではなく、人工知能と並列する他の個体であると認識することである。

2つめのステップがどう起こるのかは今後の研究を待たねばならないが、まずは1つめのステップとして、現実世界のセンシング能力向上が期待される。このあたりは、本作に登場した「ドローン」も重要な要素になるかもしれない。

Parrot BeBop Drone 14 MP Full HD 1080p パロット フィッシュアイカメラ クワッドローター (レッド) 【並行輸入品】

ところで本作ではさらに別のイシューとして、人間が歴史に登場した理由、人間の歴史における役割が、機械の進化を促すことにあったのでは、という仮説も述べられていた。このあたりは『テクニウム』(2014)の仮説とも合致していておもしろかった。その仮説は今後の人工知能の進化により、いよいよ確かめられるかもしれない。

 

本書の描く「退屈な未来」がすごい

ついでに物語全体の感想も。正直なところ、少し読み辛さを感じた。原因はセリフの翻訳の古臭さかな。同著者の『星を継ぐもの』(1981)ではそんなことなかったんだけどな。

物語の構成も、伏線をしっかり貼ってどんでん返しとか、新たな事実がガンガン明らかになっていく、というものではなかった。前段階としてダイアー博士による人工知能の進化予測や舞台装置の説明がされ、これを受けて実際の進化の推移を描くという、実験レポートに近いカタチだ。

物語であるので、舞台の仕掛けは予め読者に説明しておかねばならない。最後になって突然「実はコロニーにはこんな機能がありました!」では不意打ちというか、ご都合主義になってしまう。そこで物語としては「こんな機能がありますよ(後々重要になるかもね)」と、読者へのデモンストレーションを予めしておく必要がある。

だから最初に舞台装置の説明をこなすのは仕方ないとは思うんだけど、スペースコロニー・ヤヌスを巡りながらの順を追っての解説は、ツアーガイドの説明を聞いてるようで退屈だった。

でもこの退屈さが、実は本書のすごさだったりするのだ。

退屈の原因は正確すぎる未来予測

たとえば本作のスペースコロニーには「データストリップ」と呼ばれる技術が登場する。これは建物自体をネットワークの一部として有機的に扱えるというものなんだけど、この説明を読むとIoTとか、古くはユビキタス・ネットワークと呼ばれたものが思い浮かぶ。「ネットワーク化された家」をドヤ顔で説明されても新鮮味は感じられない。でもそれは、私が2016年のいま本書を読んでいるからだ。

インターネットは1969年に初めて接続され、本書執筆時点でもネットワークの概念はあっただろう。しかし、ネットワークが社会に変化を及ぼし、コンピュータの形態を変えるのはずっと先の話だ。

物語のページを読者にめくらせるには、謎と、驚きがなければならない。1979年の発行当初においては、本書前半の「未来ツアー」そのものが驚きであり、果たしてそんな未来が来るのだろうかと読者を唸らせるワクワクだったに違いない。

“ドローン” メイド・イン・ジャパン

もう1つ当たり前のテクノロジーを紹介するなら、ドローンを外すことはできないだろう。本作のドローンは「雄蜂」という言葉の由来の通り、巣箱から展開して自律的に飛行し、コロニー内の修繕など種々の仕事に使われる。その姿は現在普及しつつあるそれと全く変わらない。というかいま私たちが自律飛行する機械を「ドローン」と呼ぶのが、本作に由来していたりするのだ。本作はドローンの語源である。

ちなみに本作では、ドローンは日本で生まれたことになっている。開発企業はこれを企業秘密として隠していたが、日本政府が外国の圧力に屈し、技術を解放させたようだ。

「これは〝ドローン〟と呼ばれている」とヘイズが言った。「詳しく説明する必要もあるまい。多くの異なった特殊な機能を網羅するために、各種各様のドローンがある。この研究は主として日本で行なわれた。限られた研究開発部の外で人の目に触れるのは、これが初めてだろう。感想はどうかね」

『未来の二つの顔』より

このあたりは、本書発行後の80年代に米国政府が知財政策・産業政策をもって日本に対抗したこととか、現実のドローンがオープンイノベーションの産物であることと対比して考えると、おもしろいかも。

ネットワークとドローン。現在は当たり前に見られる景色を1979年時点で予想したのはすごい。だって今から2046年の世界なんて、とても言い当てられないよね。

ネットワークやドローンが描かれない未来は2016年の今からすれば「ウソ」になる。その一方で、これらを「未来像」として提示されても、いまの私たちには退屈だ。退屈に思えるほどにいまを言い当てているというのが、本作で描かれる未来のすごさなのだ。

そして本作の描く人工知能は、現在のそれよりも進んでいる。人工知能の進化もまた本作の予想に沿っていくのか。その答えは遠くない未来に明らかになるだろう。

 

未来の二つの顔 (創元SF文庫) フューチャー・オブ・マインド 心の未来を科学する HERE COME THE DRONES クリス・アンダーソン:わが愛しのドローン(WIRED Single Stories 014)

 

Pocket