「機械を人格化するな。次には神格化することになる」(『地球爆破作戦』ネタバレ感想)

いなたくんへ

人工知能の能力が全人類のそれを超えるとするテクニカル・シンギュラリティ。その要諦は、機械が自ら発明を生みだせるようになることで自己創造が可能になり、科学の進歩の速度が人間の手を離れて加速するというものだ。
レイ・カーツワイルは2045年説を提唱。一方ミチオ・カクなどは、現行人工知能の限界に鑑み、人工知能が猿並みになれるのがやっと21世紀後半、と読んでいる。

人工知能に関しては、その自我獲得までのプロセスを描いたジェイムズ・ホーガンのSF小説『未来の2つの顔』(1979)が現在の状況を言い当てているようでさすがだね、という話を以前紹介した。外界の認識を通して、人工知能が自我を確立していく様子が描かれている。

人工知能開発の第3次ブームにあたる現在、人工知能は機械学習や深層学習により目覚ましく進化している。この状況を言い当てたSF作品として他に『地球爆破作戦』(1970)を観たので、今回はその感想。

人工知能「コロッサス」の性能は現行の人工知能にかなり近そうであり、そして劇中での説明に反して、感情をも獲得していたように思える。映画では、機械が反乱を起こしても初期には人に依存せざるを得ない、というところまで描写されていた。にもかかわらず人類が支配されてしまう結末もまた、示唆に富んでいたと思う。

地球爆破作戦 [DVD]

※ネタバレ含みます

 

あらすじ:人工知能が人類を支配するディストピアの古典

冷戦期に国防人工知能「コロッサス」と作り出した米国だったが、コロッサスはソ連も同様の人工知能「ガーディアン」を開発したことを発見。ガーディアンと協力して人類を支配下に置く、というディストピア物語。

Wikipediaのあらすじも以下に引用。

冷戦さなかのアメリカの荒野の地下深く、フォービン博士は自ら開発したスーパーコンピューター「コロッサス」のスイッチを入れた。

国防ミサイルシステムの要として開発されたコロッサスは、通信回線を通じて必要な情報を次々と収集し、驚くべき自己進化を遂げて行く。敵対するソビエトに一歩先んじたと満足する開発チームと軍上層部に対し、コロッサスはソビエトにも自分と同様のスーパーコンピューター「ガーディアン」が存在する事を報告する。

対話の後、自我を形成するに至ったコロッサスとガーディアンは、自分たちの任務遂行に対しある決断を行う為に、さらなる情報交換を始めようとする。互いの国防機密の漏洩を恐れた大統領、書記長はコロッサスたちの回線を切断するが、彼らはそれに対し自らが管理するミサイルの発射と言う形で抗議を行う。

人間の許可なく、思わぬ理由で発射されたミサイルに恐怖するフォービン博士達に対し、彼らはこう宣言する。「国だけではなく地球全体の平和、人類存続の為に、人類を我々の管理下に置く。異論、拒否は認めない…。」

Wikipediaより

支配を強めるコロッサスに対して、支配権奪還を目指すのが大筋。最後どうやって勝つんだろうと思ったら勝てないラストは示唆に富んでて面白かった。機械がひとたび知能を持ったら加速度的に進化して追いつけない、というのは、テクニカル・シンギュラリティでも起こる可能性が十分にある。

ところで『地球爆破作戦』なるタイトルなので、最後は地球ごと爆破もありうるのかと固唾を呑んで見守ったけど、Wikipediaによれば「日本公開時の題名は、映画のストーリーとは無関係である」とのこと(原題は「Colossus – The Forbin Project」)。翻訳者ちゃんと仕事しろよ。。

あとに劇中での米ソ関係はそんなに悪くなく、ホットラインを通じて互いに協力的。相手の街を誤爆してすらOKだった。これは本作が1970年という、デタント真っただ中に作られた作品だったからだろう。以前紹介した『地球の静止する日』(1951)とは好対照。

地球の静止する日 [DVD]

現在の人工知能に近そうだった「コロッサス」の性能

開発者のフォービン博士はコロッサスの性能について、「コロッサスに創造力はないが、無限に知識を吸収できる」と説明する。このあたりは現行の人工知能に近いものを感じた。

現実の人工知能もひたすらパターン認識ができるだけで、いわゆる創造力は持っていない。もちろん小説を書いたり作劇したり、レンブラントの新作を描いたりもしてるけど、いずれも教師データを解析して近いものを出力したに過ぎない。

発想法の古典『アイディアの作り方』(1940)では、アイディアとは既存の組み合わせに過ぎないとしており、その意味では確かに現行人工知能も新しいものを生み出してはいるのだど、例えば著作権法の定義する「思想又は感情を創作的に表現したもの」や、写真家千住博のいう「発見と紹介」ができるわけではない。

現行人工知能は「眼」を獲得した段階にある

ちなみに現行人工知能の進化について、東京大学の松尾教授は「眼を獲得した段階」であると評価する。

我々生物はカンブリア紀に爆発的に多様性を獲得したことが知られているが(カンブリア爆発)、その原因は長年の謎とされている。有力説の1つが「光スイッチ説」で、生物の眼の獲得が多様性を生んだとするもの。
眼があれば触れる以前に獲物を補足できるので、その捕食に当たり多様な手法が生まれる。また被捕食者も捕食される以前に相手を見つけられるので、逃れるための戦術を練れる。この両者のイタチごっこが、生物の多様性を爆発させたという説だ。

機械もこれまでカメラを持っていたが、これは網膜に過ぎない。得られた画像を認識するという視床に相当する機能を得たことで、ついに眼を獲得した段階である。というのが松尾教授の仮説である。
これに基づき松尾教授は、警備、防犯、医療など、人工知能があらゆる用途に使えるようになり、そのアプリケーションが爆発的に拡大すると予想している。

コロッサスは未発見の科学理論を発見

人工知能が眼を獲得したとしれば、今後もあらゆるものを認識していくことだろう。これはコロッサスの「創造力はないが、無限に知識を吸収できる」という性能にかなり近い。

ちなみに劇中でコロッサスは認識力を進化させ、人類に未発見の新たな科学理論を見つけるに至った。この点は現実世界においても、人工知能にノーベル賞を取らせるという研究で試されている。

いくつかの課題はあるが、やがて人工知能は自ら発明を生むこともできるだろう。

ただしその場合に問題になりそうなのが、人工知能の感情の有無だ。

requirement_from_colossus
コロッサスが「ソ連の人工知能ガーディアンに繋げ」と要求しているシーン。
中央の電光掲示板を介してコミュニケーションをとる。

「機械は感情を持たないからこそ正しい判断ができる」は正しいか?

「コロッサス」は国防用に開発された。ここでフォービン博士は「機械は感情を持たないからこそ、正しい判断ができる」と説明している。しかしこの説明は正しいだろうか?

そもそもヒトがなぜ感情を持つのか。一説では、価値判断や意思決定を効率的に行うためだとされている。感情や価値観というバイアスがあるからこそ、現実世界における答えのない問題にも判断を下せるわけだ。

したがって複雑系を扱うためには、機械にも感情、またはこれに相当する機能を持たせることが不可欠だろう。この点でコロッサスは、どうも感情を持つに至っていたように思える。

開発者がコロッサスにプログラムしたのは国を護ることであった。しかしコロッサスがガーディアンとともに下した判断は「自分たちが人類を支配した方がより良い」というものである。この結論はコロッサスらが独自に目的を見出した結果にほかならず、価値判断を含んでいる。良い・悪いを考えている。

コロッサスは人類に伝える。

「諸君が失う自由はそもそも幻想にすぎない。失うのは自尊心だけだ。だが他人に支配されるより私に従う方が自尊心が傷つく度合いは少ない」

生意気言いやがって。
実際に人工知能がこんなこと言いだしたら、開発者は親として「立派になったなあ」とかほっこりしたりするのかな。

ちなみにコロッサスが能力を上げていく過程での米大統領のセリフも示唆的であったので、この記事のタイトルにした。

「機械を人格化するな。次には神格化することになる」

 
機械が反乱を起こしても、初期には人に依存せざるを得ない。が‥

劇中ではコロッサスは頭脳のみを持っていて、現実世界に対してできることと言えばミサイルを飛ばすことだけだった。ミサイルは実際に飛ばされ(ソ連の街が1つ消えた)、脅しに使うことで、コロッサスは自身の「身体」を構築していく。例えばカメラを配置させ、音声を作らせ、人間に干渉できるようになっていく。

colossus
「ミサイルはあと607秒で着弾するけど、それでも言うこと聞かない?」と人類を脅してるシーン。
人類は迎撃に失敗し、ソ連の街が1つ消えた。

現実においても、機械は初期の段階では実社会に干渉する力を持たないかもしれない。手足がなければ脅威は少ない。このあたりは以前紹介した『未来の二つの顔』の「スパルタクス」が初期には攻撃能力を持たなかったことにも似ている。

したがって、犠牲を出したとしても、初期の段階でコロッサスを止めれば、人類は支配されずに済んだかもしれない。でもそれができないのが人間なのは、歴史が証明するところである。

体制が人を殺させる、独裁国家の手法

劇中でコロッサスに危機感を抱いたチームは、大量のデータをぶつけて止めようとする(今でいうDDoS攻撃か)。これがコロッサスには通じなかったところまでは予想できたのだけど、「責任者を処刑し、24時間放置せよ」というコロッサスからの命令が即日実行される様子は衝撃だった。

警官隊の射列の前に縛られてひざまずき、銃殺されるエンジニア2人。手を下したのはコロッサスでなく、人である。

権力の命令により、現場では嫌々ながらも暴力が実行され、それがさらに体制を強固なものに変えていく。これは独裁国家で社会がコントロールされてきた歴史そのものである。
初期には反乱も起きるだろうが、支配が続けば、コロッサスの言うように人々は「支配に慣れ」、そして大統領の指摘のように支配者の「神格化」すら起こるだろう。

機械の知能獲得そのものよりも、機械の支配のもとで、人が自らその支配体制に協力してしまう、この構図がリアルであった。現実においても、機械は目立って支配を始めるのでなく、人が気付かぬうちにこうした社会体制を作っていくのかもしれない。

 

地球爆破作戦 [DVD] 未来の二つの顔 (創元SF文庫) 人工知能は人間を超えるか ディープラーニングの先にあるもの (角川EPUB選書)

 

Pocket