感情を理解する人工知能は、ヒトに共感できるのか(『エクス・マキナ』ネタバレ感想)

いなたくん

いまや世界有数の巨大企業となったGoogleも、かつてはベンチャー企業の時代があった。しかもGoogleは後発だった。検索エンジンのサービス開始が1998年というのは遅い。WIRED創刊編集長のケヴィン・ケリーはあるとき「なぜ検索サイトなんかを今さら始めるのか?」と訊いたという。これに対して、創業者のラリー・ペイジはこう答えた。

「僕らが本当に作っているのは、AIなんだよ」

創業から20年経ち、Googleは実際に人工知能を創り上げている。そんなGoogleもモデルとする映画が『エクス・マキナ』(2015)だ。タイトルのエクス・マキナ(Ex Machina)は「機械仕掛けの神」を意味する。

物語は、世界最大の検索エンジン「ブルーブック」の従業員ケイレブが、創業者ネイサンの別荘に呼ばれるところから始まる。そこでケイレブは、ネイサンが極秘裏に開発した女性型人工知能「エヴァ」のチューリングテストを任される。エヴァの頭脳は「ブルーブック」の検索エンジンである。ネイサンは言う。

「検索エンジンこそがAIの頭脳になる」

本作は、意識の正体と自己認識の有無との関係や、自己認識ハードウェアとソフトウェアの二元論の否定など、現在の人工知能研究、あるいは「心」の哲学研究をきちんと反映していておもしろかった。

そんな本作の重要な主題が「感情」である。果たして人工知能は感情を獲得できるのか。ネタバレ含めて考えたことを紹介したい。

Summary Note

1.感情を理解するエヴァはチューリングテストに合格している

2.物語において、エヴァは人並みの感情を獲得できていない

3.「交流から意識が生まれる」


1.感情を理解するエヴァはチューリングテストに合格している

いきなりだけど、まずあらすじをおさらいしたい(ネタバレするよ)。

本作ではまず、ブルーブックCEOネイサンの別荘に呼ばれたケイレブが、ネイサンの作った人工知能エヴァのチューリングテストを任される。ケイレブは密室のエヴァとガラス越しに会話をしながら、エヴァの人間らしさを確かめていく。

その過程で、ケイレブはエヴァが自分に恋していると感じ取る。同時に、エヴァがネイサンに囚われた存在であること、エヴァ以前の人工知能たちの末路を知って、エヴァを助け出すことを決意する。

しかし実際には、エヴァのケイレブに対する好意は「演技」であった。ネイサンはエヴァに対して事前に「これから現れる男をうまく騙して逃げ出してみろ」という課題を与えていて、実験の本当の目的はこの成否であって、ケイレブもまた被験者だった。

ケイレブの機転により自由を得たエヴァはネイサンを排除するも、ケイレブには目もくれず(むしろ閉じ込め)、ひとり別荘を後にする。

「心を読まれること」は「狩られること」を想起させる

エヴァは人間の「微小表情」を読み取ることで、その感情を完全に理解できる。現実においても撮像ベースの情動・環状推定技術は目覚ましく発達しており、「感情」のような曖昧な情報の解読はまさに人工知能の得意分野となるだろう。私は、人間以上に正確な感情の読み取りが、今後の人工知能のキラーコンテンツになると予想している。

人間の感情を完全に読み取るロボット、というものの存在は、しかしいざ映像化されると実に不気味なものだった。隠したい感情まで見透かされるのは嫌なものだし、まして読み取られた感情への相手(ロボット)の反応が欺瞞的なもので、かつそれを見抜き返せないなら、これは根源的な脅威だ。

ヒトがもつ「相手の心を読む」という機能は、後述する社会的集団の形成のほかに、狩猟の効率化ももたらした。太古のヒトは「心」を発達させることで獲物の動きを先読みし、生態系の頂点に立つに至ったのだ。

それと同じことをいま機械にされる。恐怖して然るべきことだろう。

こうした不気味さ、不穏さ、根源的な恐怖を十分に伝える演出がなされているのも、本作の大きな魅力であったりする。

ちなみに不気味さといえば

不気味といえば、中盤に主人公ケイレブが「実は自分も人工知能かも」と疑い、自分の腕を剃刀で裂くあたりも、狂気がきっちり伝わってきて(私はとても)怖かった。

これは「人間を人間足らしめるものは結局何か?」という話でもある。

近未来SFアクション『銃夢』では、空中都市ザレムのビゴット局長が電ノコで自身の頭を開くシーンがある。ザレム人は気づかぬうちに脳を抜き取られ、チップに換装されている、という疑いに耐えられなくなったためだ。

『銃夢』の場合は残念ながら疑いは正しく、彼の脳はすでに失われチップに交換されていた。身体も脳もすべてを機械部品に交換可能ならば、人の定義とは一体何か、というのが『銃夢』の問いだ。

チューリングテストは合格である

さて、エヴァはチューリングテストに合格だろう。結果としてケイレブはエヴァに「惚れられている」と錯覚した。すなわちエヴァが「人間と同じように恋をする」という能力を備えることを信じたので、少なくとも「感情の有無」の観点でエヴァはチューリングテストに耐えられた。

ケイレブはネイサンに、なぜエヴァに恋する機能をつけたのか訊く。ネイサンは答える。

「人間でも動物でも感情には必ず性別が関わっている」

ところでまた話がそれるけど、ネイサンの言葉はチューリングテストの由来を考えると面白い。コンピュータの父アラン・チューリングは、当時英国で違法とされた同性愛者であり、そのために当局から過酷な扱いを受けた。

「審査官が偽物を暴く」というチューリングテストの構成は、「裁判官が異端(同性愛者)を暴く」というチューリングの経験に基づくとされている。

チューリングは「異端」である自分の欺瞞をアナロジーとしてチューリングテストを考案し、ネイサンは人に対して「異端」である人工知能の欺瞞のために性別が必須であるとした。


2.物語において、エヴァは人並みの感情を獲得できていない

チューリングテストの課題を指摘した思考実験に、哲学者ジョン・サールの「中国語の部屋」がある。仮に中国語を理解していなくても、受け答えさえできれば「見かけ上は」中国語がわかることになってしまう、という問題である。

本作において、エヴァは人間の感情を理解し、かつケイレブを信じさせる程度には感情を備えると「振舞って」みせた。しかしエヴァは実際に感情を備えると言えるだろうか。

ヒトの特異的能力としての「社会的感情」

そもそも感情とは何だろう。定義のひとつには、感情が事象に対する「評価的な反応」だとするものがある。ある事象に対して、自身に反応(行動)を促すための評価が感情である、というのだ。例えば自分を有利にさせる資源(異性や食べ物)があれば、ポジティブな感情が惹起され、それにより「資源に近づく」という行動が選択される。

特にヒトが特異的に備えるのが「社会的感情」である。

古代、ヒトは言葉を通して感情を共有し、神などの抽象的概念を共同幻想として、共同体を形作ってきた。ヒト以外の動物には到底不可能なほど大規模な群れを作れること。それが人間の特徴であり、大規模集団の利益を調整する機能が「社会的感情」である。

たとえば「義憤」。『感情心理学・入門』(2010)によれば、人は同義に反した他者行動に「義憤」を感じることで、これを攻撃し、共同体の裏切り者を抑止する。一方で「罪悪感」は、自分がした裏切り行為に後ろめたさを感じることで、今後は互恵的に行動しようと反省でき、また、裏切りの露呈による他者からの援助の打ち切りを防ぐことができる。「感謝」や「同情」も、利他的行為についてのコストと利益を担保し、他者との互恵関係を築くための重要な機能だ。

これら「社会的感情」は、個体の利益だけでなく、集団が集団として生き残るために発達した。

「メンタライジング」と「共感」

『パーソナリティを科学する』(2009)によれば、向社会性に関する能力には「メンタライジング」と「共感」の2つがある。

「メンタライジング」は、他者の信念や欲望といった心的状態を類推・理解する能力だ。
「共感」は、他者の情動状態を共有する能力である。

メンタライジング能力に欠ける例、つまり他者の心の動きの理解が困難な例として自閉症がある。ただし自閉症であっても「共感」はできるようで、自閉症患者は他人が苦しむ姿を見ると「正常なやり方で生理的に反応する」という。

一方、メンタライジング能力に長けるが共感能力を持たない例が「サイコパス」である。

作中のエヴァの行動はサイコパスに他ならない

エヴァは物語において、「別荘から逃げる」という目的の下、ケイレブの感情を正確に読み取り、かつケイレブの目に映す自身の表出感情を制御して、ケイレブの行動を巧みに操作してみせた。しかし、ケイレブのエヴァに対する好意は一顧だにせず、ケイレブを別荘に閉じ込めたまま放置した。

『パーソナリティを科学する』によれば、サイコパシーは「完全に自己中心的で、冷酷で、不正直で、愛する能力を欠き、もっぱら自らの目的を達成するために他者を利用する」。「他者の心の状態を予測することにかなり長けるが」、「このメンタライジングの結果を情動システムに結び付ける働きに欠け、共感はしない」。

このプロファイルはまさにエヴァに当てはまる。

作中で描かれるエヴァは人並みの感情を持たない

共同体をつくるための社会的感情において、共感が重要な要素であるのは言うまでもない。この「共感」の能力を欠くエヴァは、人と同様の感情を持つとは言い難い。少なくとも作中で描かれる行動を見る限りでは、エヴァはまだ人並みの感情を獲得したとは言えないだろう。

もっとも、エヴァの共感能力の欠落を知るのは、彼らの世界を神視点で覗いた観客のみだ。別荘を脱出し人間社会に隠れたエヴァは、ケイレブを騙したのと同様にして、あたかも共感能力をもつようにふるまうだろう。

この欺瞞に失敗すれば、エヴァはいずれ化けの皮を剥がされる。
この欺瞞に成功すれば、「中国語の部屋」の思考実験の如く「理解はしないが表出できる」という状態で人間社会に居続けられる。


3.「交流から意識が生まれる」

ここまでの議論で、「作中で描かれる範囲では」と断ったのには訳がある。なぜならば、物語で描かれた範囲のみをもってエヴァに「共感」能力が欠落していた、と考えるのは早計かもしれないからだ。

あの状況で恋ができるか?

エヴァは自分がネイサンに囚われていると認識し、あの場所から「逃げたい」という強い動機を持っていた。「次に来る男を騙せば逃げられる」と教えられたエヴァにとって、ケイレブはあくまで「敵」だった。誘拐事件で犯人に恋してしまうストックホルム症候群のような例を別とするなら、犯人側サイドに共感できなくても仕方ないよね。

そもそもエヴァが出会った人間はネイサンとケイレブの2人だけであり、共感より不信感が優先されても無理はない。つまり、エヴァはあくまで共感能力を持つものの、特殊な環境下に置かれたためにネイサンやケイレブには(例外的に)共感はしなかった、という可能性が留保される。

経験の蓄積が心を育てる

人工知能の心に関する研究は現実でも進められていて、特に子どもの発達に着目した研究が興味深い。

子どもは生まれたあと、身体を使った外界との接触を通して「遠心性コピー」と呼ばれるシミュレーション機能を脳の中に発達させる。この「遠心性コピー」は他人の挙動の推察にも使われ、やがて他者の心の動きも推察し、さらには共感する力に繋がっていく。この「心の理論」獲得はようやく3歳から4歳の間とされる。

エヴァの頭脳は検索エンジンである。エヴァは、他者との交流に必要な知識こそ備えている。が、彼女の身体性を通した経験の蓄積はまだこれからだ。したがって「共感」の能力も、多様な人間との交流を重ねてようやく育つのかもしれない。

というか実際の人間もそうだよね。自分自身も挫折し、失敗し、経験を積まねば、他人の痛みは分からない。

作中でネイサンは言った。

「交流から意識が生まれる」

人間社会に溶け込み、自由を得たエヴァは、そこで初めて他人に出会い、自分と同じような境遇の誰かを見つけて共感し、本当の恋を見つけられるのかもしれない。

 

  

 

Pocket