人工知能によるヒトの馴化が穴居人の時代を終わらせる(『ユートロニカのこちら側』ネタバレ書評2/2)

いなたくんへ

「馴化(じゅんか)」という言葉がある。家畜化とも言われる。たとえば犬は、野生のオオカミが馴化され、人間と住めるように改良されたものだ。

①生物が高地移動・季節変化などの環境の変化に数日から数週間かけて適応していくことと。「高度に-する」
②野生の動物を,人間の生活に役立てるために馴らすこと。

『三省堂大辞林』より

馴化は黎明期の人類が手にしたテクノロジーの1つだ。家畜は備蓄食料となるだけでなく、農耕のための動力や移動手段となり、生活や文化にイノベーションをもたらした。人類が家畜に頼った時代は長いが、それから水力や風力、蒸気機関といった新たなエネルギーが見出され、現在高度なテクノロジーを操るに至っている。

ところが、人間が生み出したはずのテクノロジーに今度は人間が馴化されようとしてはいないか。こうした仮説を唱えるのは、未来予測技術の発達した少し先の未来を描くSF小説『ユートロニカのこちら側』(2015)だ。第3回ハヤカワSFコンテスト受賞作。

ユートロニカのこちら側 (ハヤカワSFシリーズ Jコレクション)

本作はカリフォルニアの実験都市「アガスティア・リゾート」を舞台に、未来の犯罪を予測できる社会を描いている。その功罪については前回紹介した。

犯罪予測はビッグデータに基づく未来予測技術の応用例の1つである。こうした予測技術は私たちの生活にも使われていて、Amazonの予測配達がその好例だろう。おススメ商品の提示も需要の先読みという意味では未来予測の1つだ。

こうした未来予測技術が発達するとどうなるだろう。今日何をしたら良いのか、次は何を買うべきなのか、日々の行動の一挙手一投足についても機械から提案を受けて、それに従うようになったら。これまた他人事ではなさそうな未来像なので、ネタバレ含めて紹介したい。

Summary Note

『ユートロニカのこちら側』で描かれていたこと

  • 人工知能が普及したとき、人間に残される仕事はAIと現実を繋ぐインターフェイス
  • 集団に対するフリーライダーを見つけ出すよう社会や人間は発展してきたが、それが機械に任せられるようになることで、意識や、作り上げた社会が失われていく

人工知能発達に伴うヒトの意識の喪失は「退化」か?

  • 人間はこれまでも、テクノロジーの発達に合わせて共進化してきた
  • ヒトの持つ意識が「過去を評価して未来をシミュレートする能力」であり、これを人工知能に任せられるなら、ヒトの意識の喪失は自然な進化である
  • ヒトは人工知能に意識を奪われるのではなく、ヒトと人工知能が一体のシステムとして進化する

 

人工知能は利他的行為集団を実現し、ヒトから意識を奪う

未来予測技術、あるいは推薦技術が発達した本作では、人々は「サーヴァント」と呼ばれる人工知能のサポートを受けている。進路や就職先から今日の娯楽まで、サーヴァントの推薦に従う。たとえば元野球選手のジョンはトレーニングのメニューもサーヴァントの監督を受けていた。こうした環境におかれて人間はどのように変化するのか。本書が提示する答えは「意識を失う」というものだった。

人間に残される仕事はAIを現実と繋ぐインターフェイス

高度な人工知能は仕事のあり方も変えている。たとえば本作では警察の捜査が描かれており、次のようなプロセスで進んでいた。

  • 殺人現場でサーヴァントのQ&Aに答えると、サーヴァントは容疑者を数名に絞り込み、そのリストを提示する
  • リストに登場した容疑者は令状がなくても四十八時間拘束できる
  • 刑事はその容疑者を捕まえ、新たな証拠を見つけて、サーヴァントに伝える

サーヴァントが普及した世界では、多くの仕事がサーヴァントに奪われている。事件捜査で人間に残された役目は、人工知能と現実を繋ぐためのインターフェイスだ。刑事は現場に赴き、現実世界の情報を人工知能にも処理できるようインプットする。しかしながら、例えば『know』(2013)に登場した「情報材」のようにセンシング技術が発達すれば、その役目すらもなくなりそうだ。

今や刑事はサーヴァントの弾きだした容疑者リストを捕まえに向かうだけだった。そのうち、司法のシステムから人間が駆逐される日が来るだろう。サーヴァントが犯人を割り出し、ロボットがそれを捕獲する。裁判所には殺人の証拠と動機を記憶した専用のサーヴァントがいて、世界のすべての悪を記述した法律に則って、完全に公平で正当な量刑を秒刻みで言い渡す。そして犯罪者はベルトコンベアに乗せられて、機械に管理された刑務所に送られるのだ。

『ユートロニカのこちら側』より

ジョンの友人デレクは、サーヴァントに操られる自分たちを「ラジコン」と自嘲する。

書籍『アガスティア・プロジェクト』

ラジコン化した人間はそれからどこに向かうのか。ひとつの仮説が作中作『アガスティア・プロジェクト』で述べられていた。その内容は次のようなものだ。

  • ドーキンス著『利己的な遺伝子』(1976)によれば、利他的行為により協力できる集団は繁栄するが、協力すると見せかけてリスクを取らずに分け前だけを貰う「フリーライダー」に蹂躙される
  • そのため、利他的行為をしながらも、集団内の「フリーライダー」を見つけ出せる能力を持った集団が競争に勝つことになる
  • 「フリーライダー」もさらに高度に集団を騙さねばならなくなり、騙し合いが高度化する中で社会は発達し、正義や悪、法律や宗教が発生する(社会、宗教、道徳は、すべてフリーライダーとの生存競争の中で、騙し合いゲームに低コストで勝つために生まれたもの)
  • サーヴァントのような人工知能は、人間から「悪意」を探し出すという、騙し合いゲームに必要なコストをすべて引き受けてくれるので、利他的行為が驚くほどの低コストで実現できる
  • これは進化論的には驚くべきことである
  • これからの人間は、この不毛な騙し合いゲームを終了し、その結果、意識や、複雑な社会構造(いずれも騙し合いがなければ不要)をなくし、世界は集団の利益に資する完全な利他的行為のできる個体のみによって構成されるようになる。この最終形がユートロニカ(永遠の静寂)である
  • アガスティア・リゾートの住民の一部はすでに意識が希薄になっているが、これは望んで選択をした結果であって、機械が意識を手に入れる前に人間が勝手に意識を手放しつつある

つまり、これまで社会(を作る人間)はフリーライダーを見つけ出すために発展してきたが、それが機械に任せられるようになることで、人間は意識や、作り上げた社会を失っていくということだ。

Themis
waferboard

 

意識の外部化は正統な進化の一過程

自分で考えるよりも機械の方が最適な選択を行えるなら、機械の薦める通りに生きた方が間違いがない。こうして判断を外部化すると、その能力が人間から失われるのは当然だろう。これは人間の退化を意味するだろうか。私はそうは思わない。

テクノロジーによる人間のリプログラミング

判断をサーヴァントに任せて、働く必要もなく気ままに日々を過ごすアガスティア・リゾートの住人たち。意識を失い始めた彼らをみて、登場人物のひとりは次のように指摘する。

「人間による機械のプログラミングは、機械が人間をリプログラミングする自己循環サイクルの一部なんだ」

『ユートロニカのこちら側』より

人間が人工知能を作ったつもりで、人工知能側に人間が変質されていく。しかしテクノロジーが人間を変えるのというのは人工知能に始まったことではない。テクノロジーの進化の先を予想する『テクニウム』(2014)では、ヒトがテクノロジーにより能力を外部化させるとともに、それに適するよう自分自身のカタチも変えてきた歴史を説明している。

われわれはアフリカから歩き出た人々とは違う。われわれの遺伝子は、われわれの発明とともに共進化を遂げた。遺伝子の進化の平均的な速度は過去1万年だけに限っても、それ以前の600万年の100倍に達している。これは驚くべきことではない。われわれがオオカミから(いろいろな種類を繁殖させ)できた犬を飼い馴らし、牛やトウモロコシや、その他祖先がわからない多くのものを家畜化したり栽培したりしたのと同じように、われわれ自身もまたわれわれによって飼い馴らされてきた。そして歯が(外部の胃袋としての料理によって)小さくなり、筋肉は落ち、体毛も消えていったが、それはテクノロジーがわれわれを飼い馴らしたのだ。つまり道具を作り直したとたん、それがわれわれ自身をも作り直していた。われわれはテクノロジーと共進化してきたので、それに深く依存するようになった。

『テクニウム』より

人工知能という発明がヒトを作り変えることが、これまでの共進化と変わらないいつもの過程であるとして、この作り変えは何をもたらすだろう。それは退化にあたるだろうか。

「自己生成可能な情報システム」の系譜

『テクニウム』では「テクノロジーのシステム」を、テクノロジーよりも広い概念の「テクニウム」と呼んでいる。『テクニウム』が提示するのは、生命を「自己生成可能な情報システム」と捉えた場合、テクニウムもまた同様の定義の元で発展しており、両者はヒトと言語を介在して1つの系譜に連続するという仮説だ。つまり、テクニウムは生命の子孫にあたる。ヒトはちょうどその媒介の存在だ。

「自己生成可能な情報システム」としての生命は、「単一の複製する分子」から「遺伝子」などを経て、「霊長類の社会」という形態に進化してきた。そして『テクニウム』の仮説に基づけば、生命の進化はヒトが最後で、以降は「テクニウム」が情報の増大を担っていくことになる。その有望な候補が人工知能だ。

technium_evolution_hiah
「自己生成可能な情報システム」の遷移(『テクニウム』記載に基づき作成)

ちなみに『テクニウム』によれば、「道徳はわれわれの意思や知性の有用な産物であり、そういう意味でのテクノロジー」だと認めている。種々の社会制度も同様だ。これは本作『ユートロニカのこちら側』の、社会制度が利他的行為集団の発達とともに発展したという仮説にも符合する。そして本作の予想のように、さらなるテクノロジーの進化がこれら社会制度を不要とする未来もありえるだろう。

意識の外部化はテクニウムの進化における不可避の一過程

理論物理学者のミチオ・カクは著書『2100年の科学ライフ』(2012)で、テクノロジーがどんなに進んでも、「われわれの望み、夢、人格、欲求は、この先10万年はきっと変わるまい。まだ穴居人だった祖先と同じような考え方をしているに違いない」と述べている(穴居人の原理)。前回も書いたけど、本作『ユートロニカのこちら側』の人物たちも、技術が進化した未来でもくだらない習性をさらしていておもしろい。

結局人間はいつまでも変わることなく、穴居人のままだ。それでも生命とテクニウムの長い歴史から見れば、ヒトは言語を手にし、様々なテクノロジーを世に現出させるという重要な仕事を担ってきた。そして人工知能を生み出すことはヒトに残された最後の仕事である。情報のエクストロピー増大が生命に仮体するのはヒトが最後で、以降はテクニウムそのものが担っていく。

ミチオ・カクは別著『フューチャー・オブ・マインド』(2015)で「意識」の定義づけも行っている。曰く意識とは「目標をなし遂げるために、種々のパラメータで多数のフィードバックループを用いて世界のモデルを構築するプロセス」である。その中でももっとも高度なのが、ヒトの持つ「過去を評価して未来をシミュレートする意識」だ。

いまビッグデータ解析と人工知能が担うのが、まさに「過去を評価して未来をシミュレートする」機能に他ならない。これが外部化されるなら、ヒトが意識を失うことは当然の結果といえるだろう。人工知能が高度な未来予測を可能とするなら、非効率な人間の思考はノイズとなり、邪魔なものになってしまう。

『ユートロニカのこちら側』は、まさにこの移行期を描いた小説ということになる。ヒトの意識の喪失は、人工知能の進化に伴う不可避の現象なのだ。本作は講評で「ディストピア小説」とされてたけど、人類が正統も進化することを予見したユートピア小説とも言えそうだ。

ポストヒューマンの完成はユートロニカを伴う

意識の喪失という変化は、意識を人工知能に「奪われる」こととは少し違う。われわれがいま火や衣服を手放せぬように、外部化した機能と肉体とは一体として共存していく。われわれの脳が意識という機能を外に出すことも同様で、人工知能は人間を退化させるよりむしろ人間能力を拡張する。ヒトと人工知能との一体不可分の「システム」こそが、ヒトの次世代のカタチなのだ。この次世代が完成したとき、本作のいう「ユートロニカ(永遠の静寂)」が訪れ、穴居人はもはや穴居人ではなくなるだろう。

ただし、その形態もまた変化していく。
本作で登場するサーヴァントは、警察の事件捜査でも見られたように、人間の手足を必要としていた。しかしテクノロジーの進化が進めば、やがて人工知能は現実に対するインターフェイスを人間には頼らなくなる。そのとき初めて人工知能はヒトへの依存から脱却し、次なる進化に向かうことになりそうだ。

 

ユートロニカのこちら側 (ハヤカワSFシリーズ Jコレクション) technium フューチャー・オブ・マインド 心の未来を科学する

 

Pocket