テクノロジーの進歩が推定無罪の原則を覆す(『ユートロニカのこちら側』ネタバレ書評1/2)

いなたくんへ

京都府警が犯罪予測システムを導入する。過去の統計に基づき犯罪の起きやすい時間や場所を特定するというもので、いわゆるビッグデータの活用例の1つである。導入は2016年10月から。

犯罪予測システムは米国でも導入が進んでいる。たとえば『ビッグデータの正体』(2010)では、米国の都市メンフィスで警備コストを大幅に削減できたとともに、犯罪発生率を1/4に抑えた事例が紹介されていた。

現在予測できるのは時間や場所といった大雑把な範囲だが、バイタルデータをはじめとする個人情報の収集と利用が進めば、犯罪予測が個人の特定までも実現することは十分にありえる。そのとき何が起こるのか。決して遠くない未来の社会をシミュレートするのが、第3回ハヤカワSFコンテスト受賞作『ユートロニカのこちら側』(2015)だ。

ユートロニカのこちら側 (ハヤカワSFシリーズ Jコレクション)

本作は米国企業マイン社が運営する実験都市「アガスティア・リゾート」を軸にして、未来予測技術がもたらす社会と人々の姿を6つの短編から描き出している。
例えば未来犯罪の予測では、「被害者だけでなく加害者も救う」という理念が語られるものの、行為ではなく目的を裁くことの問題点が浮き彫りになる。そしてサーヴァント(人工知能)の言うがままに日々を生きるアガスティア・リゾートの住民たちは、気付かぬまま意識を失い、ユートロニカ(永遠の静寂)に向かってゆく。

ビッグデータや人工知能、パーソナルデータの収集が話題になる昨今、未来の社会を想像するにあたりおもしろい一冊だった。重度のネタバレを含みつつ、本作を紹介するよ!

Summary Note

『ユートロニカのこちら側』で描かれたこと

  • 未来犯罪が予測できても、目的(危険性)にのみ基づき裁かれるべきではない
  • 犯罪予測システムで排除したいのは危険性ではなく「危険性を予測できない」こと

犯罪予測システムの実現で考えられる2つのシナリオ

  • 行為のみ裁くことが遵守され、どんなに危険性が高くともその段階では裁かれない(シナリオ1)
  • 疑わしきは罰せられる社会が訪れる(シナリオ2)

 

『ユートロニカのこちら側』の社会制度とテクノロジー

本作が巧みなのは、時代設定を今から近い未来に置いて、未来人と我々現代人との価値観が混在した状況を作っているところだ。各章の登場人物はそれぞれ私たちと同じような価値観を持っていて、変化した未来の姿に違和感を持っている。彼ら登場人物は我々のアバターとしてもし読者が「アガスティア・リゾート」の世界に放り込まれたらどうなるかを代弁してくれるのだ。

彼らが戸惑う未来の姿はどんなものか。まずは本作で描かれる特徴的な制度や価値観をまとめてみる。

1.情報銀行と等級

本作の世界では個人情報が金銭に結びついている。個人情報を集める「情報銀行」が存在し、情報の預け方により「等級」が上がる。詳しい仕組みは明らかにはされないが、作中の人々は自分の等級を上げるために次のようなことを行っていた。

  • 情報を銀行に預ける
  • ボランティアやミサに通う
  • 物騒なことを考えない、ネガティブにならない
  • あまり長い間トイレにいない(トイレ滞在時間の正規分布から超えない)

情報銀行は集めたライフログを企業や政府に売っている。その売却益が金銭の形でユーザに還元されていると考えられる。

個人情報が通貨になり、経済圏が築かれるという予想は『パーソナルデータの衝撃』(2015)なんかでも語られていた。ここでは、企業が個人情報を集めるためには「消費者へのメリットの提示」と「信頼」の2点が重要になると述べられている。

本作『ユートロニカのこちら側』では、古い価値観をもつ登場人物たちは、個人情報を際限なく手放す人々に抵抗を抱く。しかし大多数の一般人は情報銀行を信頼し、得られる金銭的メリットを大いに享受しているようだ。

個人情報が直接的に金銭と結びついてからは、着衣を売り払って全裸で生活する覚悟のある者は裕福になり、衣類を着こみ秘密を持つ者は貧乏になることを宿命づけられた。

『ユートロニカのこちら側』より

2.「監視」と「自由」に対する考え方

こうした未来で、プライバシーに対する一般人の感覚はどうなっているのか。次の会話がわかりやすい。私たちもいずれこれが当たり前になるのかな。

「お金をもらうためだったら、プライバシーは必要ないってことですか?」
「え? プライバシー?」
「見ているものや、聞いていることが監視されても構わないのかってことです」
「構わないよ。別に悪用されてるわけじゃないし、僕が犯罪をしなければ生身の人間がいちいちチェックすることもない」

『ユートロニカのこちら側』より

質問者は第5章の主人公ユキだ。彼女は反マイン社を掲げる「活動家」を親戚にもつ、言わば抗勢力である。本作の登場人物はそれぞれ、アガスティア・リゾートに対して様々な立ち位置にいる。表から裏からその姿が浮き彫りにするのは本作の魅力だ。

3.アガスティア・リゾート

個人情報を集めるマイン社が運営するのが、カリフォルニア州に位置する実験都市「アガスティア・リゾート」である。リゾートの住民になるには高い情報等級を持たねばならない。つまり個人情報を銀行に預け、マイン社にとって有用な情報を提供してきた人たちだ。リゾート内ではさらに徹底的に個人情報が集められるが、かわりに住民たちは働く必要がなく、天国のような日々を過ごしている。

アガスティア・リゾートはプロトタイプのサービスである。世の中が一足飛びに進むことはなくて、まずは限られた範囲で実証実験的に試されていく。アガスティア・リゾートは作中世界の中でも一歩進んだ「箱庭」である。

4.過去の空間を再現する「ユアーズ」

「ユアーズ」は「生体コンタクトカメラの映像と立体集音マイクの音声データなどから、任意の過去の空間を立ち上げ、利用者に再体験させる「擬似タイムマシン」プログラム」と紹介される。つまり全ての情報を集めることで、過去を再現できるというものだが、作中では何らかの事情でサービスがリリースされることはなかった。
アガスティア・リゾートの前身となるプロジェクトと思われ、作中では10年以上にわたりある街の情報を集めていたことが明かされる。

アガスティア・リゾートの諸機能(サーヴァントによる推薦や犯罪予測)はビッグデータに基づいている。従ってまずは基礎となるデータが集められている必要があるのだけど、そうした準備もきちんと行われていたことが「ユアーズ」のエピソードから垣間見られる。

Big Brother is watching you in Scarborough
perthhdproductions

 

行為は裁かれても、目的は裁かれるべきではない

すでに述べた通り、本作の面白さは未来と現代とを併存させている点だ。本作は未来の世界をそのまま描くわけではなく、アガスティア・リゾートという「箱庭」に留めることで、科学技術の進んだ場所と、そうでない場所との差を設け、2つの価値観の対話を成立させている。

ただし両者の価値観の隔たりが絶望的なものかといえば、そういうことでもない。理論物理学者のミチオ・カクは著書『2100年の科学ライフ』(2012)で、テクノロジーがどんなに進んでも、「われわれの望み、夢、人格、欲求は、この先10万年はきっと変わるまい。まだ穴居人だった祖先と同じような考え方をしているに違いない」と述べている(穴居人の原理)。
本作『ユートロニカのこちら側』の登場人物たちも、新しいテクノロジーに対する「受け入れ方」に違いこそあれ、基本的には愚かだ。本作はむしろ彼らの愚かさや、歩んできた人生の描写に紙幅を割いていておもしろい。

ここで大きな焦点となるのが、犯罪予測システムによる予備犯罪者の特定である。その「受け入れ方」の違いが、アガスティア・リゾートの社会制度設計に大きな影響を及ぼしてゆく。

ドーフマン博士の理念

「サーヴァントはこの街にいるすべての人間関係と欲望、欲求のほとんどを知っている」ので、アガスティア・リゾートでは殺人は発生する前に防がれる。サーヴァントとは人工知能のこの世界での名称だ。
具体的には、BAPなる行動予測システムが脈拍、情報履歴や購入履歴、視覚・聴覚のデータからストレス値や暴力傾向を算出し、また、信仰する宗教や虐待の経歴、家族・友人関係といった様々な情報も加味して、近い将来犯罪を起こす可能性のある人間をリストアップする。

第4章の主人公ドーフマン博士は犯罪予測システムBAPを作り上げた中心人物である。博士が抱く理念は決してディストピア的なものではない。それは「未来の被害者を守るだけじゃなく、未来の加害者も守らなければならない」というものだ。

アガスティア・リゾートでは、犯罪予測の結果に対して次のような対策が取られている。

  • 極度に暴力的な傾向のある人間は、リゾート内に入れない
  • リゾート内の人間に危険性が認められた場合、診療所などに隔離してメディカルケアを受けさせる(隔離されている人々は、自分たちが隔離されているとは気づかず、自らの意志で診療所を訪れる仕組みになっている)
  • それでも対処できない場合、リゾートからの退去命令が出る

博士は、アガスティア・リゾートの住人が予備犯罪者(これから犯罪を起こしそうな者)と認定されても、診療所でのケアを受けることで危険度が下がり、犯罪を起こすことなく日常生活に戻れていると説明する。犯罪予測と一時的隔離は「起こる必要のない事件を回避することで、被害者と加害者の未来を救うシステム」なのだ。

「殺意を抱くこと」は悪ではない、はずだが…

『ビッグデータの正体』では、予備犯罪者を裁くべきでない理由を「確率」から説明していた。90の確率で犯罪を起こすとわかった場合でも、起こさない可能性は10%残されており、推定無罪の原則下では逮捕できないというものだ。

ドーフマン博士の考え方は少し違う。博士は「行為を裁くことと、危険性そのものを裁くことは大きく違」うと主張する。行為を裁くことは、次の誰かの行為に対する抑止力として働く。しかしながら危険性、すなわち「殺意を抱いたこと」までも裁いてしまうと、何かを考えることまで抑止の対象となってしまう。それは思想の統制に他ならない。未来の犯罪が予測できても、目的を裁くことをしてはいけない、というのは博士の、そして本作の重要なメッセージである。

しかしながら作中では、リゾート内で初めての殺人が起こり、博士はその調査とマスコミ対応に追われることになる。マスコミは言う。予備犯罪者の段階で逮捕していたなら、犠牲は出ずに済んだのでは。博士はあくまで予備犯罪者の逮捕には反対だ。しかし一連のインタビューはマスコミ得意の神ワザ編集の餌食となり、博士はマッド・サイエンティストの烙印を押されてしまう。

排除されるのは危険性ではなく「予測の困難さ」

本作の未来予測システムが現実になったとき、ドーフマン博士の主張する「行為は裁くが目的は裁かない」というルールは守られるのか。これを考える前に、アガスティア・リゾートの危機管理体制をもう一歩踏み込んで紹介したい。犯罪予測では、犯罪を起こす確率が高い場合と、低い場合のほかに、第3の可能性があるのだ。

犯罪を起こす確率の高い予備犯罪者は、診療所への誘導やアガスティア・リゾートからの追放という措置が取られる。これは紹介した通りだ。このとき、予想される犯罪の内容(立ちションなど)によっては、刑事が見張りについて実際に事件を起こしたところで現行犯逮捕する、といったことも行われる。

CCTV
Alan Cleaver

しかしアガスティア・リゾートが嫌うのは予備犯罪者の発生では実はない。本当に問題なのは「確率自体が予測できない場合」だ。確率がわかれば、相応のコストを見積り対処できる。ところが、例えば犯罪を起こす確率が20%から80%の間で大きく揺らぐなど確率自体が不確かになると、必要以上にコストがかかる上にその回収も難しくなってしまう。

危険性を予測できない人物に対してアガスティア・リゾートはどのように対処するのか。その答えが「入場拒否」だ。

「アガスティアリゾートは危険を排除することで成り立っているんじゃなくて、危険を予測し、そのコストを街全体に分散させることによって成り立っているのよ。まさしく保険の考え方ね。でも、だからこそ、倫理的にかなり危うい面を持ちながら二十年も運用が続いてきたという側面もある。ドーフマンは『危険の排除から、危険の予測と回避への転回』が、アガスティアリゾートの基盤だって言ってたわ」

「アガスティアリゾートで唯一排除されるのは『予測の困難さ』なの」

『ユートロニカのこちら側』より

アガスティア・リゾートの仕組みを改めてまとめると、次の3つに場合分けできる。

  • 危険性が「低い」と予測 →問題なし
  • 危険性が「高い」と予測 →治療・拘束・追放(コスト発生)
  • 危険性の正確な予測が困難 →入場拒否

 

テクノロジーの進歩が推定無罪の原則を覆す未来

行為は裁いても目的は裁くべきではない。未来予測の精度が上がれば、現実の社会でも直面することになりそうな議論だ。このルールは守られるのか。私は微妙なところだと考えている。その理由は次の2つだ。

  • 1.現実世界には「追放」や「入場制限」の選択肢がない
  • 2.現実世界では「危険性が予測できない」場合の対処が必要である

シナリオ1:人権を遵守し、予備犯罪者を裁かない

アガスティア・リゾートはアメリカの中に作られた「箱庭」だった。だからこそ「追放
」や「入場制限」ができたけど、現実世界にはそんなオプションは存在しない。もちろん現実世界でも「社会からの追放」はあり得るけれど、それは逮捕や裁判というプロセスを経て実行される。まだ犯罪を起こしていない予備犯罪者を、その危険性にのみ基づき「社会から追放」することは、結局ドーフマン博士の嫌った「目的を裁く」ことに他ならない。

2つのシナリオが考えられる。

1つめは、現在と変わらず人権を遵守し、これからも「目的を裁く」ことは行わないというものだ。その場合、作中で起きたように、予備犯罪者による犯罪を防げない事態も起こるだろう。それでも社会全体での犯罪件数は減るはずだから、それでよしと妥協する。

「予測できない危険性」に対しても同様に、行為が起こるまでは逮捕はしない。その場合、予測できない危険には全く対処しないと割り切るか、あるいはコストを度外視して予防のための予算をつけることになる。

シナリオ2:穴居人は疑わしきを罰する

2つめのシナリオは、社会の確実な安全を優先し、疑わしきは罰する、つまり危険性の生じた段階(さらにはその危険性が不確かであっても)で裁いていくというものだ。怪しいそぶりを見せれば拘束されるが、社会全体の安全は担保される。まさにディストピアであるけど、非対称の戦争の拡大など、個人の持つ危険性が増大すれば、こうしたシナリオもあり得るだろうう。

というか現代でも国によってはこのやり方で運用してるよね。未来予測技術はこうした体制をさらに強化していくことになる。

どんなにテクノロジーが進歩しても、運用するのは人間である。人間の本質は10万年前の穴居人から変わらない。その人間が果たして「90%の確率で犯罪を起こす人物」を放置できるのか。その答えとなるのが2つめのシナリオだ。テクノロジーはむしろ人間の猜疑心を増幅するような気がしてならない。

本作『ユートロニカのこちら側』に登場する穴居人たちも、2つめのシナリオを選択していた。ところで本作はさらに未来の出来事として、犯罪が社会から消える可能性を示唆している。それは、高度に発達した人工知能が人間から意識をなくし、複雑化した社会を簡単なものに回帰させるという予想だ。

本作によれば、犯罪者のような利己的主義者は、利他的行為で成り立つ集団にフリーライドする者であり、法や道徳はその排除のために発達し、ひいては人間や社会の進歩をもたらしてきた。人工知能がこうした機能を外部化すると、人間のカタチもまた変化していくことになる。その先に起こるのが「ユートロニカ(永遠の静寂)」だ。次回はその可能性について紹介したい。

 

ユートロニカのこちら側 (ハヤカワSFシリーズ Jコレクション) ビッグデータの正体 情報の産業革命が世界のすべてを変える 2100年の科学ライフ

 

Pocket