中国の社会信用システム芝麻信用にみる「人工お天道様」の限界と未来

いなたくんへ

中国で先進サービスが生まれるようになっている。例えば先日北海道に上陸したシェア自転車サービス「モバイク」は中国発。さらに最近では無人コンビニなんかも話題になった。

レジ不要のスーパーはAmazonも提唱していて(その名も「Amazon Go」)、センサや人工知能を使った技術ドリブンの未来像として話題になった。一方、中国の無人コンビニには少し違ったテクノロジーが使われている。それが「社会信用システム」だ。

簡単に言えば、日々の行動履歴に伴い「信用スコア」が計算され、スコアをインセンティブとして人々の素行が良くなるというもの。例えば配車サービスのUBERでは、乗客がドライバーの素行を評価することでドライバーの品質を担保していた。社会信用システムはこの仕組みが社会インフラ化したイメージだ。アリババが運用する「芝麻信用」が有名。

モバイクも無人コンビニも、ユーザは社会信用システムのスコアを維持しようとしてマナーよく振舞い、結果としてサービスがうまく回るようになっている。

そればかりか、中国政府はこうしたシェアリングエコノミーの信用情報に加えて、金融機関の信用情報、海外旅行のマナー違反ブラックリストなど、ありとあらゆるデータベースを連結。信用情報の大統一を目指している。

完成した暁には、シェアサイクルでいたずらをすると、住宅ローンの金利が上がったり、海外旅行に行けなくなったりするという寸法だ。SF小説のディストピアそのままの世界だが、現実には人々のマナーが向上して過ごしやすい社会が到来するという側面もあるのかもしれない。

『中国シェア自転車「悪名高きマナー問題」が消えた理由』より

 
アリババの「芝麻信用」は2015年に開始されたサービスで、当時いち早くレポートされた記事があり、読んで驚いた記憶がある。ここまで大規模に社会実装されたゲーミフィケーションには未来しか感じなかったし、月並みではあるけど監視社会化も懸念した。

それでも2年前には、単に人々のマナーをよくする管理システムだと思っていた。今回それがシェア自転車や無人コンビニといった新しいサービスの基盤として結びついていて、さらに驚かされた次第である。今後さらに新しいものが生まれるとしたら、どんなものになるだろう。

「芝麻信用」は今年になって日本での報道も増え、認知が広がっている。他国でも類似する仕組みが導入されることはあるだろう。ということで私も改めて、このシステムが持つ意味と、その未来について考えてみた。そこには2つの論点と、民主主義あるいは非民主主義がどう社会を運用するかという問題がありそうだ。

Summary Note

「芝麻信用」でできることとその仕組み

論点1:秩序維持の代償として「監視社会化」コストを支払うべきか

論点2:「取引コスト減少」の代償として起こる「信用の固定化」

本当の論点は「社会がマイノリティをどう扱うか」の運営方針

最後に現実に目を戻してみる

なお最新テクノロジー系ニュースまとめの本編はこちらから。


「芝麻信用」でできることとその仕組み

まずは「芝麻信用」の仕組みとかをおさらい。のさらに前に気になるのが「芝麻ってなによ」ってとこだけど、芝麻はゴマのことで、アリババと40人の盗賊の「ひらけゴマ」にかけて、明るい未来が開けるという意味を持たせているらしい。アリババ社だけに。


芝麻信用HPより

いいことあるの?

「芝麻信用」を使って得られるメリットについては、先にも挙げた中国の社会信用スコア「芝麻信用」で高得点を狙うネットユーザーの記事で詳しく述べられている。ユーザは350点から950点までの間で評価され、たとえば次のような特典を得ることができる。

  • アリババ系旅行予約サイトのホテル予約でデポジットが不要になる(600点)
  • 賃貸サイト「小猪短租」で敷金が不要になる(600点)
  • 提携ソーシャルファイナンスや消費者金融で審査がすぐに通ったり、一部サイトでは利率が下がったり、返済期限が延ばせたりする(600点)
  • 図書館やレンタカーサービスでのデポジットが不要となる(650点)
  • 北京空港の専用出国レーンが通れる(750点)
  • ビザがとりやすくなる(シンガポール700点、ルクセンブルク750点)

ビザについては国によって点数が違うのは面白い。
他にはレンタル傘を借りられたりとか。急な雨の時とかうれしいので、これはスコアを上げるべくマナーを守りたいところ。

点数の改定は毎月上旬に行われ、個人ページで見ることができるようだ。

評価基準は?

スコアを決めるアルゴリズムは明らかにはされていないが、点数を上げるための例として公式では次のように伝えている。

  • 税金や公共料金、家賃などをきちんと納付すること
  • 信用力の高い友人と多く付き合うこと
  • 支出を計画的に行うこと

また、上記記事の次のレポートも参考になる。

芝麻信用のアプリをみると、「身分の公開」「人との繋がり」「返済能力」「信用の歴史」「行動」の5つの要素からはじき出していることはわかる。どうやら「多くのプロフィールを嘘偽りなく登録する」「人間関係が豊富にある」「滞り無く支払いを行っている」「頻繁にネットショッピングをしている」ことが重要なようだ。人間関係を重視するのは中国らしい。

『中国の社会信用スコア「芝麻信用」で高得点を狙うネットユーザー』より

注目すべきは政府との連携だ。学歴や公共料金支払い記録に加え「失信被執行人リスト」などの公的データベースとも繋がっており、一企業のサービスには閉じていない。後述のようにスコア算出には人工知能技術も活用される。

バトルを見てみる

芝麻信用を使ってバトルを楽しむ人もいたので紹介。ユーザのプロファイルとその結果も対照されていて、非常にオラわくわくしてくる記事だ。

「信用力…たったの5か…ゴミめ」ということは起こらぬよう設計されているようだけど、まだ精度として不十分なところはあるみたい。

なお、社会信用システムがすでに普及した社会の実情として、中国人のマインドは参考になるので付記しておく。

個人情報保護やプライバシーの意識がそれほど強くない文化的背景もあって、SNSなどで自分のポイントを公開・シェアする中国人も多く、むしろオープンに親しまれるサービスとなっている。

『中国で普及する「人間バーコードバトラー」の深い闇』より

さて、こうした社会インフラともなるシステムの出現をどう捉えればいいのか。そこには2つの対立軸がありそうだ。


論点1:秩序維持の代償として「監視社会化」コストを支払うべきか

行為に対する信賞必罰が安定すれば、社会の秩序が保たれる。歴史的には「法」というテクノロジーが使われてきた。「法」は明文の「法律」と、明文化されない「倫理」や「道徳」とからなり、後者は例えば「お天道様が見ている」といった教えで担保されてきた。

日常の行為にゲーミフィケーションを盛り込んでインセンティブとペナルティを与える社会信用システムは、いわば人工の「お天道様」なわけである。

社会の秩序が保たれることは市民にとって幸福だし、社会の管理者(政府)にも望まれる。ということで芝麻信用と政府との連携もされてるわけだけど、そこで起こるのが「監視社会化」という懸念だ。

監視社会化って何がいけないんだっけ?

社会の安全を担保するために監視はどうしても必要だ。特にテロの頻発する欧米ではプライバシー保護の制限をはじめ監視社会化が進んでいる。

しかし「監視社会」と言葉にするとネガティブなイメージが非常に強い。思い浮かぶのはジョージ・オーウェルのディストピア小説『1984』だ。『1984』では、日常を監視され思想などの自由が奪われる世界が描かれていた。

国際的なプライバシー法研究者ダニエル・ソロブ著『プライバシーなんていらない?』(2017)は、問題点は監視(=情報収集)よりもむしろ、収集された情報に基づく判断(=情報処理)にあると警鐘を鳴らす。データベースをどう解釈するかは裁判所などに依存し、「やましいことは何もないから大丈夫」では済まない場合があるわけだ。

ということで、秩序や安全の対価として「監視」を受け入れることの必要性はあくまで意識しつつも、判断者たる権力の恣意性などを原因として、不当に自由が奪われるおそれがあるのは問題である。

 
ダニエル・ソロブは『1984』ではなくカフカの『審判』がメタファーとして重要と指摘

そこで登場する新世界の神!

情報収集だけでなく情報処理も問題、とのことだが、人間がやるからいけないのかも。機械に置き換えてみてはどうだろう。昨今話題の人工知能の登場である。

中国は2030年までに関連産業含めて11兆元(約180兆円)もの超規模投資をAIに行うとしており、調査会社PwCは米国を凌駕する可能性があると報告。The Economistは中国の優位性として、AI科学者の数の多さや活発な投資環境のほか、音声認識の普及やビッグデータの規模を挙げている。

中国は実際に犯罪者追跡システム「天網」や、ネットデマを監視する「慧眼」活動に人工知能技術を導入しており、そして「芝麻信用」もまたスコア偽装対策として人工知能を用いている。

スコア偽装について、鄧副総経理は「スコアは非常に大量の要素をAI(人工知能)が処理して算出しています。いくつかの要素を操作してもスコアを上げることは困難ですし、無理にやればAIが異常を感知し、スコアは逆に下がるだけです」と否定

『「信用の可視化」で中国社会から不正が消える!?』より

人間社会の管理を人工知能に任せる、というのはSF世界の古典的テーマだが、実際に社会信用システムをはじめとするインフラにすでに実装されていて、物語世界が実現しつつあると言える。

人工「お天道様」の限界

しかしながら現行の第三次ブーム人工知能は、結局は優れた認識機に過ぎない。極端に言えば電卓の延長であって、あくまで人間の道具だ。そんななか、人工知能が「持ち主」に矯正される実態が明らかになり話題となった。中国共産党のお家芸「思想改造」である。

いわゆる「フレーム問題」のフレームがまだ権力者を超えていない、という話なんだけど、判断基準がきっちり権力者の手の中にあることがよくわかる事件だ。英エコノミスト誌は『2050年の世界』(2012)で、インターネット技術は一時的には民主化の武器とされたが、体制側のキャッチアップは速く、「体制派の権益が拡大するスピードは、それを止めようとする人々の力が拡大するスピードを上回る」と予測した。

社会信用システムは「お天道様」を人工的に再現した、と書いたけど、人工の「お天道様」は権力者の管理下にある。

もちろん、判断基準が誰かに委ねられることそのものは悪ではない(というかあらゆる国が判断基準を誰かに委ねている)。問題なのは自由が奪われる場合の「不当」の度合いの大きさと、その結果得られるメリットとのバランスだ。

そこで、次の論点となる「取引コストの減少」について考えてみる。


論点2:「取引コスト減少」の代償として起こる「信用の固定化」

社会信用システムの効果には社会の秩序維持があり、特にユーザ個人としては、スコアに応じて様々な特典が得られることがうれしい。しかし目玉となるのは「信用の可視化」に基づく取引コストの減少だ。『「信用の可視化」で中国社会から不正が消える!?』では、「ただし、これらは呼び水というべきだろう。本丸は初めて会う人を信頼できるかどうかを数値で評価できるという、信用の可視化にある。」と指摘する。

同記事は、中国国務院が2014年に発表した「社会信用システム建設計画概要(2014~2020年)」での分析も紹介。これは社会信用システムの理念の一端と言えるだろう。

現代市場経済は信用経済である。健全な社会信用体系の構築は、市場経済秩序の整理と規範化、市場信用環境の改善、取引コストの低下、経済リスクの防止をもたらす重要な施策であり、経済に関する行政の干渉を減らし、社会主義市場経済体制を整えるための切迫した課題である。

『「信用の可視化」で中国社会から不正が消える!?』より、「社会信用システム建設計画概要(2014~2020年)」の分析

村社会のころの「お天道様」

かつて村社会では、相手の人品を確かめることにコストがかからなかった。社会の成員の素性はあらかた知れていたからだ。ところが都市化が進むと、ダンパ数を圧倒的に上回る人間関係が生じて、素性の知れぬ者と何かをする機会が増えた。その結果、相手が信用できるか否かを確かめるための「取引コスト」が発生した。

例えばお金を貸して、きちんと返してくれるのか。その信用力を可視化する仕組みの1つがクレジットヒストリーなわけだけど、社会信用システムは他のデータとも連携することで、より効果的に取引コストを削減できる。

蛇足であるが、村社会においては「お天道様が見ている」のお天道様とは「世間の目」だっただろうし、「よそ者」はその信用力を見極めるコストが圧倒的に高いか、あるいは見極めが不可能だったことから、嫌われた。

社会信用システムは「取引コストゼロ」のイノベーションの基盤となる

実際に社会信用システムは、消費者金融にとどまらず、お見合いサービスや就職支援にも使われている。ユーザの信用力が可視化されることで、知らない人同士のマッチングが容易になるのだ。、

シェア自転車や無人コンビニが成功した理由も、社会信用システムが取引コストを削減し点にある。逆に言えば、社会信用システムを基盤として生まれるイノベーションは、「取引コストをゼロにしたら何ができるか?」という観点で考えれば予想できるかもしれない。

懸念されるのは「信用の固定化」

このように社会信用システムは、相手の信用を確認する手掛かりとなる。その一方で、一度信用力を下げるとデメリットは大きく、就職や結婚といった人生のイベントにも支障をきたす。それもわずかな信用力の差が分水嶺となるかもしれない。

もちろん努力して信用ポイントを上げればいいんだけど(という努力を促すことが社会信用システムの優れたところの1つなんだけど)、万人がそうできれば苦労はない。

さらに、一度可視化された信用の履歴はそのあと常につきまとう。高倉健最後の主演作品『あなたへ』(2012)では借金返済の保険金ために失踪し、名を変えて別の街で暮らす男が登場したが、社会信用システムの普及した未来では、こうした「場所を変えて再出発」も難しくなるだろう。

信用の可視化は、その評価が低い人には厳しい社会とならざるを得ない。


本当の論点は「社会がマイノリティをどう扱うか」の運営方針

さて、2つの論点を通して、社会信用システムのメリット・デメリットを次のように整理したい。

メリット:

  • ユーザは特典目当てに信用を高めようとし、社会の秩序が保たれる
  • 相手の信用力が可視化され、取引コストが減少する

デメリット:

  • 秩序の基準の管理者により、不当に自由が制限されるおそれがある
  • 信用力が低く評価されると機会が制限され、固定化されるおそれがある

重要なのはこれらのバランスを考えることだが、そこで注意したいのが、デメリットはマイノリティに対して起こるという点だ。

秩序の基準から外れる者。信用が低いと評価される者。仮にその判断が不正義に基づくものであっても、こうした評価を受ける者は相対して社会のマイノリティである可能性が高い。すると社会信用システムの運用は、こうしたマイノリティをどう扱うかという社会運営の問題にも置き換えられる。

中国の庶民は不自由を感じてはいない

監視社会化が現在進行中の中国で人々はどう感じているのか。中国が独自のインターネット世界を創り上げた過程を描く『中国のインターネット史』(2015)では次のように指摘していた。

確かに民主化や言論の自由を求める人はいるけれど、一部の日本人が思っているほど中国の庶民は不自由を感じてはいないのです。(中略)

インターネットで確かに中国は変わりましたが、民主化を求める狼にではなく、「金盾」により飼いならされた羊になった、と言うべきでしょう。

『中国のインターネット史』より

典型的にはチベットやウイグルなど弾圧を受ける人々はいて、私は同情的ではあるのだけれど、しかし現実問題としてマジョリティが不自由を感じていないならば、状況が変わる可能性は低そうだ。「自由の不当な制限」は、(潜在的にはマジョリティに起こりうるものであっても)あくまでマイノリティの問題なのである。

民主主義社会でも問題は起こる

もっとも独裁的国家の場合、極端な例ではカンボジアのように、強すぎる指導者が方向を誤ることで悲劇が起き、これを止められないという問題は深刻だ。

しかしながら、民主主義社会なら安心かというとそうでもない。意思決定のプロセスが違うだけで、民主主義国家であっても「マイノリティは切り捨てよう」という選択がされれば、社会信用システムは冷徹に運用されうる。

さらに悪いことには、評価基準が衆愚の手に落ちたり、マイノリティを尊重しようとするあまりシステムが機能不全を起こして、むしろ社会が停滞するおそれもある。

民主主義は果たして正解なのか

社会全体の最適や繁栄を考えたとき、その運用に不都合な人間や、落伍した人間をどこまで守るべきなのか。その判断は結局のところ共同体の運営方針に従い決定される。正解はない。

民主主義は20世紀後半に一時的に成功したように見えただけで、非民主主義的な国家運営が盛り返すこともあるのでは、という話は以前書いた。

社会信用システムもその結末を見極める試金石の1つになりそうだ。というか、IT技術が非民主主義の有利を証明する事例が増えるだけの気がしないでもない。

中国の社会信用システムはこれからも、新たなイノベーションの基盤として注目を集めるだろう。さらに、新興国を中心に起こる急激な都市化は取引コストを低減する社会信用システムと親和し、各国でも同様のシステムが築かれていくはずだ。

「ひらけゴマ」にあやかり運用される芝麻信用に代表される社会信用システムが、どのような未来を拓いていくのか。確かめるのが楽しみである。


最後に現実に目を戻してみる

さて、このブログは未来を考えることを趣旨としており、社会信用システムについても、理想状態というか概念的な部分を抽出して。しかしながら、現実ににおいてどこまでうまく動いているかといえば、疑問は残る。

無人コンビニについては、「中国ITなまはげ」の異名をもち足で稼ぐレポートに定評のある山谷氏の記事が必見。「問題は技術ではなく…」というオチは本質的に思う。

そして社会信用システム。人々のマナーを良くする、という効果はマクロではそうでも限界はあるようで、このあたりは現地からのレポートをきちんとチェックしていきたい。

 

なお最新テクノロジー系ニュースまとめの本編はこちらから。

 

  

 

Pocket