非西欧世界のあるところに、”C”という国家があったとしよう。

非西欧世界のあるところに、”C”という国家があったとしよう。

このCには、2、3の巨大民間デジタルプラットフォーム
(以下、一定の規模を持つデジタルプラットフォームを「DPF」と表す)
が存在し、Cの人民の大半は、電子決済記録を含む、DPF上のあらゆる
行動記録を変数にアルゴリズムが自動算定した社会信用スコアを保持していた。
350点から950点の範囲内で付されるこのスコアが、
彼らの社会生活のために、必要だった。
スコアは、与信、採用、DPF上の取引場面で利用されるだけでなく、
交通手段のチケッティングや各種行政サービス、さらには教育、”婚活”などにも
広く利用されたため、それなしではおよそ「社会的」な生活を送れなかった。

やがて、民間DPFごとにデータが分断され、囲い込まれることによる
収集データ量の限界、スコアの正確性の限界などが指摘され、政府がDPFの
データベースを統合し、信用スコアを一元的に管理するようになった。

この政府は、全国に死角なく張り巡らせた監視ネットワークーーしかも、
人工知能による顔認証機能とセンシング機能の付いたそれーーとスコアとを
結合させ、政府の奨励する行為をなした者には加点し、政府の否定する行為
をなした者には減点する、そして、頸部静脈等のセンシングにより
政府の奨励する精神状態にあると予測された者には加点し、
政府の否定する精神状態にあると予測された者ーーたとえば、政府ポスターに
攻撃的な精神反応を示す者ーーには減点するアルゴリズムを開発し、運用した。
スコア付けにかかわる「行為」基準の概要は公開されたが、
「精神」基準に付いては公開されなかった(アルゴリズムが高度に複雑化し、
基準の詳細を公開することはそもそも不可能であった)。

人民の多くは、一定のスコアを維持して「社会的」な生活を送ろうと、
当初は模範的に振る舞うべく努めたが、意識的に努めていることが静脈
センシングにより明らかになるとスコアが下がる可能性があることがわかり、
次第に心から、あるいは無意識的に基準に合わせるようになっていった。

もちろん、スコアが一定のラインを下回り、社会的に排除される者も現れた。
政府の定める基準に意識的に同調しない抵抗者、この基準に生来的に同調・
適応することが困難な不適格者らによって構成されるロースコア集団は、
ネットワーク空間上にスラム(バーチャル・スラム)を形成した。

政府は、しかし、彼らの身体を侵襲するような侵害的措置をとることなく、
アーキテクチャによりその行動を制御しつつ、「治療」と称して、
主に抵抗者に対しては、脳波を遠隔コントロールして精神矯正を行ない、
主に不適格者に対しては、生活保護等により身体的健康を保障しつつVR空間
で「行動する自由(ゲームの自由)」を与えることで不満の鬱積を解消した。

かくして現在のCは、そこに置いて、ほぼすべての人民が高度の健康と安全、
一定の快楽を享受できる「ユートピア」を自称している。

この、古くはハックスリーの『すばらしい新世界』、新しくは伊藤計劃の遺作
『ハーモニー』を思わせる”C”の世界は、無論、フィクションである。
しかし、これに急速に接近しつつある国家が現実に存在する。
【  】である。

彼の地では、電子決済サービスが広く普及し・・・

“C”の誘惑 スコア監視国家と「内心の自由」 山本龍彦 「世界」6月号

MLホームページ: https://www.freeml.com/uniting-peace

Categories Uncategorized

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

%d bloggers like this:
search previous next tag category expand menu location phone mail time cart zoom edit close