ここから本文です

ディストピアのデザイン 「褒められる行動」から逸脱せよ

1/18(土) 17:00配信

Forbes JAPAN

2014年に市場の力と規制に関する分析で、ノーベル経済学賞を受賞したジャン・ティロール。幅広い研究分野で一流の成果をあげ、世界の経済政策に大きな影響を及ぼしているフランスを代表する経済学者だ。昨年末、ソーシャルスコアの将来的な危険性について指摘するエッセイ『デジタル・ディストピア』を発表した。

2019年12月25日発売のForbes JAPAN(2020年2月号)の第二特集では、ティロールに独自インタビューを実施(「社会信用スコアがもたらす『デジタル・ディストピア』)。聞き手を務めたイェール大学助教授の成田悠輔が解説する。

2008年公開のスティーブン・スピルバーグ監督の映画「イーグル・アイ」の主人公は、パッとしないコピー店員のジェリー。ある日突然口座に大金が振り込まれ、自宅には留守中に大量の武器弾薬が運び込まれている。呆然としていると、突如携帯が鳴る。「逃げろ」と警告する女の声は、ビル建設用のクレーン、街中の電光掲示板、荒野の送電線とあらゆるものを遠隔で操作し、主人公を追い詰めていく。

実はこの電話の女こそ隠れた主人公の イーグル・アイ(鷹の眼)。アメリカ政府が監視用に開発した架空のAIだ。イーグル・アイは監視データ中に大統領の違憲行為を目撃。憲法の精神に則って大統領を暗殺するため、主人公の人生を乗っ取り大統領暗殺に駆り立てるという筋書だ。大統領の弾劾に揺れる今日のアメリカを予言するかにも見えるこの物語のさらに大事なテーマは、大義や理念のためのデータとインフラを使った行動誘導だ。

映画のような派手さはないが、無数の人々の地味な日常に染み込むからこそもっと不気味で大規模なのが、 ティロールの描くデジタル・ディストピアである。デジタル・ディストピアはなぜディストピアなのか? 専制政府・独占企業(プラットフォーマー)がその意向を汲んだ個人の社会的「成績」を計算・公開すると、人々がその意図を忖度して行動と思考を自己規制しはじめる点だ。

では、どうずればディストピア的な忖度から自由になれるのか? 二つアイデアがある。一つは、プラットフォーマーが先導する社会的評価には目もくれず、明後日の方向に突き進む『道化』を導入することだ。たとえば、プログラム化されたルールに従って自動実行される自律分散組織(Decentralized Autonomous Organization, DAO)やバーチャルインフルエンサーなどが候補として思い浮かぶ。どういうことか?

1/2ページ

最終更新:1/18(土) 17:00
Forbes JAPAN

こんな記事も読まれています

あなたにおすすめの記事

Yahoo! JAPAN 特設ページ