ここから本文です

NHKのAI特番が炎上!「AI崇拝」の危険

7/29(土) 6:00配信

ダイヤモンド・オンライン

 2017年7月22日に放送されたNHK総合の「AIに聞いてみた どうすんのよ!?ニッポン」が炎上中だ。医療政策学者で『「原因と結果」の経済学』の著者の1人である津川友介氏は「AIは万能である」というNHKの演出に危機感を抱いているという。どういうことか、詳細を聞いた。

● AIに因果関係はわからない!

 ここ2~3年でにわかに話題になっている人工知能(AI)。最近では、NHKスペシャルの「AIに聞いてみた どうすんのよ!?ニッポン」(2017年7月22日放送)にて、NHKが開発したAIの分析結果から「健康になりたければ病院を減らせ」「少子化を食い止めるためには結婚よりもクルマを買え」などの斬新な提言がなされ、議論を呼んでいる。

 確かに、意外性があるため、おもしろいと感じた人もいるかもしれない。しかし、番組中でAIが提言した内容は、残念ながら間違っていると言わざるをえない。

 なぜなら、AIは物事を予測したり、将棋や囲碁のように決められたルールのなかのゲームをすることは得意であるものの、2つの事柄のあいだに「因果関係」があるかどうかを明らかにすることは苦手だからだ(因果関係にあるかどうか統計学を用いて検証する方法を「因果推論」を呼ぶ)。将棋や囲碁の名人を打ち負かしたことが話題になっているため、AIに対する期待が高まっているが、決して万能なわけではない。

 医療に関して言えば、レントゲン写真から病理組織の診断をしたり、患者の日々の行動から、本当に病気を持っているかを予測する分野ではAIは力を発揮する。その一方で、因果関係の分析についてはほとんど無力である。番組内で「病床数を減らしたらバナナ購入額が増える」、「病床数を減らしたら人々のボランティア活動時間が増える」といったおおよそ因果関係があるとは思えないような結果も導き出している。AIが将棋や囲碁で人間を上回るようになったからといって、ほかの分野においてもAIが優れているということにはならない。

 因果推論を分かりやすく説明した『「原因と結果」の経済学』では、2つの事柄に因果関係があるかどうかを評価するときにチェックすべき3つの条件を紹介している。

 (1)まったくの偶然ではないか?
(2)原因と結果の両方に影響を与える「第3の変数」は存在していないか?
(3)逆の因果関係は存在していないか?

 AIが因果関係を評価することが苦手である最大の理由は、AIには2つ目の「原因と結果の両方に影響を与える第3の変数」を統計学的に見つけ出すことができないからである。

 AIを用いた因果推論は、世界で研究が始まったばかりであり、しっかりとした方法論が確立していない。そもそも因果推論ができるかどうかもまだわかっていない。あと5~10年したらできるようになるかもしれないが、現時点ではできないと考えられている(もちろんAIで因果推論できると主張している人はいるが、学術界で広く認められてはいない)。

 NHKの番組の冒頭では、AIの提言について、「因果関係はわからないものの、たとえば病院数というデータの値が増えたり減ったりするとき、それと連動して値が変化するあらゆるデータを瞬時に見つけ出すことができる」という留保条件を流していた。AIは連動したデータを見つけるだけで、それらに因果関係にあるのかないのかは、結局は人間が解釈しなくてはいけない、ということだ。

 しかし番組では、AIが指摘した「連動したデータ」を、そのまま因果関係があるように扱っていた演出がされていた。残念だが、「連動して値が変化するあらゆるデータ」を眺めるだけで因果関係を導けるほど、因果推論は単純ではない。番組でも取り上げた夕張市の例を考えてみよう。

● 「病床数が減ったから夕張市民が健康になった」 ように見える理由

 夕張市は2007年に財政破綻し、171床を有していた総合病院は、19床の小さな診療所に再編された。番組では、病床数が減ることによって、住民は病気で亡くなる人が多くなるのではなく、逆に健康になったと紹介されていた。

 病院が減ったことで「危機意識が高まり」、自発的に体操をしている市民を紹介したうえで、「そのおかげか、10年前に比べ、がんや心臓病で亡くなる人の割合が大きく減っているというんだ」というナレーションとともに、以下のような字幕を流していた。

 肺炎死亡率(男)32%↓
がん死亡率(男)5%↓
心疾患死亡率(男)35%↓
心疾患死亡率(女)15%↓

 これを見たら、誰もが「病院が減ったから市民が健康になった」という因果関係を表しているのだと誤解してしまうことだろう。

 夕張市の病院閉鎖が健康に与えた影響に関して、質の高い研究はいまだ行われていない。しかし、病院がなくなったことで専門的な治療を受ける必要がある患者(たとえば透析を受けなければならない患者や、抗がん剤治療を受けているがん患者など)は、札幌市など周辺の都市に引っ越したと考える方が自然である。

 透析とは、腎臓が機能しなくなった人が受ける治療である。週3回、1回4時間の治療を受ける必要があり、もしそれが受けられなくなると即座に命に関わる、文字通り「命綱」である。週3回も通うため、遠くの医療機関に通うのはなかなか大変である。それだけではなく、北海道では何年かに一度、大雪が降って陸路が完全に遮断されるため、透析のために遠くの医療機関に通院することには命の危険が伴う。

 そのため、夕張市に住んでいた透析患者の多くは周辺の透析のできる施設に引っ越したと考えられる。筆者(津川)は実際に夕張市の周辺の市の透析施設で勤務したことがあるが、透析が受けられなくなって通院が大変になったために引っ越したという患者さんを担当したことがある。

 さらに言うと、夕張市民は病院閉鎖だけでなく、ありとあらゆる公共サービスの低下の影響を受けている(夕張市の状況に関してはこちらの記事が詳しい)。

 このような日頃の生活に大打撃を受けたときに、夕張市に留まらず、よりよいサービスを求めてほかの地域に引っ越す人が出てくる。それを理解せずに、夕張市民の健康だけを評価すると、あたかも病院が減ったことで住民が健康になっているように「見える」のである。

 これを専門用語で「疑似相関」と呼ぶ。一見すると因果関係があるように見えるが、実際には因果関係がないもののことである(因果関係と疑似相関をどのように見分けるかに関しては、連載第1回の記事に詳しい)。

● 「AI=お告げをする神」 という演出は今すぐ止めるべき

 では、実際に「病院の閉鎖」と「地域住民の健康」の関係が因果関係なのかをしっかり調査した研究はあるのだろうか。実はアメリカではそのような研究がすでに行われており、「病院の閉鎖」と「地域住民の入院率」や「死亡率」のあいだに因果関係はないという結果が得られている。病院が閉鎖しても、人々の健康状態はよくも悪くもならない可能性が高い、ということだ。

 もし、この結果を日本にも当てはめることができると仮定すると、正しい結論は「健康になりたければ病院を減らせ」ではなく、病院が減っても健康への悪影響は思ったより少ない」ということになるだろう。もちろん、病院閉鎖が、健康以外の何か(例えば生活の質など)に与える悪影響がないとは言い切れないが、いずれにせよ、病院閉鎖で健康が改善するなどというトンデモな結論を導き出している研究は存在しない。

 確かにAIには大きな可能性がある。しかし、AIは万能であり、因果関係すら明らかにできると思うべきではない。

 そうでないと、「AIが言っているので病院を閉鎖すべきだ」などと主張する人たちが出てくるというトンデモな話になりかねない。それで苦しい思いをするのは住民であり、患者である。AIは、人間のくらしを便利にするためにある「道具」なのであって、人間に何をするべきかお告げをしてくれる「神様」ではないのである。

参考文献
Marcus, G. (2012) Is “Deep Learning” a Revolution in Artificial Intelligence?, The New Yorker

(http://www.newyorker.com/news/news-desk/is-deep-learning-a-revolution-in-artificial-intelligence)
夕張市の月別人口世帯数調
(https://www.city.yubari.lg.jp/gyoseijoho/tokeidata/jinkosuii/suiijyuki.files/tsuki.pdf)
NHKスペシャル取材班「夕張市破綻から10年「衝撃のその後」若者は去り、税金は上がり…」現代ビジネス、2017
(http://gendai.ismedia.jp/articles/-/52287)
Joynt, K. E., Chatterjee, P., Orav, E. J. and Jha, A. K.(2015) Hospital Closures Had No Measurable Impact On Local Hospitalization Rates Or Mortality Rates, 2003–11, Health Affairs
, 34 (5), 765-772
(http://content.healthaffairs.org/content/34/5/765.abstract)

中室牧子、津川友介

記事提供社からのご案内(外部サイト)

特集 自衛隊 防衛ビジネス
本当の実力
特集2 支持率低迷で正念場
徹底検証アベノミクス