ここから本文です

米国から恐れられた日本のIT技術、AIの死角に着目

8/4(金) 6:15配信

JBpress

 報道でAIとかIoTといった文字を見ない日はほとんどありません。いったい今回の「AIブーム」何が特徴的で何に気をつける必要があるか、もっと本質をついた解説があってもよいように思います。

 そこで、私たち東京大学のグループが「知の死角」と呼んでいる問題に照準を合わせ、どのような対策が有効化を検討してみたいと思います。

 初めに、五神真総長の言葉を引用して、ポイントを抜き出してみたいと思います。

■ ブラックボックスAIの恐怖

 「近年AI技術の中で注目されている機械学習や深層学習の相当部分は、ベイズ統計という確率統計理論に依拠したもので、従来の技術とはやや異質なところがあります」

 「インプットした情報からアウトプット(結論)を出すまでの計算の過程がブラックボックスになっていることと結果がステップごとの論理の積み重ねで出ているわけではないのです」(五神真「変革を駆動する大学」p.158 東京大学出版会 2017)

 こんなふうにクリアに認識している人が、どれほどいるでしょうか。少なくとも東大内で学部学生に質問しても、とりわけ1~2年生なら9割方、何も分かっていないと思います。

 五神東大総長の言葉を引き続き引用しつつ、このポイントを検討してみましょう。

 「普通の計算機プログラムであれば、エラーが起きると、プログラマーがそれを取り除く作業をして、その積み重ねで正確なプログラムを作っていきます。(中略)先のようなAIの場合はそうではありません。AIが出した結果が正しいのかどうかは証明できないのです」

 単にブラックボックスというだけでなく、今日のAIのポイントは論理的にきれいに跡づけられるケースばかりではないこと。ここに注目する必要があります。

 「いまうまく機能していると思っていたとしても、全く想定しないくらい大きく間違った結論を急に出してしまう可能性がないとは言えません。(中略)実は、人間の脳も同じ意味で処理プロセスが明らかでない部分が多いにもかかわらず、人間が社会を形成しています」

 そうなんですね。第2次世界大戦後、ジョン・フォン・ノイマン主導による電子計算機の発明以来、20世紀型の「人工知能」は古典的に跡づけられるロジックを用いて、いわば因果的、あるいは職人的精密加工型で演算をプログラムし、実行してきた。

 あえて言えば古典力学のように一つひとつのプロセスが明確、少し難しく言うなら「ニュートン型」のクラシカルな推論が行われていた。

1/4ページ

最終更新:8/4(金) 6:15
JBpress

記事提供社からのご案内(外部サイト)

JBpress PremiumはJBp
ressが提供する有料会員サービスです。
新たな機能や特典を次々ご提供する“進化
するコンテンツ・サービス”を目指します。