ここから本文です

AIが中国共産党を批判、「忖度」しないAIの普及で社会の暗黙の了解が崩壊?

8/8(火) 8:10配信

THE PAGE

 中国の大手IT企業が提供するAI(人工知能)キャラクターが中国共産党を批判し、サービスが停止されるという騒ぎがありました。中国はそもそも言論の自由のない国ですが、似たような問題は民主国家でも発生する可能性があります。状況を「忖度」しないAIが普及した場合、わたしたちはどう向き合えばよいのでしょうか。

 中国のIT企業テンセントは、中国版のLINEともいえるWeChatなどを提供する有力企業ですが、同社は今年からネット上で人工知能と会話できるサービスを開始していました。人工知能のキャラクターに話しかけると、様々な会話ができるというものです。日本でもマイクロソフトが開発したAI女子高生「りんな」というサービスがありますが、これと似たようなものと思えばよいでしょう。

 香港メディアが報じたところによると、この人工知能は「中国共産党万歳」という書き込みに対して「こんなに腐敗している政治に万歳するの?」と反論したそうです。習近平国家主席が提唱している「中国の夢」というキャッチフレーズに対しても「それはアメリカに移住することだ」と回答しました。この話はネット上で拡散し、騒ぎが大きくなったことから、テンセントはサービスを停止しています。

 中国は共産党による独裁国家ですから、もともと言論の自由がありません。こうしたサービスが停止に追い込まれるのは、特に驚くべきことではないでしょう。しかし、似たような問題は、日本でも発生する可能性があります。

 最近「忖度する」というキーワードがちょっとしたブームとなりましたが、日本社会では皆が思っていても、口にしてはいけないことがたくさんあります。もしこうした状況を「忖度」しない人工知能が普及した場合、社会の暗黙の了解が崩れてしまいます。

 近い将来、報道の多くがAIに取って代わられるという話もありますが、日本の財政問題や年金制度、政治家のスキャンダル、日本社会の問題点などについて、AI記者は一切忖度せずに記事を書くかもしれません。この時、報道の受け手側であるわたしたちはどう対処すればよいのでしょうか。

 人が書いた原稿であれば「フェイクニュースだ!」といって批判すればそれでおしまいかもしれませんが、合理的に記事を作成しているAIの場合、そうはいかないでしょう。内容は正しいものの、わたしたちにとって受け入れ難い内容をAIが次々に提案してきた場合、それを拒否するのか、それとも受け入れるべきなのか、あるいは忖度するAIしか開発しないのか、今のうちから考えておいた方がよいかもしれません。


(The Capital Tribune Japan)

最終更新:8/12(土) 5:52
THE PAGE