ここから本文です

人間と人工知能は、Facebookの「残酷動画」にどう対処すべきなのか?

5/15(月) 8:20配信

WIRED.jp

ヴァイオレンス、ポルノ、ヘイトスピーチ。Facebookに流れる「不快なコンテンツ」を発見・警告するために、人工知能(AI)が使われつつある。とはいえ、AIだけに任せることはできない。ネット上の言論空間を快適に保つために、人とAIはいかに協働しなければいけないのか?

増える「Facebook殺人動画投稿」、その規制はなぜ難しいのか?

4月16日(米国時間)、恐ろしい殺人の動画がFacebookにアップロードされた[関連記事]。オハイオ州クリーヴランドに住むスティーヴ・スティーヴンズ容疑者が、まずは「自分はこれから人を殺す」と語る予告動画を投稿し、その後、被害者の男性に近づき、頭部に発砲する動画を投稿。その後ライヴ配信を始め、殺人行為や自身が犯したそのほかの犯罪について語った。フェイスブック側がこれらの動画を削除するまでに2時間以上かかったと伝えられている。

2時間といえば、たくさんの人が視聴してFacebookで共有するのに十分な時間だ。この事件により、残酷なコンテンツを掲載させないためにソーシャルメディアには何ができ、人を不快にするコンテンツに対してどのように取り組むべきなのかを巡って、おなじみの議論が再燃している。

この殺人事件はまた、いったんインターネットに出て共有されたものを、ウェブの隅々から洗い落とすのは困難であることを再認識させた。では、このようなコンテンツがまったく現れないようにするには、ソーシャルメディアにはどんな取り組みが必要なのだろうか?

アルゴリズムには頼れない

いちばんの方法は、生々しい動画が最初からアップロードされないようにすることだ。フェイスブックは、アップロードを防ぐ策を講じられるはずである。投稿される動画の一つひとつを人が(あるいはシステムが)視聴し、承認したものだけをアップロードすればいい。

しかし、掃除機に乗ったネコの動画までもフェイスブックの承認を待たなければいけなくなったら、人々はほかのところに投稿するようになるだろう。日常生活を簡単に共有できることを求める人々、という膨大な層をフェイスブックは失うことになる。彼らはそんなことはできない。

残酷な動画が掲載されたらすぐにフェイスブックが削除すればいいという声もあるが、これにはひとつ問題がある。不快なコンテンツをすぐさま特定・削除するのは、技術的に不可能なのだ。アルゴリズムが自動的にこれを行えるほどテクノロジーは進んでおらず、手作業で行う人員を雇うのも現実的ではない。

また、フェイスブックがアルゴリズムに動画を削除させるようにした場合、ミスは避けられない。たとえアルゴリズムがフェイスブックのサーヴィス利用規約に沿って正しく判断できるとしても(まず考えられないことだが)、フェイスブックは「検閲」を非難され、ユーザーを萎縮させてしまうかもしれない。

1/3ページ

最終更新:5/15(月) 8:20
WIRED.jp

記事提供社からのご案内(外部サイト)

『WIRED Vol.28』

コンデナスト・ジャパン

2017年6月8日発売

630円(税込み)

特集「Making Things ものづくりの未来」。大量生産、大量消費の時代が終わりを迎えるなか、ヒトはいかにものと向き合い、それをつくり、使っていくのか。