ここから本文です

SNSの「おすすめ」が自殺を助長する

8/20(火) 19:12配信

WIRED.jp

英国の少女モリー・ラッセルは、2017年に14歳で自ら命を絶った。この行為に及ぶ前には、自殺や自傷の画像をネットで検索していたという。これだけでも十分に痛ましいが、そうした画像は彼女のお気に入りのソーシャルメディア・プラットフォームから“おすすめ”されていたことも、のちにわかっている。モリーのInstagramフィードは、こうした画像でいっぱいだった。

人工知能が誰かの自殺を予測し、防ぐ日は近い

モリーの死から数カ月経っても、Pinterestは彼女にメールを自動送信し、アルゴリズムによって自傷の生々しい画像を薦めつづけた。なかには切り裂かれた太ももの画像や、少女が首を吊っているマンガもあった。モリーの父親は、InstagramとPinterestを訴えた。こうした露骨な画像の掲載を許し、モリーのフィードに送ることで、彼女の自殺をほう助したというのが理由だった。

「おすすめ」することの有害性

モリーの父親がこの悲惨な状況に気づいたことで、InstagramやPinterestなどのソーシャルメディアが若者たちの“心の健康の危機”を悪化させている、という議論に拍車がかかった。ソーシャルメディアは「自殺世代(suicide generation)」興隆の要因になっている可能性がある。英国のティーンエイジャーの自殺率は、8年前の2倍になっているのだ。

モリーの死を受けて、変化を求める声が上がっている。例えば英保健省大臣のマット・ハンコックは、ソーシャルメディア企業はこうしたコンテンツを一掃する必要があると指摘し、これに従わない企業は起訴する、と強硬な姿勢を示している。こうした厳しい批判を浴びてインスタグラムは、「露骨な自傷の画像」を禁止した。自傷と自殺を“美化する”ことのみを禁止していたこれまでのルールから一歩前進したかたちだ。

だが、単純な禁止だけでは対処できないさらに有害な問題がある。ソーシャルメディアのプラットフォームは、こうした問題あるコンテンツをホスティングするだけでなく、その影響を最も受けやすい人に薦めてしまうのだ。

“おすすめ”することと、単に“手に取れる”ことはまったくの別物だ。それを裏付ける学術論文も次々に登場している。自傷であれ、デマであれ、テロリストの募集であれ、陰謀論であれ、プラットフォームはこのようなコンテンツを見つけやすくする以上のことをしてしまっている。「おすすめ」という方法でそれを増大させる手助けをしているのだ。

1/4ページ

最終更新:8/20(火) 19:12
WIRED.jp

記事提供社からのご案内(外部サイト)

『WIRED Vol.34』

コンデナスト・ジャパン

2019年9月13日発売

1,200円(税込み)

『WIRED』日本版VOL.34「ナラティヴと実装」社会実装の可能性を探るべく、2020年代の実装論を総力特集

こんな記事も読まれています

あなたにおすすめの記事