ここから本文です

いま、アルゴリズムには「監査」が求められている

2/10(日) 15:10配信

WIRED.jp

フィルターバブルによる情報の偏りやフェイスブックの不祥事などが示すように、アルゴリズムが差別を助長し、不平等を拡大させることがある。こうしたなか、ビジネスが公平であることを証明するための「アルゴリズムの監査」が注目されている。

「お墨つき」で資金調達が有利になる

イェール・フォックスのビジネスには、とある成立条件がある。それは「誰の目から見ても公平であること」だ。

彼が創業したレントロジック(Rentlogic)は、ニューヨークで部屋を貸す大家たちの物件管理体制をアルゴリズムで評価している。このシステムがあれば、借り手はカビや害虫のいる物件を避けられるし、大家たちは自分がどれほど丁寧に物件を管理しているかを借り手に示せるというわけだ。

ただし、レントロジックのスコアは「ただそこに書いてある」だけでは成立しない。フォックスは貸し手と借り手の双方から、スコアへの信頼を得る必要がある。

アルゴリズムの公平さを示す「監査」

フォックスがこの思考にたどり着いたのは、キャシー・オニールの講義を聞いたときだった。

オニールは、ハーヴァード大学で数学の博士号を取得した元金融アナリストで、2016年に書籍『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』を著したことで知られている。この著作のなかで彼女は「不完全につくられたアルゴリズムは差別を助長し、不平等を拡大させる」と主張していた。

ありふれた主張だ。しかしこうした批判では、アルゴリズムの偏向を是正する解決策が示されていないことも多い。これに対してオニールは、画期的なアイデアを発案している。企業に評価に関連する技術を公開してもらい、それを基に監査を実施するという手法だ。

オニールが講義を終えたあと、フォックスは一度会って話せるよう彼女に頼んだ。コーヒーを飲み終えたころ、フォックスはオニールの最初のクライアントになり、アルゴリズムの外部監査を受ける契約を結んでいた。

「倫理的なサーヴィス」に向け、企業は動き出した

フェイスブック、グーグル、マイクロソフトといった巨大テック企業が「今後より倫理的な取り組みを行っていく」と公言するなか、企業のなかにはアルゴリズムの見直しに監査を利用するところも出始めている。企業の多くは「いまのうちに監査を受け入れておけば、いずれ規制当局から求められるツールについて早い段階から知っておくことができるだろう」と、考えているのだ。

オバマ政権は16年、アルゴリズムを監査するよう各企業に直接呼びかけた。デロイトは企業がアルゴリズムのリスクに対応するための施策を考案している。またアクセンチュアも、クライアントにアルゴリズムに関する助言を与えていると公表した。

しかしながら、アルゴリズム監査は誕生してまだまだ日が浅い。

「アルゴリズムが評価できるものなのかどうかは、いまのところ不明です」と、オバマ政権時に政府の主任データ・サイエンティストを務めたD.J.パティルは言う。「アルゴリズムというハイテク・ボックスをどのように扱い、どのように監査すればいいのか、厳密にはわかっていないのです」

そのような状況でも、外部からのお墨つきを得ようとしているのはフォックスひとりではない。

フリーダ・ポーリは、雇用のためのパーソナリティテストを提供するパイメトリックス(Pymetrics)の創業者だ。彼女は早くから内部監査を導入し、雇用ソフトウェアが人種差別を行わないようにしていた(フリーダはこの監査プロセスをGitHub上で公開し、誰もが利用できるようにする予定だ)。

1/3ページ

最終更新:2/10(日) 15:10
WIRED.jp

記事提供社からのご案内(外部サイト)

『WIRED Vol.32』

コンデナスト・ジャパン

2019年3月14日発売

1,200円(税込み)

『WIRED』日本版VOL.32「DIGITAL WELL-BEING」特集|デジタル時代のウェルビーイングの可能性を問う一冊

こんな記事も読まれています

あなたにおすすめの記事