
◆ロボットに倫理を教えるということの困難
このたびウェンデル・ウォラックとコリン・アレンによる著書『ロボットに倫理を教える―モラル・マシーン―』を久木田水生氏との共訳で名古屋大学出版会から刊行した。本書はロボットや人工知能をめぐる倫理問題を、実際の工学的研究と伝統的な倫理学理論の双方を見定めながら検討したもので、ロボット倫理学に関する現代の古典とでも言うべき重要文献である。
とはいえ、人工知能の倫理に関心を持っている人であっても、いまさら本書に読む価値があるのだろうかと疑う者もいるだろう。というのも、原書であるMoral Machines: Teaching Robot Right from Wrong (Oxford University Press)の刊行は2009年であり、本訳書の出版までに10年が経過しているからである。これが通常の哲学や倫理学の文献であれば、10年程度の時間差はたいした問題ではない。ところが本書はロボットや人工知能にまつわる倫理学の文献である。そして人工知能は、原書の刊行後数年のうちにディープラーニングに関するブレイクスルーが起こり、「第三次人工知能ブーム」とも称される予想を超えた大発展が生じた。このことを考えると、ブーム直前に刊行された本書は既に時代遅れになってしまっているのではないかと訝しまれても仕方がない。
しかし、事態はその反対である。機械学習などのテクニックの発展によって、本書の重要性は増しこそすれ、決して減じていない。実際、原書の引用件数は2019年1月時点で750を超えており(Google Scholarによる)、現在でも人工知能の倫理の研究論文で頻繁に言及されている。そこで、まずは本書全体の内容を要約したうえで、具体的にどのような論点が参照されているのかを論じていこう。
まず、『ロボットに倫理を教える』は全12章に序章とエピローグを加えた構成になっている。本書の中心的問題は、自律的に道徳判断を下すソフトウェア、本書の用語を用いると「人工道徳的エージェント(Artificial Moral Agent; AMA)」を構築するための様々な戦略を検討することにある。序章と第1章では、様々な事例を用いながら、AMAが必要とされる背景が説明される。ついで第2章で「ロボットは真の意味で道徳的にはなれない」という典型的な反応に対して、「完全な道徳的行為者(Full Moral Agent)」を目指す必要はなく、当面の目標として、特定の範囲で倫理に配慮するエージェントや自らの動作が引き起こしうる倫理的影響を推察できるエージェントを目指すべきだとする方針が示される。ウォラックとアレンは、この限定的な意味での道徳性を「機能的道徳(functional morality)」と呼ぶ。
人工知能に機能的道徳を実装するにあたり、伝統的な倫理学にどのような役割があるのか? 本書第5章でウォラックとアレンは、AMAの実装方針を「トップダウン・アプローチ」と「ボトムアップ・アプローチ」の2つに大別する。第6章で検討されるトップダウン・アプローチは、功利主義や義務論といった伝統的な倫理学理論やアシモフの「ロボット工学三原則」のような基礎的ルールを計算可能な形にして、行動の制約として実装する方針を指す。第7章で検討されるボトムアップ・アプローチは、機械学習や進化シミュレーションなどによって、エージェント自身からの倫理の創発を目指すアプローチを指す。いずれのアプローチにも長所と短所があることが示され、欠点を克服するための方針として両者の「ハイブリッド」が、AMA構築に向けた最終的な有望戦略として定められることになる。
とはいえ、以上の議論だけでは机上の空論の単なる思弁に陥ってしまう可能性がある。そのためウォラックらは第9章以降において、2009年当時に利用可能だった様々な工学的オプションを検討しながら、AMAを構築するうえで実際にはどのようなコンポーネントが必要になるのかを検討していく。例えば、トップダウンの実装においては義務論理やエキスパートシステムの長所と欠点が論じられ、ボトムアップの実装においてはマルチエージェントシミュレーションの展望が考察される。また、自身の行動の影響を理解するには人間の感情を読み取る必要もあるため、様々なアフェクティブ・コンピューティングの研究成果のうち、倫理的判断に必要なコンポーネントが一つ一つ検討される。
こうした具体的な倫理の実装方法の検討の後、第12章ではAMAが社会の中で用いられるようになった際に生じるおそれのある、社会規範や法制度の面での様々な変化が予測される。
以上、本書全体の内容を大別すれば、(1)なぜロボットに倫理を教えるべきなのか、(2)どうやってロボットに倫理を教えるべきなのか、(3)ロボットに対して我々はどのように振る舞うべきなのか、という3つの問題群から構成されていると考えることができる。
次に、原書の刊行以降の10年間で、本書の内容のうちどのあたりが注目されていたのかを見ていきたい。1つ目の注目点は、本書においてウォラックとアレンが目標として定めた「機能的道徳」にある。彼らは、「完全な道徳的行為者性」に至るまでの中間段階として機能的道徳を位置づけているのだが、彼らはその枠組みを「自律性」と「倫理的感受性」の二つの次元によって評価する。とはいえ、自律性の増加と倫理的感受性の増加は常に共起するわけではなく、現状の工学的研究は自律性の増大の方に傾斜していると考えられる。そこでウォラックらは、既に増加しつつある人工知能の自律性を見据えた上で、主として倫理的感受性を工学的に実装する仕方を考察した。この機械の道徳的行為者性の評価基準と分類方針は、後の様々な研究者にも踏襲されることになった。
2つ目の注目点は、人工知能への倫理の実装戦略を「トップダウン」と「ボトムアップ」の二つに区分し、両者はどちらか一方ではなく、両方必要なのだという方針を定めたことにある。これにより、人工知能への倫理の実装を目指す研究者は、自らの研究を全体の中に位置づけることが可能になった。例えば、「SNSにおける人々の言動を生データとして機械学習により倫理を作り出す」という研究であればボトムアップ戦略として、「様々な倫理的原則を整合的に記述できる義務論理体系を構築する」という研究であればトップダウン戦略として。こうした全体の枠組みは、AMAの構築を進めていく上での見取り図として有益に機能したと言えるだろう。
3つ目の注目点は、仮にAMAが「完全な道徳的行為者性」に至るとしたら突破しなくてはならない「道徳的チューリングテスト」の示唆にある。ウォラックらは、伝統的に「知性」の基準として見込まれていたチューリングテストを改変することで「道徳的行為者性」の基準を作り出そうとした。しかし本書で考案された「道徳的チューリングテスト」は、彼ら自身ですら、不十分な暫定基準に過ぎないと認めていた。そのため、後の研究者らはこのテストのさらなる改良や修正を試みていった。(ただし、現在まで誰もが納得できる基準はおそらく発見されていない。)
他にも、本書は2009年時点で既に生じていた様々なロボットや人工知能に関わる倫理問題が例示されているため、ロボット倫理の具体的事例を紹介するために引用されることもある。哲学者と工学者の共同研究のあり方についての提言が参照されることもある。また、人工知能の権利やプライバシー問題に関する考察もなされており、こうした法制度や社会規範の予測が言及されることもある。
以上のすべての点について、ウォラックとアレンの議論は今でも死んでいない。それどころか、その重要性は増し続けている。人工知能の倫理を机上の空論で終わらせることなく、地に足の着いた議論を進めていくために、本書は今後も重要なスタートラインを提供してくれることだろう。
※本原稿には「モラルハッカソン2018」での講演「ロボットに倫理を教えるということの困難――『ロボットに倫理を教える』解説と論点――」の発表資料を一部改変して使用した。
[書き手]岡本慎平(おかもと・しんぺい)
1986年生まれ。現在、広島大学大学院文学研究科助教。
名古屋大学出版会
- 「アルツハイマー病」大流行の時代へ…認知症 or 老化、どう考える?―マーガレット・ロック『アルツハイマー病の謎―認知症と老化の絡まり合い―』江口 重幸による書評
- インターネットで他人を血祭りにあげる人々―Jon Ronson『So You've Been Publicly Shamed』渡辺 由佳里による書評
- 普遍言語への人類の飽くなき追求―西垣 通『ペシミスティック・サイボーグ―普遍言語機械への欲望』片山 修による書評
- 民主主義と社会秩序はテクノロジーに破壊されてしまうのか?―ジェイミー・バートレットによる『操られる民主主義』まえがき
- プラットフォームこそが企業組織や社会の仕組みを破壊し再編する?―アレックス・モザド,ニコラス・L・ジョンソン『プラットフォーム革命』松原 隆一郎による書評
最終更新:1/23(水) 6:00
ALL REVIEWS
-
- 腰部「脊柱管狭窄症」の手術 腰痛やしびれなどに向いている「固定術」とは?〈週刊朝日〉
AERA dot.2/18(月) 8:00
-
- あなただけじゃない!授乳が不快という感覚…D-MERとは?
たまひよONLINE2/19(火) 8:10
-
- 「景観悪化、健康被害も」秋田の洋上風力発電計画、市民団体が中止要望
毎日新聞2/9(土) 8:40
-
- 国の全機関 使い捨てプラ禁止方針 庁舎内の食堂など
ホウドウキョク2/9(土) 15:58
-
- 囲碁最年少プロ仲邑菫さん、“美しすぎる棋士”と20日対局
産経新聞2/8(金) 16:29
-
- 池江選手告白の「白血病」 治療法が劇的進化!もはや“不治の病”ではない
FNN PRIME2/12(火) 20:11
-
- 座ったままで超簡単!免疫力が上がるストレッチ
All About2/16(土) 20:45
-
- アルコール依存を克服、鬱(うつ)も=「音楽創造の平均値は上がった」-ロックバンド「ZIGGY」森重樹一氏
時事通信2/16(土) 17:11
-
- 台湾スタバで買いたい本命土産はコレ 文房具は発見したら即買いが鉄則!
CREA WEB2/19(火) 7:00
-
- 思いっきりレモンを拒絶するワンちゃん 前足をブンブン振りまくる独特の嫌がり方が面白い
ねとらぼ2/18(月) 23:00
-
- 片づけが苦手でもOK!狭い団地で「心地よく暮らせる」秘密って?
サンキュ!2/19(火) 7:52
-
- 嚥下障害はあるものの体は快調で仕事も“がん前”のまま
日刊ゲンダイDIGITAL2/19(火) 9:26
-
- 大腸がんと診断されたことを、父には告げたくなかった
日刊ゲンダイDIGITAL2/19(火) 9:26
-
- 情報誌「ぴあ」をアプリで復活 紙とデジタルの「いいところ取り」を実現
毎日新聞2/10(日) 10:01
-
- 「死にたい」という親に「そんなこと言うな」は禁句です
日刊ゲンダイDIGITAL2/19(火) 9:26
-
- ワインに入っている酸化防止のための亜硫酸(二酸化硫黄)は健康に害を及ぼすか?〈週刊朝日〉
AERA dot.2/19(火) 7:00
-
- 「泣き虫」はよく泣く人にあらず? 昭和歌謡の詞に隠された機微を探る
CREA WEB2/17(日) 11:00
-
- 「えっと……なにも見てないにゃ」 自分からお風呂をのぞきに来たのに気まずそうな表情をする猫ちゃんがかわいい
ねとらぼ2/18(月) 22:30
-
- 東大卒の夫はちょっとヘン。「あの人は奥さんが短大だからな」って…
女子SPA!2/19(火) 8:50
-
- インフルエンザになったら…医師が語る“正しい対処6カ条”
デイリースポーツ2/13(水) 11:00
-
- 「取材の自由侵害容認できず」 マスコミ労組が撤回要求
共同通信2/18(月) 19:24
-
- 「カカオの涙」に思いを…産地の児童労働や貧困 パティシエらが支援の輪
毎日新聞2/9(土) 12:59
-
- 音楽エリート一家で育った25歳ピン芸人「歌ネタは半信半疑でした」
bizSPA!フレッシュ2/19(火) 8:45
-
- 華やかお雛さま、市内80カ所に展示 滋賀・長浜で催し
京都新聞2/18(月) 14:00
-
- 「これが道頓堀の伝統芸能」 ミュージアム並木座、3月末にオープン
毎日新聞2/8(金) 19:07
-
- 葬式はなくなる? 通夜なし、式なしの「直葬」選ぶ時代に〈週刊朝日〉
AERA dot.2/11(月) 8:00
-
- 米軍訓練候補の島に遺跡、鹿児島 西之表市が調査へ
共同通信2/18(月) 18:14
-
- 手塚さん直筆、トキワ荘の天井板 解体時の思い出、公開検討
共同通信2/19(火) 5:32
-
- ダイエット中におすすめな「朝食」ベスト3
All About2/16(土) 18:15
-
- 牡蠣の殻で浄化した川の水が海を救う!?
ソーシャル・イノベーション・ニュース2/14(木) 18:00
読み込み中…