AIブームをブームで終わらせないために―ウェンデル・ウォラック,コリン・アレン『ロボットに倫理を教える―モラル・マシーン―』訳者・岡本慎平による解説

ロボットに倫理を教える―モラル・マシーン―

◆ロボットに倫理を教えるということの困難

このたびウェンデル・ウォラックとコリン・アレンによる著書『ロボットに倫理を教える―モラル・マシーン―』を久木田水生氏との共訳で名古屋大学出版会から刊行した。本書はロボットや人工知能をめぐる倫理問題を、実際の工学的研究と伝統的な倫理学理論の双方を見定めながら検討したもので、ロボット倫理学に関する現代の古典とでも言うべき重要文献である。

とはいえ、人工知能の倫理に関心を持っている人であっても、いまさら本書に読む価値があるのだろうかと疑う者もいるだろう。というのも、原書であるMoral Machines: Teaching Robot Right from Wrong (Oxford University Press)の刊行は2009年であり、本訳書の出版までに10年が経過しているからである。これが通常の哲学や倫理学の文献であれば、10年程度の時間差はたいした問題ではない。ところが本書はロボットや人工知能にまつわる倫理学の文献である。そして人工知能は、原書の刊行後数年のうちにディープラーニングに関するブレイクスルーが起こり、「第三次人工知能ブーム」とも称される予想を超えた大発展が生じた。このことを考えると、ブーム直前に刊行された本書は既に時代遅れになってしまっているのではないかと訝しまれても仕方がない。

しかし、事態はその反対である。機械学習などのテクニックの発展によって、本書の重要性は増しこそすれ、決して減じていない。実際、原書の引用件数は2019年1月時点で750を超えており（Google Scholarによる）、現在でも人工知能の倫理の研究論文で頻繁に言及されている。そこで、まずは本書全体の内容を要約したうえで、具体的にどのような論点が参照されているのかを論じていこう。

まず、『ロボットに倫理を教える』は全12章に序章とエピローグを加えた構成になっている。本書の中心的問題は、自律的に道徳判断を下すソフトウェア、本書の用語を用いると「人工道徳的エージェント（Artificial Moral Agent; AMA）」を構築するための様々な戦略を検討することにある。序章と第1章では、様々な事例を用いながら、AMAが必要とされる背景が説明される。ついで第2章で「ロボットは真の意味で道徳的にはなれない」という典型的な反応に対して、「完全な道徳的行為者（Full Moral Agent）」を目指す必要はなく、当面の目標として、特定の範囲で倫理に配慮するエージェントや自らの動作が引き起こしうる倫理的影響を推察できるエージェントを目指すべきだとする方針が示される。ウォラックとアレンは、この限定的な意味での道徳性を「機能的道徳（functional morality）」と呼ぶ。

人工知能に機能的道徳を実装するにあたり、伝統的な倫理学にどのような役割があるのか？ 本書第5章でウォラックとアレンは、AMAの実装方針を「トップダウン・アプローチ」と「ボトムアップ・アプローチ」の2つに大別する。第6章で検討されるトップダウン・アプローチは、功利主義や義務論といった伝統的な倫理学理論やアシモフの「ロボット工学三原則」のような基礎的ルールを計算可能な形にして、行動の制約として実装する方針を指す。第7章で検討されるボトムアップ・アプローチは、機械学習や進化シミュレーションなどによって、エージェント自身からの倫理の創発を目指すアプローチを指す。いずれのアプローチにも長所と短所があることが示され、欠点を克服するための方針として両者の「ハイブリッド」が、AMA構築に向けた最終的な有望戦略として定められることになる。

とはいえ、以上の議論だけでは机上の空論の単なる思弁に陥ってしまう可能性がある。そのためウォラックらは第9章以降において、2009年当時に利用可能だった様々な工学的オプションを検討しながら、AMAを構築するうえで実際にはどのようなコンポーネントが必要になるのかを検討していく。例えば、トップダウンの実装においては義務論理やエキスパートシステムの長所と欠点が論じられ、ボトムアップの実装においてはマルチエージェントシミュレーションの展望が考察される。また、自身の行動の影響を理解するには人間の感情を読み取る必要もあるため、様々なアフェクティブ・コンピューティングの研究成果のうち、倫理的判断に必要なコンポーネントが一つ一つ検討される。

こうした具体的な倫理の実装方法の検討の後、第12章ではAMAが社会の中で用いられるようになった際に生じるおそれのある、社会規範や法制度の面での様々な変化が予測される。

以上、本書全体の内容を大別すれば、（1）なぜロボットに倫理を教えるべきなのか、（2）どうやってロボットに倫理を教えるべきなのか、（3）ロボットに対して我々はどのように振る舞うべきなのか、という3つの問題群から構成されていると考えることができる。

次に、原書の刊行以降の10年間で、本書の内容のうちどのあたりが注目されていたのかを見ていきたい。1つ目の注目点は、本書においてウォラックとアレンが目標として定めた「機能的道徳」にある。彼らは、「完全な道徳的行為者性」に至るまでの中間段階として機能的道徳を位置づけているのだが、彼らはその枠組みを「自律性」と「倫理的感受性」の二つの次元によって評価する。とはいえ、自律性の増加と倫理的感受性の増加は常に共起するわけではなく、現状の工学的研究は自律性の増大の方に傾斜していると考えられる。そこでウォラックらは、既に増加しつつある人工知能の自律性を見据えた上で、主として倫理的感受性を工学的に実装する仕方を考察した。この機械の道徳的行為者性の評価基準と分類方針は、後の様々な研究者にも踏襲されることになった。

2つ目の注目点は、人工知能への倫理の実装戦略を「トップダウン」と「ボトムアップ」の二つに区分し、両者はどちらか一方ではなく、両方必要なのだという方針を定めたことにある。これにより、人工知能への倫理の実装を目指す研究者は、自らの研究を全体の中に位置づけることが可能になった。例えば、「SNSにおける人々の言動を生データとして機械学習により倫理を作り出す」という研究であればボトムアップ戦略として、「様々な倫理的原則を整合的に記述できる義務論理体系を構築する」という研究であればトップダウン戦略として。こうした全体の枠組みは、AMAの構築を進めていく上での見取り図として有益に機能したと言えるだろう。

3つ目の注目点は、仮にAMAが「完全な道徳的行為者性」に至るとしたら突破しなくてはならない「道徳的チューリングテスト」の示唆にある。ウォラックらは、伝統的に「知性」の基準として見込まれていたチューリングテストを改変することで「道徳的行為者性」の基準を作り出そうとした。しかし本書で考案された「道徳的チューリングテスト」は、彼ら自身ですら、不十分な暫定基準に過ぎないと認めていた。そのため、後の研究者らはこのテストのさらなる改良や修正を試みていった。（ただし、現在まで誰もが納得できる基準はおそらく発見されていない。）

他にも、本書は2009年時点で既に生じていた様々なロボットや人工知能に関わる倫理問題が例示されているため、ロボット倫理の具体的事例を紹介するために引用されることもある。哲学者と工学者の共同研究のあり方についての提言が参照されることもある。また、人工知能の権利やプライバシー問題に関する考察もなされており、こうした法制度や社会規範の予測が言及されることもある。

以上のすべての点について、ウォラックとアレンの議論は今でも死んでいない。それどころか、その重要性は増し続けている。人工知能の倫理を机上の空論で終わらせることなく、地に足の着いた議論を進めていくために、本書は今後も重要なスタートラインを提供してくれることだろう。

※本原稿には「モラルハッカソン2018」での講演「ロボットに倫理を教えるということの困難――『ロボットに倫理を教える』解説と論点――」の発表資料を一部改変して使用した。


［書き手］岡本慎平（おかもと・しんぺい）
1986年生まれ。現在、広島大学大学院文学研究科助教。