ここから本文です

AIドローンの誤作動が戦争の悲劇を招く──元グーグルの開発担当が警鐘

9/18(水) 12:00配信

Forbes JAPAN

サウジアラビアの国営石油企業、サウジアラコムの石油施設2カ所が、ドローンによって襲撃を受けたというニュースが世界中を駆け巡っている。

多くのメディアは石油価格の高騰など世界経済にもたらす悪影響、また人工知能とドローンがテロリズムのコストパフォーマンス向上にイノベーションをもたらすとし、“貧者のテクノロジー×暴力”の台頭に危惧を示している。

一方で、大国やグローバルIT企業など“富める者”によるAIドローン開発競争の危険性を指摘する人物も現れている。元グーグルのエンジニアLaura Nolan氏がその急先鋒だ。Nolan氏は、2018年、米国の軍事用ドローンと関連したソフトウェアを開発中に同社を退社。現在は、AIドローンが誤作動を起こし、誰も予想しなかった戦争を引き起こしてしまう可能性があると警鐘を鳴らしている。

Nolan氏は16日、英大手紙ガーディアンのインタビューに対し、「昨年、グーグルからすべての動作がAIを通じて行われる、最先端無人偵察機の技術開発に参加することを要請された」と背景を語った。しかし、AIドローンが大量殺傷兵器として利用される可能性を憂慮し、開発中止をグーグル側に要請したが、まもなく解雇に関する通知を受けたという。

Nolan氏は、実際に開発に携わったエンジニアの立場から、軍事用AIドローンの誤作動について懸念を表明している。

遠隔操作されているドローンは、急激な気象異変に直面した際に誤動作が避けられないというのだ。また、人工知能は銃を持っている人物が「狩りをしようとしているのか」、はたまた「戦闘行為をしようとしているのか」など、具体的な状況を識別できないとも指摘。それら誤認識が原因となり、戦争とは無関係な民間人が被害を被る可能性が非常に大きいとする。

加えて、米国が開発する軍事用AIドローンには、化学兵器禁止条約(CWC)に抵触するような破壊的な化学兵器が搭載される恐れがあるとも指摘する。大国が、実際の戦場でAIドローンの性能強化を図る兆候が現れ始めているなか、国連などの国際機関が取り締まらければならないというのがNolan氏の主張だ。

米国防総省は、ロシアや中国に対抗してドローンが収集した映像をマシンラーニングで分析する「プロジェクト・メイブン(Project Maven)」を進めてきた。昨年初めには、グーグルが同プロジェクトに関与しているとの報道があり批判が集中した。

結果、グーグルは「Artificial Intelligence at Google:our principles」という原則を発表。軍事用AIを開発に関与しないとし、プロジェクト・メイブンへの参加も中止するとした。

しかし、企業に莫大な利益をもたらす軍事用AIやAIドローン開発をグーグルが簡単に放棄するはずはなく、いまだに開発に関与しているという主張や疑惑が絶えず提起されている。

そのような状況下で、グーグルのAIドローン開発の中心にいたNolan氏の発言が大きな波紋を呼んでいる形だ。なおNolan氏によれば、グーグルは今年3月にプロジェクト・メイブンに参加しないという約束を放棄したとも証言している。今後、グーグルの軍事用AIドローン関連の技術開発をめぐり議論が再燃しそうだ。

なお、「ドローンがテロに使われた」という話題が盛り上がると、ドローンを社会課題やビジネスに利活用しようとする動きも制限を受ける。日本では過去に「首相官邸落下事件」が起こり、イメージ悪化が避けられなかった。2020年の東京五輪などでも、利活用よりは「テロ対策」と関連して禁止や規制の方向に法律が強化された。

危険なドローンと人の役に立つドローンの境界線はどこか。センセーショナルな事件が起きた際には、立ち止まって考えてみる必要がある。

河 鐘基(ハ・ジョンギ)

最終更新:9/18(水) 12:00
Forbes JAPAN

こんな記事も読まれています

あなたにおすすめの記事