この記事は、戸田記念国際平和研究所が配信したもので、同研究所の許可を得て転載しています。

【Global Outlook=デニス・ガルシア】

２０２１年５月、国連安全保障理事会は、人工知能（AI）などの新興技術が平和と安全保障において果たす役割を議論する初めての会合を開いた。翌月、安全保障理事会は、サイバースペースにおける平和維持の方法を議論し、新興技術が国連における最高レベルの外交の場で初めて取り上げられた。（原文へ　日・英）

国連憲章によれば、安全保障理事会は、平和、安全保障、文民保護、国際関係における武力行使に関する決定を管理する責任を負う。国際関係の新領域としての新興技術とサイバー空間に焦点を当てることは、もともと国連憲章の起草者が想定していなかったこれらの分野において、切実に必要とされている共通の行動規範を推進する国連の役割の特筆すべき進化を示している。侵入されたネットワークを復旧し、あるいは悪意ある利用に対処するため、２０２０年に国連加盟国が費やした金額は１兆ドルに上った。各国が自国の能力を伸ばし、能力不足の国を支援できる、サイバー空間に関する国際協調枠組みを構築することが極めて重要である。

アントニオ・グテーレス国連事務総長が果たしている役割は、際立っている。彼は「デジタル協力に関するハイレベル・パネル」を設置し、２０１８～２０１９年に会合を開いた。２０１９年３月、事務総長は、「人間の関与なしに殺傷する能力と裁量を持つ機械は、政治的に容認できず、道徳的にも嫌悪感を引き起こし、国際法によって禁止されるべきである」として、自律型兵器の禁止を強く訴えた。

パネルの提案に基づき、学術界、民間部門、政府、市民社会など、いくつかの異なるコミュニティーとの協議を経て、グテーレスは、国連75周年の節目に「デジタル協力のためのロードマップ」を提案した。ロードマップは、先進国と途上国のデジタル格差を埋め、誤った情報の拡散を食い止めることにより透明性を生み出し、重要なデジタルインフラを保護し、人々の尊厳を守ることを目的としている。さらに、新興技術全般の兵器化を規制し、代わりに人類の共通利益のためにのみ新興技術を利用することも模索している。

国連事務総長が積極的かつ予防的な行動志向の役割を果たすことにより、国連は新興技術に関するグローバルアクションの確かな土台となった。グテーレスにとって、今日の世界の安全保障に対する四つの重大な脅威は、人類の未来を危険にさらす恐れがあるものだ。すなわち、地政学的緊張の高まり、気候危機、世界に広がる不信感、そして、不正や犯罪を行い憎悪や誤情報を拡散し人々を抑圧するといった、ますます多くの国で見られるテクノロジーの負の側面である。技術の進歩は急速で、外交努力はそれに追いつくことができず、世界は第４次産業革命のインパクトを受け止める準備ができていない。

２０２１年９月に開かれた国連総会のハイレベル・セグメントで、グテーレスは、「共通の課題」を提示した。これは、国連「持続可能な開発目標」の既存のプラットフォームを活用し、人類に対する四つの主要な脅威に取り組むことを目指す包括的な道筋である。「共通の課題」は、クラウドソーシングにより2年間にわたって世界中の何千人もの人々と協議された結果であり、未来世代を守り若者の包摂に向かう転換軸をなすものである。確かに、「デジタル協力のためのロードマップ」を実現するには、特に誤情報、憎悪の拡散、富裕国と貧困国のデジタル格差の分野では多くの課題がある。しかし、新興技術のなかでも、過去５年間に大幅な進展が見られた分野がある。２０１７年１１月１３日から１７日にかけて、自律型致死兵器システムの分野における新興技術に関する政府専門家会合（GGE）の第１回公式会合がジュネーブで開催された。

GGEは、 特定通常兵器使用禁止制限条約（Convention on Certain Conventional Weapons : CCW）の範囲内で設立された。同条約は戦争や紛争の際に何が合法で何が違法かの範囲を定めた国際人道法（IHL）と見なされている。過去には、CCWは、失明をもたらすレーザー兵器を予防的に禁止している。自律型兵器の道徳的、法的、倫理的影響に関する当初の議論は、２０１３年に人権理事会で行われた。１年後、フランスとドイツがCCWの枠内で議論を開始することを決定し、それがGGE設置へとつながった。以降、GGEは自律型兵器に関する１０原則を策定した。全ての新規システムに国際人道法が適用されること、人間の責任が委譲されないことを認める原則である。

ほとんどの国は、この成果を、自律型兵器システムがもたらす課題に対応するために適しているとは言い難いと考えている。国連事務総長は、このようなシステムの使用は戦争を大きく変容させ、道徳的に許されない領域へと人類を駆り立てるという信念に基づいて、各国に対し、自律型兵器に制限を設けるよう訴えている。

２０２１年５月、国際人道法（IHL）の守護者である赤十字国際委員会（ICRC）はこの問題に対する見解を表明し、各国に対して自律型兵器に関する法的拘束力を有する新たな規則を取り決めるよう強く訴えた。この新たな見解が重要な転換点となることは間違いない。なぜなら、全ての国がジュネーブ条約と呼ばれるIHLの中心的な条約を批准しているため、ICRCは圧倒的な影響力を持つからである。兵器の使用とコントロールに関するいかなる議論においても、ICRCは権威ある役割を果たしている。ICRCの見解は、自律型兵器システムの使用は文民と戦闘員に重大なリスクをもたらし、さらに、IHLを遵守できない可能性のあるAI対応アルゴリズムによって生成されるアウトプットや結果の不規則かつ変動的な性質は、そのリスクを増幅するというものである。結局のところ誰が生き残って誰が死ぬかは、センサーデータや予測不能なソフトウェアプログラムに委ねられるべきではない。

したがって、３種類の制限からなる新たな国際条約を策定するべきである。第１に、飛来するミサイルといった軍事標的のみを対象とし、かつ文民がいない状況のみに攻撃を制限するべきである。第２に、たとえ機械学習のアルゴリズムによって標的が決まった場合でも、人間による監督を可能にするため、標的設定の期間と地理的範囲を制限するべきである。第３に、適時の介入を可能にするため、人間によるコントロールと監視が必要である。

自律型兵器の開発や配備のあらゆる側面を規制する新たな国際条約について、国連加盟国は賛成しているのか、そして条約成立の見込みはどうなのだろうか？ 問いの前半への答えは有望なものである。ほとんどの加盟国はAI科学者と市民社会とともに、人と機械の相互作用に関して、禁止と規制の組み合わせを含む包括的な新しい国際条約の成立を望んでいる。それは、切迫する国際安全保障問題に対する、比較的新しい形のグローバルガバナンスとなるだろう。この新たな条約は革新的なものとなり、従来からの軍縮・軍備管理規制の型にははまらないだろう。この新条約は、いかにして人間が既存システムにおける新技術の配備を監督する立場に留まるかに関するものである。しかし、それはまた、将来にわたって有効でなければならず、新たな技術革新と直面しても意味を持つものでなければならない。

CCWには、新興技術の開発を牽引する国々、すなわちオーストラリア、インド、イスラエル、日本、韓国、トルコ、英国、米国が参加しているが、これらの国々は依然として前進を妨げる障害となっている。しかし国連での審議は大幅な進捗を遂げており、いまやこれらの国々は少数派になっているようだ。またAIという新たなテクノロジーを軍事化するという論理を続けることは、国連事務総長が強調したように、人類が直面する他の全ての喫緊の課題に取り組むうえで、完全なる裏切りであるとほとんどの国が考えている。

AIは、疾病対策を支援し、気候危機の解決に役立つ新興技術となる可能性がある。核技術のように武器化されるべきではない。つまり国連は、新興技術のあらゆる側面において、また少数の国々がテクノロジーの負の側面を増幅する方向に突き進むのを阻止するフォーラムとして、中心的な役割を担っていくべきである。

デニス・ガルシア は、ボストンのノースイースタン大学の教授。近日刊行される“When A.I. Kills: Ensuring the Common Good in the Age of Military Artificial Intelligencea” の執筆者であり、戸田記念国際平和研究所「国際研究諮問委員会」のメンバーである。また、ロボット兵器規制国際委員会副議長も務めている。

INPS Japan

関連記事：

国連、サイバー犯罪撲滅と、平和と安全の確保を誓う

｜国連｜２０２０年の優先課題（アントニオ・グテーレス国連事務総長）

人工知能戦争