【バチカンシティINPS Japan＝浅霧勝浩】
広島と長崎への原子爆弾投下によって人類が核時代に突入してから、すでに８０年以上が過ぎた。いま世界は、科学や産業の領域をはるかに超える影響をもたらす、もう一つの技術革命に直面している。核兵器は今なお、わずか数時間のうちに文明を破壊し得る力を持つ。その一方で人工知能（AI）は、軍事計画、情報収集、サイバー作戦、戦略的意思決定のあり方を急速に変えつつある。こうした変化は、第２次世界大戦後に築かれた国際制度が、そもそも想定していなかったものである。｜英語版｜
このような状況を背景に、ノーベル賞受賞者約３０人とノーベル賞受賞団体の代表、元国家元首・政府首脳、AI研究の第一人者、科学者、カトリック関係者、市民社会の代表らを含む２００人以上が、７月１４日から１６日まで、カステル・ガンドルフォの教皇庁庭園内にあるボルゴ・ラウダート・シに集う。
「人工知能と核戦争に関する世界ノーベル賞受賞者会議」には、科学、技術、平和構築、倫理の分野で世界を代表する人々が参加し、２１世紀を特徴づける重要な問いに向き合う。
人工知能は平和を築く力となり得るのか。それとも、すでに不安定化している核時代において、戦争の危険をさらに深刻化させるのか。
３日間にわたる会議は７月１６日にローマで閉幕し、「非武装かつ軍縮を促す平和のためのローマ宣言」が発表される予定である。同宣言は、人工知能（AI）、核兵器、自律型兵器、デジタル・ガバナンス、新たな技術開発モデルに対応するための原則と提言を示すことを目的としている。
戦略的岐路に立つ世界
この会議が今、開催されるのは偶然ではない。
国際安全保障環境は、かつてなく不安定になっている。ロシアによるウクライナ侵攻は、冷戦後の欧州安全保障秩序を揺るがしている。中東で続く紛争は、さらに広範な地域的エスカレーションへの懸念を高めた。主要国間の関係が悪化するなか、核兵器をめぐる威嚇的な言説も、ここ数十年見られなかったほどの激しさで国際政治に戻ってきた。
同時に、９つの核保有国すべてが核戦力の近代化、あるいは拡張を進めている。かつて戦略的競争を管理する役割を担っていた軍備管理の枠組みの多くは弱体化し、失効し、あるいは政治的に機能不全に陥っている。対立国間の意思疎通の経路も狭まり、誤解や誤算が重大な危機を招く危険性が高まっている。
AIは、こうした不安定な環境のなかへ、驚異的な速度で入り込みつつある。
AIシステムはすでに、膨大な情報の処理、パターンの特定、軍事計画の支援、サイバー能力の強化、従来は人間が数時間から数日をかけて行っていた判断の迅速化を可能にしている。将来的には、危機予防、軍縮検証、早期警戒を支援する新たな手段となる可能性もある。
しかし、同じ能力が危機を一層危険なものにする恐れもある。
AIは、緊急時に政治指導者や軍指導者が判断を下すまでの時間を短縮させる可能性がある。不正確あるいは誤解を招く分析を生成し、偽情報を増幅し、指揮統制システムをサイバー攻撃に対して脆弱にし、国家が自動化技術により多くの権限を委ねることを促しかねない。
中心的な懸念は、機械が独自の判断で核兵器の発射を決定することだけではない。より差し迫った危険は、情報が不完全で、一度の誤りが取り返しのつかない結果をもたらす極度の緊張状態において、AIが生成した情報、予測、提言が人間の意思決定に影響を及ぼすことである。
人類はしたがって、これまで経験したことのない課題に直面している。
問われているのは、核兵器をどのように管理するかだけではない。技術革新が政治的判断力を追い越してしまう前に、人工知能、軍事力、核使用をめぐる意思決定の関係をいかに統治するかという問題である。
なぜバチカンなのか
Foto: Ricardo Stuckert / PR
開催地にバチカンが選ばれたことには、深い象徴的意味がある。
教皇庁は核兵器を保有せず、通常の意味での軍事力もほとんど持たない。しかし、世界の大多数の国々と外交関係を結び、戦争と平和をめぐる議論において、人間の尊厳、道義的責任、民間人の保護を中心に据えるよう、長年にわたり訴えてきた。
会議が開かれるボルゴ・ラウダート・シは、カステル・ガンドルフォの教皇別荘庭園内に設けられた教育・環境施設である。主催者によれば、今回の会議は、AI時代における人間の保護を主題とする教皇レオ１４世の回勅『マグニフィカ・フマニタス』の理念に触発されている。
会議が掲げる「非武装かつ軍縮を促す平和」という理念は、単に戦争が存在しない状態を超えた平和観を示している。
「非武装の平和」とは、軍事力を際限なく増強することによって安全を恒久的に維持できるという考えを否定するものである。「軍縮を促す平和」とは、兵器を削減するだけでなく、軍事化を持続させる政治的不安、国家間の対立、経済構造そのものを変革しようとする考え方である。
この視点によって、議論は単なる技術的安全性の問題を超えていく。
ますます強力になる技術が政治、経済、情報、戦争のあり方を変えるなかで、人類はどのような社会を築こうとしているのか。それはまた、技術革新が人間の尊厳に従属し続けるのか、それとも人間が自ら生み出した技術に徐々に従属していくのかという、より根源的な倫理的問いを突きつけている。
政府だけでは解決できない時代
今回の会議の最も重要な特徴の一つは、未来を形づくるあらゆる技術を、もはや政府だけで統治することはできないという現実を認識している点にある。
冷戦時代、核外交の中心的主体は国家だった。核兵器不拡散条約（NPT）や包括的核実験禁止条約（CTBT）などの取り決めは、核兵器、運搬手段、核兵器製造に必要な物質を国家が管理していたからこそ、政府間交渉によって形成された。
しかし、人工知能をめぐる現実は根本的に異なる。
現在、世界で最も高度なAIシステムの多くを開発しているのは、政府だけでなく、民間企業、大学、研究機関である。テクノロジー企業のなかには、多くの政府に匹敵し、場合によってはそれを上回る計算資源、データ、専門知識を保有するところもある。企業の研究部門内部で下される決定が、世界規模の政治的、社会的、安全保障上の影響をもたらし得る時代なのである。
したがって、効果的な統治には、従来型の外交を超えた仕組みが必要となる。
国家、テクノロジー企業、科学者、大学、国際機関、宗教界、市民社会による持続的な協力が不可欠である。
だからこそ今回の会議では、ノーベル賞受賞者、AI企業、世界有数の大学・研究機関、核軍縮団体、バチカンを中心とするカトリック関係者、そして仏教を基盤とする創価学会などの市民社会組織が一堂に会する。
参加者や協力機関には、OpenAI、Google DeepMind、Anthropic、AARUの関係者をはじめ、ノーベル女性イニシアチブ、核戦争防止国際医師会議（IPPNW）、パグウォッシュ会議、ユヌス・センター、『原子力科学者会報』などが含まれている。
また、欧州、アジア、北米、オーストラリアを代表する大学・研究機関も参加する予定である。
この会議の意義は、参加者の知名度だけにあるのではない。そこに代表されている分野と共同体の多様性にこそある。
政府だけに依存するのではなく、科学、技術、倫理、宗教、市民社会が共通の存亡的リスクに向き合い、接点を見いだそうとする、新たな国際ガバナンスの姿をこの会議は映し出している。
核弾頭からアルゴリズムへ
核時代の大部分において、軍備管理交渉が対象としてきたのは物理的な物体だった。核弾頭、ミサイル、爆撃機、潜水艦、核物質、核実験施設などである。
AI時代は、これまでとは異なる課題をもたらす。
アルゴリズムはミサイルのように目に見えるものではない。ソフトウェアは短期間で変更でき、データはほぼ瞬時に国境を越える。平和目的で開発された民間システムが、軍事目的に転用されることもある。重要な技術がコードやネットワーク、民間企業が管理する計算基盤の内部に組み込まれている場合、検証、説明責任、透明性の確保は格段に難しくなる。
将来の軍備管理や安全保障の枠組みは、兵器そのものだけでなく、その使用に関する情報を提供し、運用を誘導し、意思決定を加速させるデジタルシステムまで統治しなければならない可能性がある。
かつては理論上の問題とみなされていた問いが、急速に現実味を帯びている。
人工知能を核兵器の指揮統制システムに組み込むことを、果たして認めるべきなのか。自律型兵器に対して、どの程度の人間による監督を維持しなければならないのか。危機の最中に複数のAIシステムが相反する警告を発した場合、国家はどう対応すべきなのか。民間のAI企業が開発した製品が軍事目的に転用された場合、企業にどのような責任を求めるべきなのか。そして、信頼できる安全措置を構築できる国際機関は存在するのか。
今回の会議が、これらすべての問いに３日間で答えを出すことはできない。
しかし、核問題の専門家、ノーベル賞受賞者、AI開発者、研究者、宗教関係者、平和活動家を同じ場に集めることで、これまで互いに切り離されたまま進められてきた議論に、共通の言語をもたらす可能性がある。
国際ガバナンスの新たな章となるか
歴史を振り返れば、人類は存亡に関わる脅威に直面するたびに、新たな理念、制度、規範をつくり出してきた。
１９５５年のラッセル＝アインシュタイン宣言は、核兵器が人類の生存そのものを危険にさらしていると警告した。１９５７年に始まったパグウォッシュ会議は、冷戦によって分断された科学者たちの間に意思疎通の経路を開いた。その後、NPTが国際的な核秩序の中心的枠組みとなった。
２０１７年に採択された核兵器禁止条約は、核兵器が国際人道上の原則と相いれないことを明確にし、核抑止に対する人道的、道義的な異議をさらに強めた。
世界ノーベル賞受賞者会議が将来、こうした歴史の系譜に連なるものと評価されるかどうかは、まだ分からない。
国際会議で採択される宣言が、一夜にして政策を変えることはほとんどない。法的拘束力も、履行を強制する仕組みも、当面の政治的支持も欠く場合がある。文言は理念的なものにとどまり、その影響が目に見えるようになるまでに何年もかかることもある。
しかし宣言は、国際的な議論の前提そのものを変えることがある。
ラッセル＝アインシュタイン宣言は核兵器を廃絶しなかったが、国際的な運動を生み出すきっかけとなった。第１回パグウォッシュ会議は冷戦を終わらせなかったが、のちの軍備管理外交に貢献する人間関係を築いた。世界人権宣言は当初、法的拘束力を持たなかったが、やがて国際法と政治的正統性の基礎的な規範となった。
したがってローマ宣言の重要性は、直ちに具体的な合意を生み出すかどうかよりも、政府、テクノロジー企業、大学、国際機関、市民社会を巻き込む持続的なプロセスを開始できるかどうかにかかっているのかもしれない。
より大きな問いは、危険な慣行が固定化されてしまう前に、新たな規範を築くことができるかどうかである。
ローマ宣言に向けて
会議は７月１６日、ローマのカピトリーノの丘で開かれる公式会合をもって最高潮を迎え、そこで「非武装かつ軍縮を促す平和のためのローマ宣言」が発表される予定である。
同文書は、人工知能、核兵器、自律型兵器、新たなデジタル・プロトコル、新興のデジタル開発モデルの時代に対応することを目的としている。主催者によれば、協力、人間の尊厳、全人的発展、諸国民間の平和に基づく国際安全保障のあり方を促進する内容となる。
重要なのは、宣言が幅広い倫理的訴えを超えて、どこまで踏み込むかである。
核兵器や自律型兵器のシステムに対する「意味のある人間の統制」を求めるのか。核使用をめぐる意思決定にAIが果たす役割を制限する提案を示すのか。民間AI企業の責任を明確にするのか。新たな国際的監視、対話、検証の仕組みを提案するのか。そして、理念を政策へと転換するための継続的なプロセスを確立するのか。
その答えによって、この会議が主として象徴的な出来事にとどまるのか、それとも人工知能、核リスク、人間の安全保障をめぐる、より広範な「ローマ・プロセス」の出発点となるのかが決まるだろう。
広島、長崎から８０年以上を経たいま、人類は再び、文明の未来を根底から変え得る技術に直面している。
核兵器は今なお、人間が自らの社会を破壊し得る最も直接的な手段である。その一方で人工知能は、核兵器が実際に使用されるか否かを左右する判断の速度、複雑性、性格に影響を及ぼし始めている。
したがって、決定的な課題は、人類が核兵器を管理できるかどうかだけではない。
人工知能が人間の判断を置き換えるのではなく、それを支えるようにすること。壊滅的な誤りの危険を増幅するのではなく、それを減らすようにすること。そして戦争ではなく、平和に貢献するようにすること。そのための制度を、人類は構築できるのかが問われている。
その答えが、カステル・ガンドルフォでの３日間の協議だけから生まれることはないだろう。
しかし、そこで始まる対話は、技術、安全保障、人間の責任をめぐる今後の国際的議論に、長期にわたって影響を与える可能性がある。
INPS Japanは会議期間中、カステル・ガンドルフォおよびローマから現地取材を行い、７月１６日のローマ宣言発表後に続報となる分析記事を配信する予定である。This article is brought to you by INPS Japan in collaboration with Soka Gakkai International in consultative status with UN ECOSOC.
INPS Japan
関連記事：
