【ローマIPS＝アリエル・F・デュモン】
人工知能（AI）、核戦争、世界の安全保障がもたらす課題をテーマにした国際会議で2日間にわたる討議を終えたノーベル賞受賞者、元国家元首・政府首脳、科学者、人権活動家、宗教指導者、市民社会の代表らは、人間の尊厳をAI発展の基盤に据えるよう求める共同宣言を採択した。
教皇レオ14世の回勅『マグニフィカ・フマニタス』に着想を得て、ローマ市庁舎が置かれるカンピドリオで署名された同宣言は、人工知能を軍事的・商業的利益のみに委ねてはならないと明記している。また、人間の尊厳に立脚した国際協力、AIをめぐるグローバル・ガバナンスの構築、核軍縮に向けた努力の継続を呼びかけている。
主要国がAI開発にますます巨額の資金を投じるなか、参加者らは、人類がまさに重大な岐路に立っているとの認識を示した。今後下される選択は、将来の地政学的な勢力均衡だけでなく、意思決定が次第にAIへ委ねられていく世界における人間の未来と位置づけにも、決定的な影響を及ぼすことになる。
この点を強調したのが、ローマ市のロベルト・グアルティエリ市長である。市長は「人工知能と核戦争に関する世界ノーベル賞受賞者会議」が主催した今回の会合で司会を務め、これを「歴史的な会議」と評した。
「武装なき平和と軍縮のためのローマ宣言」と名づけられた同宣言は、7月16日木曜日に署名された。グアルティエリ市長は、「世界的にも地域的にも、決定的に重要な問題は技術発展である。それは、個人の尊重、人間相互の平等、そして共通善のための民主的責任という基本的な倫理原則に導かれなければならない」と語った。
さらに市長は、今日ほど「経済成長、社会正義、人権、環境保護を結びつけた新たな発展モデルを推進できる国際的な連帯が世界に求められている時代はない。」と強調した。これは、教皇レオ14世が訴える「武装なき、武装を解く平和」とも呼応するものである。
その数時間前、国際人権団体アムネスティ・インターナショナルのアニエス・カラマール事務総長は、自律型兵器の開発に警鐘を鳴らしていた。「殺害の決定を機械に委ねるという発想は、私たちにとって到底受け入れられないものです。」
カラマール氏によれば、本当の危険は、人工知能が突然意識を持つことではない。人間の道徳的判断にのみ委ねられるべき責任を、AIへ移譲しようとする人間側の決断にある。
「機械が自ら支配者になると決めるのではありません。こうしたシステムをプログラムしているのは、私たち人間なのです。」とカラマール氏は説明した。
同氏は、AIが軍事作戦へ急速に組み込まれていることは、重大な変化を意味すると指摘した。AIシステムはすでに、膨大な量のデータを分析し、標的を特定して攻撃を提案することが可能であり、その一方で人間が介入する必要性は徐々に低下している。
カラマール氏は、自律型兵器だけでなく、軍事用語で「キルチェーン」と呼ばれるプロセスにAIが段階的に組み込まれていることにも、世界は細心の注意を払わなければならないと訴えた。「キルチェーン」とは、標的の特定から作戦の実行に至る一連の過程を意味する。
「最終的な決定権を形式上は人間が保持していたとしても、自動化システムへの依存が強まれば、軍事作戦の準備と遂行のあり方は根本的に変わります」とカラマール氏は述べた。さらに、これらの技術は膨大なデータに依存しており、そのデータ自体が操作されたり、歪められたりする可能性があると指摘した。
「分析や提案には偏りが生じる可能性があります。なぜなら、それらの基礎となるデータそのものが偏見を含んでいることがあるからです。ひとたび下された判断が取り返しのつかない結果を招きかねない状況では、誤った、あるいは差別的な意思決定がもたらす危険に常に注意を払わなければなりません。」
もう一つの危険は、AIが軍事力を飛躍的に増幅させることである。人工知能を利用すれば、1人のオペレーターが数十機、場合によっては数百機のドローンやその他の自律型システムを同時に監督できるようになり、軍事能力が大幅に強化される可能性がある。
「こうした技術開発は、国家間の戦略的競争という、より広い文脈の中で進められています。私たちは今、多くの政府が軍事的覇権を追求する時代に生きているのです。」とカラマール氏は結んだ。
軍事上の問題にとどまらず、複数の登壇者が、この技術革命がもたらす地政学的影響についても強調した。欧州委員会の元委員長でイタリアの元首相でもあるロマーノ・プロディ氏は、米国と中国の対立が激化するなか、実効性ある国際規制の構築は著しく困難になっているとの見方を示した。
世界の分断が深まるなか、いかなる国も、人工知能、世界の安全保障、あるいは強大化を続ける技術の管理をめぐる課題に、単独で対処することはできないとプロディ氏は警告した。
この発言は、最終宣言の核心を先取りするものだった。宣言は、人工知能が新たな軍拡競争を加速させ、地政学的な亀裂をさらに広げる事態を防ぐためには、国際協力が不可欠な条件であると訴えている。
討議では、この技術革命がもたらす経済的、社会的影響にも焦点が当てられた。雇用の世界では、AIの急速な普及によって、特に若い世代の職業上の将来や、今後数年間に予想されるさまざまな職種の抜本的な変化について、すでに大きな懸念が生じている。
会議には、ノーベル平和賞受賞者でバングラデシュ暫定政府の元首席顧問を務めたムハマド・ユヌス氏、創価学会渉外局長の長岡良幸氏、フィリピンのジャーナリストでノーベル平和賞受賞者のマリア・レッサ氏、アムネスティ・インターナショナルのアニエス・カラマール事務総長をはじめ、科学者や核問題の専門家ら、多くの国際的な有識者が参加した。
キングス・カレッジ・ロンドンが公表した研究によると、３９カ国の数億件に及ぶ求人広告を分析した結果、自動化の影響を最も受けやすい職種では、求人件数が平均６.１％減少していることが明らかになった。また、残された求人では、これまで以上に高度で専門的な技能が求められるようになっている。
最終的に、今回の会議とローマ宣言は何を残すのだろうか。
最も重要なのは、参加者らが人工知能の発展そのものを否定せず、AIを恐れるべきものとは考えていないという点である。むしろ、人類に奉仕する限りにおいて、この技術は進歩を力強く推進する原動力になり得ると捉えている。
したがって、今後の責任は各国とその指導者に委ねられている。何よりもまず、人間の尊厳を最優先に据えなければならない。
いま問われているのは、人工知能によって何が可能になるのかということだけではない。権力を追求する論理が社会全体の責任を恒久的に押し流してしまう前に、社会、そして人類全体がAIにどのような限界を設けることを選択するのか――それこそが真の問いなのである。
Note: This article is brought to you by IPS Noram in collaboration with INPS Japan and Soka Gakkai International in consultative status with ECOSOC.
INPS Japan
