【イタリア・ボルゴ・ラウダート・シIPS＝アリエル・F・デュモン】
「すみません、デイブ。それはできません。」
スタンリー・キューブリック監督が１９６８年公開の映画『２００１年宇宙の旅』でスーパーコンピューター「HAL９０００」に語らせたこの一言は、人工知能（AI）が人間の制御を離れることへの恐怖を象徴する、映画史に残る名場面となった。
それから５８年―その問いは、かつてないほど現実味を帯びている。
この問題を議論するため、世界各国から２００人を超える政治指導者、科学者、宗教者、平和活動家らが、ローマ近郊カステル・ガンドルフォの教皇夏季離宮内にある「ボルゴ・ラウダート・シ」に集結した。現在、この地には教皇レオ１４世が滞在している。
会議は「人工知能と核戦争に関するグローバル・ノーベル賞受賞者会議」が主催し、「国際安全保障の未来」「新興技術のガバナンス」「軍縮」、そして「平和の経済の構築」を主要テーマとして３日間にわたり開催された。
参加者には、イタリア元首相・欧州委員会元委員長のロマーノ・プローディ氏、２００６年ノーベル平和賞受賞者でバングラデシュ暫定政権首席顧問のムハマド・ユヌス氏、創価学会渉外局長で池田平和・教育・対話センター所長の長岡良幸氏、２０２１年ノーベル平和賞受賞者でフィリピン人ジャーナリストのマリア・レッサ氏、アムネスティ・インターナショナル事務総長アニエス・カラマール氏をはじめ、世界を代表する科学者や核問題の専門家が名を連ねた。
開会式では、ローマ教皇庁・総合的人間開発省のファビオ・バッジョ次官があいさつし、会議全体を貫く理念を提示した。
「平和とは、単に戦争が存在しない状態ではありません。正義、相互信頼、法の支配への敬意、そしてすべての人間が持つ侵すことのできない尊厳の上に築かれる秩序なのです。」
議論を通じて浮かび上がった共通認識は明快だった。
AIの適切な規制は、平和、ひいては人類そのものの存続を守るために不可欠であるということだ。
AIはすでに軍事システムへ組み込まれ始めており、核拡散、サイバー戦争、高強度紛争のリスクを飛躍的に高め、国際秩序や倫理原則を揺るがしかねない。
登壇者の分析や立場はさまざまだったが、結論は一致していた。
AIそのものを恐れる必要はない。しかし、それはHAL９０００のような存在になるまで放置してよいという意味では決してない。技術が制御不能になる前に、国際社会は適切な安全措置（ガードレール）を整備しなければならないという点で、ほぼ全員が一致したのである。
この懸念を強く訴えた一人が、アルゼンチンの物理学者であり、パグウォッシュ会議事務総長を務めるカレン・ホールバーグ氏だった。
彼女はAIを「核エネルギーと同じ『デュアルユース（軍民両用）技術』」と位置づける。
核分裂はエネルギーや医療分野に画期的な恩恵をもたらした一方で、核兵器も生み出した。同様にAIも、科学研究や医療、さらには国際的な合意履行の監視などに大きく貢献できる半面、核兵器システムへ組み込まれれば極めて危険な不確実性をもたらす可能性があると警告した。
特に、衛星画像の分析や軍事状況の評価、さらには核兵器の指揮・統制に関わる意思決定にアルゴリズムが介在することは、人類の未来を左右する取り返しのつかない判断につながりかねないと懸念を示した。
「私は恐れているのではありません。懸念しているのです。そして、その懸念こそが、手遅れになる前に行動を起こす決意につながらなければなりません。」
ホールバーグ氏は、技術の進歩が政治による規制を追い越す前に、「予防原則」を適用するよう各国政府に求めた。
一方、長岡氏も危機感を共有しながら、その視点はやや異なる。
AIそのものが危険なのではなく、それをどう使うかは人間自身に委ねられているというのである。
「結局のところ、問題は人間そのものに帰着します。私たちは、より利己的になることも、より思いやり深くなることもできます。」
長岡氏は、とりわけデジタル技術に囲まれて育つ若い世代の責任を強調した。
デジタルツールが生活のあらゆる場面に浸透し、人と人とのつながりが希薄化する危険性が高まるなか、人類の課題はAIを拒絶することではなく、人間固有の判断力を失わずにAIを活用することだという。
「意思決定においては、良心と知恵を守り続けなければなりません。」
教育と批判的思考こそが、人間や社会の判断に大きな影響を及ぼし得るAIに対する最大の防波堤になると語った。
さらに長岡氏は、最近テレビで見たあるエピソードを紹介した。
「８６歳の日本人女性が、重い病気の夫の延命治療を終了するかどうかという苦渋の決断に直面し、家族ではなくChatGPTに相談したという話を耳にしました。」
長岡氏は、この選択自体を非難するのではなく、人生の最も重大な局面で、人々が機械との対話を信頼するようになる新しい社会のあり方について考える必要があると指摘した。
こうした「人間の責任」をめぐる問題意識は、マリア・レッサ氏の発言とも響き合っていた。
レッサ氏は討論を通じ、AIが民主主義にもたらす危険性――偽情報の爆発的拡散、世論操作、そして巨大テクノロジー企業への権力集中―について繰り返し警鐘を鳴らした。
「AIは単なる技術革新の問題ではありません。民主主義そのものの機能に関わる問題なのです。」
さらに、会議で最も根源的な問題提起を行ったのはムハマド・ユヌス氏だった。
同氏は議論を経済の問題へと広げ、現代資本主義におけるAIの利用そのものを、人間中心の視点から問い直した。
「最大の問題は、一部の仕事が失われることではありません。富の集中がますます進むことです。」
AIは、ごく少数の企業が技術、データ、富を独占する一方で、多くの人々を経済活動から排除する社会を加速させる危険性があると警告した。
「AIは、人々から生活の糧、尊厳、そして自立する力を奪いかねません。」
未来はAIが人間に取って代わる経済ではなく、すべての人が参加し、起業し、機会を分かち合える経済でなければならないと訴えた。
そして世界の政治指導者に向けて、「AIは権力集中のための道具ではなく、すべての人々に奉仕するための技術でなければならない」と強く呼びかけた。
では、この先、私たちは何を選ぶべきなのか。
3日間の議論を経て、一つだけ確かなことがある。
AIはすでに私たちの社会の一部となっており、もはや後戻りはできない。
人類はAIを過度に恐れる必要もなければ、「未来最大の敵」と見なす必要もない。
しかし、なお答えの出ていない根本的な問いが残されている。
誰がAIを管理するのか。どのようなルールに基づいて管理するのか。そして、それはどのような社会のために使われるのか。
HAL9000が誕生して半世紀余り。
真の脅威とは、機械が人間になることではないのかもしれない。
むしろ、人間自身が、自ら考え、判断し、その選択に責任を負うという、人間らしさの本質を少しずつ手放してしまうことなのかもしれない。
This article is brought to you by IPS NORAM in collaboration with INPS Japan and Soka Gakkai International, in consultative status with the UN’s Economic and Social Council (ECOSOC).
INPS Japan
関連記事：
