【ニューヨークIPS＝アンワルル・チョウドリ】

最近、私は人工知能（AI）の驚異的な進歩と、そのグローバル・ガバナンスにおいて国連が果たす役割について意見を求められたとき、SF作家のアイザック・アシモフが考案し、１９４２年の短編小説で紹介された「ロボット工学の三法則」を思い出した。

私は、SFが現実と出会ったのだと自分に言い聞かせた。第一法則は、「ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。」という最も基本的な原則を示している。この８０年前の規範は、AIの世界にとって現代のシナリオに役立つだろう。

制御するAI

AIはエキサイティングであると同時に恐ろしい。AIの持つ意味合いと進化の可能性は、控えめに言っても非常に大きい。私たちは人類史の転換期を迎えており、現時点でもAIは人間よりもかなり賢いと言われている。

すでに「原始的な」AIでさえ、この地球上のどこに住んでいるかに関係なく、私たちの日常生活の多くの側面や活動を制御している。電子メール、カレンダー、ウーバーのような交通手段、GPS、ショッピング、その他多くの活動について、個人レベルでのグローバルな繋がりは、今やAIによって制御されている。

そして、ソーシャルメディアが私たちの思考や双方向性にどのような影響を与えるかを考えてみよう。ソーシャルメディアは明らかに危険な不確実性を注入しており、すでに社会秩序や精神的ストレスに大きな問題を引き起こしている。

AIに依存する人類：

人類はほぼ完全にAIに依存している。AIに影響されたスマートフォンが手元になければ、人類はどれほど無力になるか考えてみてほしい。AIは最も急成長しているハイテク分野であり、今後５年から７年で世界経済に１５兆米ドルをもたらすと予想されている。

現在の開発段階でも、ここ数カ月でオープンAIやグーグルなどが主導する様々なAIチャットボットが登場し、良識ある専門家たちは警鐘を鳴らしている。AIの将来について尋ねられた専門家たちは、正直に 「わからない。」と答えている。

現時点では、今後５年間の発展しか予想できず、それ以上は何も予測できないというのが彼らの意見だ。世間ではChatGPT-４が次のレベルのAIとして語られているが、それはすでに到来しているのかもしれない。

AIの無限の可能性：

AIの可能性はあまりにも無限であるため、国家が数と効果の面でより多くの多様な軍備を入手することで安全保障とパワーを際限なく追求する軍拡競争に例えられてきた。

しかし、AIの場合、主役は莫大な資源を持ち、倫理的観点にとらわれない巨大ハイテク企業である。つまり利益と、それに付随して人間の活動を支配する説明のつかない力を求めてこのAI競争に参画している。

衝撃的なことに、AIの分野にはルールも規制も法律もない。すべてが自由であり、「ワイルド・ワイルド・ウェスト」に例えられる。

核とAI

専門家たちは、AIを核技術の出現になぞらえている。核技術は、人類の利益のために有効利用されることもあれば、滅亡のために使われることもある。彼らはAIを核兵器以上に強力な大量破壊兵器とまで呼んでいる。核兵器は、より強力な核兵器を生み出すことはできない。しかし、AIはより強力なAIを生み出すことができる。

心配なのは、AIがそれ自体でより強力になるにつれて制御不能になり、むしろ人間を制御する能力を持つようになることだ。原子力技術のように、AIもいまさら「発明しなかった」ことにはできない。そのため、このような最先端技術によるまだ十分に知られていないリスクは続いている。

存亡の危機

医療分野、気象予測、気候変動の影響緩和、その他多くの分野でAIが有益に利用される可能性があることを認識する一方で、専門家たちは、AIの超知能が「存亡の危機」、おそらくは現在進行中の気候危機よりもはるかに破滅的で差し迫ったものになるだろうと警鐘を鳴らしている。

主な懸念は、グローバル・ガバナンスと規制の取り決めがない場合、悪質な行為者が社会や、個人、或いは地球全体に資する以外の動機でAIに関与する可能性があることだ。よく知られている通り、巨大ハイテク企業はこのような前向きな目的によって動いているわけではない。

AIは深刻な破壊的効果をもたらす可能性がある。今年5月、米国の失業統計は史上初めてAIを失業理由に挙げた。

規制に縛られない悪質業者

規制に縛られない悪質な業者は、AIの力を悪用し、雪崩を打つように大量の偽情報を発信し、人類の多くの層の意見に悪影響を及ぼすことで、例えば選挙プロセスを混乱させ、民主主義や民主主義制度を破壊する可能性がある。AI技術は、例えば化学知識の分野では、規制制度なしに化学兵器を製造するために使われる可能性がある。

私たちは、AIがどのようなテーマについても説得力のある物語を作ることに長けていることを理解する必要がある。その種のものには誰でも騙される可能性がある。人間は常に理性的とは限らないので、AIの使用は理性的で肯定的なものとはなりえない。AIが人類に脅威を与えないよう、悪質な行為者を制御しなればならない。

国連がAIのグローバル・ガバナンスを主導すべき

これらの点はすべて、グローバル・ガバナンスに非常に有利に働く。誰がこの問題を主導すべきかと問われれば、私は「もちろん国連だ！」と力強く答えるだろう。

世界的な規範設定機関としての国連の専門性、信頼性、普遍性は、AIの規制規範設定とその進化において明らかに役割を担っている。

道徳的・倫理的な問題や、基本的な世界的原則（人権、特に第3世代の人権、平和の文化、平和構築、紛争解決、グッドガバナンス、民主的制度、自由で公正な選挙等）は、AIの猛攻から守る必要がある。

また、AIの世界的な利用が各国政府に及ぼす影響を検討し、対処することも同様に重要であり、国家の主権に影響を与える。AIが現在あるいは将来の政府間交渉プロセスに影響を及ぼしうるかどうかについても、検討する価値があるだろう。

国連機関とそのAI関連活動の意味合い

最近、2つの国連機関がAI関連の活動を発表した。ユネスコは、5月末に閣僚レベルのバーチャル会議を開催し、選ばれた参加者とともに、AIを利用している教育機関は１０％未満であるという統計を共有したと伝えた。ユネスコはソフトウェアツールChatGPTを「大流行」していると説明した。国連の機関が、巨大ハイテク企業の製品をこのように推奨すべきではなかった。

国際電気通信連合（ITU）は、自らを「国連技術機関」と称し、7月初旬に「よりよき世界のためのAIグローバルサミット」を開催すると発表した。このサミットは、人工知能とロボット工学がどのように善の力となりうるかについての世界的対話の一環として、AIとロボット技術を紹介するものである。

いわゆる国連技術機関は、「AIと技術に関する業界幹部、政府高官、オピニオンリーダーたちとのイベント」と並んで、「国連初のロボット記者会見」を開催した功績を称えた。

ハイテク企業との交流や協力協定締結のガイドラインを示す国連システム全体の警告が必要だ。AI技術は急速に発展しているため、国連機関のひとつやふたつが誤った行動をとる可能性があることを認識する必要がある。

現在の開発水準でも、AIはChatGPTやロボット技術を大きく超越し、巨大ハイテク企業による利益追求が進められている。このことは、善意ある全ての人々にとって大きな懸念事項となっている。

これらの国連機関は、（AIについて）「…不適切または悪意を持って使用されると、それらは国内外の分裂を助長し、不安定を増大させ、人権を侵害し、不平等を悪化させる可能性がある。」と警告した「国連創設７５周年記念宣言（国連総会決議７５/１として２０２１年９月２１日に採択）」の一部を見落としているか、あるいは無視している。これらの警告の言葉は、すべての人があらゆる真剣さをもって完全に遵守すべきである。

国連事務総長の「私たちの共通の課題（Our Common Agenda）」はAIに言及している：

グテーレス事務総長は、２０２１年９月に発表した報告書『私たちの共通の課題』の中で、「複雑な世界的危機に対応するため、加盟国と協力し、緊急プラットフォームを設立する。」ことを約束している。そしてそのプラットフォームは、「新たな常設または常置の機関ではなく、危機の規模や重要度に応じて自動的に活性化され、その種類や性質に関係なく対応する。」と説明している。

AIは間違いなくそのような「複雑な世界的危機」の一つであり、事務総長がこの課題にどのように対処するつもりなのか、その考えを正式に共有すべき時が来ている。

グテーレス事務総長が２０２４年9月に開催する「未来サミット」で、国連権限によるAIの世界的な規制体制について議論するのでは遅すぎる。その時間枠では、AI技術は進展し、どんな形でも国際的なガバナンスが不可能になるだろう。

AIという魔人は既に瓶から解き放たれている

AIという魔神はすでに瓶から解き放たれている。国連は、AIという魔神が人類と地球の最善の利益に役立つようにする必要がある。

AIの影響は非常に広範かつ包括的であり、OCAがカバーするすべての分野に関連し、的確に作用する。グテーレス事務総長は、来年の未来サミットを待たずに、何をすべきかについて独自の提言を出すべきだろう。

AIによって影響を受ける私たちの未来は、今すぐ対処する必要がある。AIは想像を絶するスピードで拡散している。国連を率いるグローバル・リーダーである事務総長は、この課題の深刻さを軽視すべきではない。事務総長は、加盟国間のコンセンサスを待つことなく、今すぐ行動を開始する必要がある。

国連はAIを規制し、効果的かつ効率的なグローバル・ガバナンスを確保する：

『私たちの共通の課題』は、１２のコミットメントにまたがる主要な提案として、「AIを世界共通の価値観に沿うように規制・促進する」ことを挙げている。

『私たちの共通の課題』においてグテーレス事務総長は、「私たちが直面している連動した問題に対する解決策を見出すことができるかどうかは、来るべき大きなリスクを予測し、予防し、備えることができるかどうかにかかっている。」と主張している。

このため、私たちが行うすべての活動において、活性化された包括的な予防アジェンダが最重要課題となっている。グローバルな公共財が提供されないところでは、人間の福祉に対する深刻なリスクや脅威という形で、グローバルな公共「悪」が発生する。

これらのリスクは今やますますグローバル化し、潜在的な影響力も大きくなっている。なかには実存的なものさえある。このようなリスクを予防し、それに対応する準備をすることは、グローバル・コモンズとグローバル公共財をよりよく管理するために不可欠な対案である。

国際社会は、国連の指導部がすでに、この局面でとるべき措置を熟知していることを知り、安心すべきである。（原文へ）

INPS Japan/ IPS UN Bureau

関連記事：

殺人ロボット規制を妨害する米国とロシア

｜世界市民｜「私から私たちへ」を平和につなげる

｜国連｜「新たな大分岐」を引き起こす格差の拡大に警告