【ブリュッセルIPS＝サミュエル・キング】
ガザではアルゴリズムが「誰が生き、誰が死ぬか」を決めている。セルビアではAI搭載の監視システムがジャーナリストを追跡し、北京の街頭では自律型兵器が技術力の誇示として行進（軍事パレードや大規模な式典での公開展示を指す：INPSJ）している。これはディストピア小説ではない。現実である。AIが世界を再編する中、この技術を誰が管理し、どのように統治するかという課題は緊急の優先事項となっている。
AIの影響力は、抗議者を追跡できる監視システム、民主主義を不安定化させる虚偽情報キャンペーン、人間の判断を奪い命の選択を機械に委ねる軍事応用にまで及んでいる。十分な安全策が欠如していることがそれを可能にしている。
ガバナンスの失敗
先月、国連総会は初の国際的なAI統治メカニズムとして「独立した国際科学者パネル」と「AIガバナンスに関するグローバル対話」の設立を決定した。これは「未来サミット」で合意された「グローバル・デジタル・コンパクト」の一環であり、非拘束的な決議ではあるが、より強固な規制に向けた第一歩となった。しかしその交渉過程では深刻な地政学的亀裂が露わになった。
中国は「グローバルAIガバナンス・イニシアティブ」を通じ、完全に市民社会を排除した国家主導型のアプローチを推進し、グローバル・サウスのリーダーとしての地位をアピールしている。AI開発を経済発展や社会目的の道具と位置づけ、西側の技術覇権に対抗する代替モデルとして提示している。
一方、ドナルド・トランプ政権下の米国はテクノナショナリズムを受け入れ、AIを経済的・地政学的レバレッジの道具として扱っている。AIチップ輸入に対する１００％関税や、半導体大手インテル株の１０％取得といった最近の決定は、多国間協力からの後退と、取引的な二国間関係への傾斜を示している。
欧州連合（EU）は異なる道を歩み、世界初の包括的AI法を制定した。同法は２０２６年８月に施行され、リスクベースの規制枠組みによって「容認できない」リスクを持つAIシステムを禁止し、その他については透明性を義務づける。前進ではあるが、懸念すべき抜け穴も残されている。
例えば、当初はライブ顔認識技術を全面禁止する提案があったが、最終的には限定的使用が条件付きで認められ、人権団体は不十分だと批判している。また、感情認識技術は学校や職場での使用は禁止されたが、治安維持や移民管理では依然として許可されており、既存システムの人種的偏見が記録されていることを考えれば重大な懸念がある。「ProtectNotSurveil」連合は、移民やヨーロッパの人種的マイノリティがAI監視技術の「実験台」となっていると警告している。さらに重要なのは、国家安全保障目的で使用されるシステムや戦争で使用される自律型ドローンがAI法の適用除外とされている点である。
AI開発による気候・環境への影響もガバナンスをめぐる緊急性を増している。AIチャットボットとのやり取りは、通常のインターネット検索の約１０倍の電力を消費する。国際エネルギー機関（IEA）は、世界のデータセンターの電力消費が２０３０年までに倍増以上になると予測しており、その主因はAIだとしている。マイクロソフトの排出量は２０２０年以降で２９％増加、グーグルは２０１９〜２０２３年に炭素排出量が４８％増加したことから、ウェブサイト上から「ネットゼロ排出」公約を密かに削除した。AI拡大は新たなガス火力発電所建設を促し、石炭火力の廃止計画を遅らせており、化石燃料依存を終わらせる必要性に真っ向から反している。
求められる「旗手」
現状の地域ごとの規制、非拘束的な国際決議、緩やかな業界自主規制の寄せ集めでは、この深刻な影響力を持つ技術を統治するには不十分である。国家の利己主義が人類全体の利益や普遍的権利に優先され、AIを所有する企業はほとんど規制されずに莫大な権力を蓄積している。
今後の道筋は、AIガバナンスが単なる技術的・経済的問題ではなく、権力の分配と説明責任に関わる問題であることを認識することから始まる。少数のテック大手にAI能力が集中する現状に切り込まない規制枠組みは必ず不十分となる。市民社会を排除したり、国家間競争を人権保護より優先するアプローチも課題解決にはならない。
国際社会は、１０年以上国連で議論が停滞している致死性自律兵器システムに関する拘束力ある合意から始め、AIガバナンスの仕組みを緊急に強化しなければならない。EUは特に軍事利用や監視技術に関するAI法の抜け穴を塞ぐ必要がある。各国政府は、テック大手のAI開発・運用支配に対抗できる調整メカニズムを確立しなければならない。
市民社会がこの闘いを単独で担うべきではない。人権を中心に据えたAIガバナンスへの転換を実現するには、国際制度の内部から「旗手」が現れ、国家の狭い利害や企業利益よりも人権を優先させる必要がある。AI開発が急速に進む中、もはや時間の猶予はない。（原文へ）
サミュエル・キングは、CIVICUS（世界市民参加連盟）で活動する「ENSURED：移行期の世界における協力の形成」プロジェクト（EUホライズン欧州研究プログラム支援）の研究員。
INPS Japan/IPS UN Bureau Report
関連記事：
