【Bulletin of the Atomic Scientists＝ピーター・リックウッド】
何とも皮肉な話だ。ロシアと米国の間に残されていた最後の核軍備管理条約が失効してから数カ月。今度はテクノロジー業界の幹部たちが、人工知能（AI）の安全性を確保するための規制モデルとして、冷戦時代の核兵器検証制度を引き合いに出している。
AI開発企業アンソロピック（Anthropic）の研究組織「アンソロピック研究所」を率いるマリーナ・ファバロ氏と、同社の共同創業者ジャック・クラーク氏は、AIが自らを改良するようになり、人間が制御を失いかねない段階に近づいているとして、業界に「ブレーキペダル」を設けるよう呼びかけた。
両氏はブログへの寄稿で、「世界はこれまでも、複雑な技術を対象とする検証制度を構築してきた」と述べ、その例として中距離核戦力（INF）全廃条約を挙げた。米国は２０１９年に同条約から離脱し、その後、２０２６年には新戦略兵器削減条約（新START）も失効している。
クラーク氏はCNNの取材に対し、次のように語った。
「私たちは以前にも、こうした課題に対処した経験があります。冷戦の最盛期、敵対する国家同士が極度に緊張していた状況でも、核軍拡競争の一部を安定させる方法を見いだしたのです」
しかし、AIが貪欲なデータ需要を満たすために、人類が共有してきた知的資産を大量に取り込んでいる一方で、業界の代弁者たちは核軍備管理の歴史における重要な要素を見落としているように思える。
核軍備管理は、粘り強い交渉だけによって実現したのではない。信頼できるジャーナリズムによって情報を得た市民の行動も、その実現を支えてきたのである。
核兵器のように複雑で不透明性が高く、一般市民との間に大きな情報の隔たりがある問題を報じるには、専門的な知識と多大な時間を要する、継続的な取材が欠かせない。
ところがAIは、報道機関がそうした取材活動を支える能力そのものを脅かしている。
影響を受けるのは核兵器の報道だけではない。AI自身を含む、人類の存亡に関わるさまざまなリスクについても同じことがいえる。
「巨大テクノロジー企業は、許可も得ず、対価も支払わずに、ニュースサイトからコンテンツを根こそぎ採掘しています。そして、盗み取ったものを自社のものとして再包装し、本来なら記事を制作した報道機関に向かうはずの読者と収益を奪っているのです。」
米紙『ニューヨーク・タイムズ』の発行人、A・G・サルツバーガー氏は６月、フランスのマルセイユで開催された世界新聞・ニュース発行者協会の会合で、こう批判した。
『ニューヨーク・タイムズ』は、AI製品の学習や同紙の記事の継続的な利用が、米国著作権法に基づく知的財産権を侵害しているとして、複数のAI企業を相手取って訴訟を起こしている。
サルツバーガー氏がこの発言を行ったのは、グーグルが検索サービスについて、「２５年以上の歴史の中で最大の刷新であり、AIによって全面的に再構想した」と発表してから間もない時期だった。
新たな検索サービスでは、ニュース記事やその他の情報源へのリンクを示すよりも、AIが質問への回答を直接提供することに重点が置かれている。
初期の利用者からは、グーグルのAIがニュースサイトの記事や学術研究を十分に取り上げていないとの声が上がっている。
サルツバーガー氏は、マルセイユの会合で聴衆に問いかけた。
「AIはニュースをどのように変えるのでしょうか。その変化は、世界中の市民が公共的な議論に参加するための場として機能する情報環境に、どのような影響を及ぼすのでしょうか。」
「そして、民主主義の健全性に不可欠な、現場取材と事実に基づく報道の未来を守るために、ここに集まった私たちには何ができるのでしょうか。」同氏はさらに、強い危機感を表明した。
「私が恐れているのは、独自取材という、費用も労力もかかる困難な仕事を担う記者が、ますます少なくなる未来へと、私たちが猛スピードで突き進んでいることです。」
「現場に足を運び、人々に話を聞き、情報を掘り起こし、重要な問題や出来事を報じ、その背景を説明・分析し、権力者を調査する。そうした仕事を担う記者が減っていくのです。」
「そして、健全な社会と安定した民主主義を支える重要な源泉、すなわち独自取材に基づくジャーナリズムがもたらす真実、理解、説明責任が、枯渇し続ける未来を危惧しています。」
核兵器をめぐる主張を押し通そうとする際、政府が真実を都合の悪いものとして扱ってきたことは珍しくない。
核兵器は一般市民にとってなじみの薄い、しかも極めて大きな破壊力を持つ存在である。そのため、政府は市民を欺きやすいという状況を利用してきた。
１９４５年、日本に原子爆弾が投下された後、少数の勇敢なジャーナリストたちは、米国政府による否定的な説明に異を唱え、広島と長崎における放射線の致命的な影響を報じた。それは、いわゆる「足で稼ぐ取材」によって現場から得られた、一次情報に基づく報道だった。
一方、２００３年のイラク戦争に至る過程では、ジャーナリストたちは政府当局などの公式情報源に依存した。イラクが核兵器やその他の大量破壊兵器を保有しているという虚偽の主張に疑問を投げかけるだけの知識や理解が不足していたため、読者や視聴者に対する責任を十分に果たすことができなかったのである。
それ以降、意図的に流される偽情報と、誤った情報の拡散は、社会全体に蔓延する問題となった。
報道機関は、広告収入をソーシャルメディアや検索エンジンに奪われ、ニュースの消費習慣も変化したことで、経営基盤を弱めてきた。その結果、記者の数も減少している。同時に、世界各地で報道の自由に対する攻撃が強まっている。
サルツバーガー氏によれば、AIを開発する巨大テクノロジー企業は、独自取材に基づく報道の衰退をさらに加速させている。AI業界の主要６社の企業価値は、合計１１兆ドルに達するとされる。
同氏は、その結果として「偽情報、プロパガンダ、陰謀論、ディープフェイク、コンピューターが大量生成する粗悪なコンテンツが、さらに急増している」と警告した。
さらに、「恐怖、怒り、分断を増幅するアルゴリズムによって、市民の過激化が進み続けている」と指摘した。
ニュースの情報源としてAIを利用する人は増えている。しかし、英国放送協会（BBC）と欧州放送連合（EBU）の共同研究によると、AIが提供するニュース情報の信頼性には深刻な問題がある。
研究では、AIの回答は「正確性や十分な文脈の提示といった、質の高いジャーナリズムやニュースに不可欠な基本的な編集基準を満たしていない」と結論づけられた。
調査対象となったAIの回答のうち、４５％には少なくとも一つの「重大な問題」が見つかった。「何らかの問題」がある回答まで含めると、その割合は８１％に達した。
EBUは、報道機関が制作したコンテンツをAIに利用させるかどうか、また、どのような形で利用を認めるかについて、発行者側により大きな管理権限を与えるべきだと主張している。
さらに、利用が認められた場合でも、「合意された形式による、より明確な出典表示と引用、そして原資料への目立つリンク」が必要だとしている。
あるいは、サルツバーガー氏が指摘するように、「質の高い報道を支える最も確かな道は、読者との直接的な関係を築くこと」にあるのかもしれない。
AIをめぐる激しい変化のなかでも、ロイター・ジャーナリズム研究所の調査結果には、いくらか希望を見いだせる。
「話題がジャーナリズムに絞られると、AIに対する人々の評価はかなり慎重になります。」調査報告書の著者３人の一人であるフェリックス・サイモン氏は、こう記している。
「私たちの調査では、人間が主体となって制作するニュースと、AIが主体となって制作するニュースの間に、明確で持続的な『安心感の格差』が存在することが分かりました。」
調査対象国全体で、AIだけが制作したニュースに抵抗を感じないと答えた人は、わずか１２％だった。人間が制作過程に関与する場合でも、その割合は２１％にとどまった。
一方、人間が主体となり、AIを補助的に利用して制作するニュースでは４３％に上昇した。人間のジャーナリストが全面的に制作したニュースでは、６２％に達した。
報告書はさらに、次のように指摘している。
「米国人も例外ではありません。米国の回答者が示した安心感の水準は、世界全体の平均とほぼ一致しており、人間による監督と執筆を強く望む傾向が根深く存在することを示しています。」しかし、こうした人々の選好だけでは、AI時代における質の高いジャーナリズムを守ることはできない。
世界各国で、AIモデルの開発企業を規制し、報道機関が制作したコンテンツの利用に対して適切な対価が支払われるようにするための法整備が必要なのである。
INPS Japan
関連記事：
｜視点｜ローマ宣言の先へ―AIと核兵器の時代に築く「ローマ・プロセス」（浅霧勝浩INPS Japan理事長）
