最新のAI生成画像ブームが、児童搾取の新たな温床になり得る
【カトマンズNepali Times＝アニル・ラグヴァンシ】
やわらかいパステルカラーに、まるで宮崎駿の映画から切り取ったような幻想的な背景―。今月はじめ、姪が初めてのジブリ風ポートレートを見せてくれたときの興奮は、言葉に表せないほどだった。
これは、個人の写真をスタジオジブリ風に変換する最新の生成AIツールによるもので、「ジブリ化（Ghiblification）」と呼ばれ、世界中で注目を集めている。
しかし、その裏には重大な危険が潜んでいる。この楽しいブームは、プライバシーの侵害や、児童ポルノ、セクストーション（性的脅迫）、いじめ、ヘイトスピーチといった問題への新たな扉を開いてしまう可能性があるのだ。
ChildSafeNetとUNICEFネパールが実施した生成AIと児童安全に関する最近の調査では、カトマンズの若者の６０％以上が生成AIを試しており、多くがその潜在的リスクを認識していなかった。
画像生成アプリに写真をアップロードするたびに、ユーザーは単なるピクセル以上のもの―肖像、メタデータ、そして私的空間の情報―を、ブラックボックスのようなシステムに託している。これらの情報は無期限に保存され、AIモデルの訓練データに組み込まれる可能性がある。特徴的な顔立ちや位置情報、背景の細部さえも記憶され、他人の画像として再生成されるおそれがあるのだ。
OpenAI（ChatGPTやDALL·Eの開発元）などの企業では、ユーザーがオプトアウトしない限り、共有された画像を訓練データとして使用している。しかし、その悪用リスクは計り知れない。
生成AI画像の急速な普及により、家族や子どもたちの写真が無意識にアップロードされてしまうケースが多発している。これらの画像には、顔認識に役立つ情報だけでなく、社会的関係や文化的背景も含まれており、企業にとって貴重なデータ資源となる。
Body and Dataの計算機科学者ドヴァン・ライ氏は、「視覚的に魅力のある画像は、偽情報の拡散や文化的ステレオタイプの強化にも悪用されやすい。子どもは特に脆弱で、性的なディープフェイク画像を作るのも容易です。」と警告する。
多くのAI画像生成プラットフォームは、アップロードされたコンテンツの取り扱いについて明確に説明していない。子どもの写真が取り込まれると、その特徴がモデルに内在化され、意図しない形で再現される可能性がある。これは、倫理的な時限爆弾だ。
ライ氏はさらにこう警告する。「子どもの顔が、広告やミーム、論争のあるコンテンツに無断で使われることもあり得ます。」
インターネット・ウォッチ財団によると、最近１か月で、３５００件以上のAI生成による児童性的虐待コンテンツが暗号化フォーラムで確認された。中には、児童の顔を性的画像に合成した悪質なディープフェイクも含まれていた。ジブリ風ではなかったものの、どんな無害に見えるフィルターでも、悪用され得ることを示している。
さらに一部のAIツールは、被害者の顔をポルノ映像に合成した児童強姦・拷問のディープフェイク動画さえ生成可能になっている。これは性的暴力を常態化させ、性的脅迫やいじめ、憎悪表現を助長する危険がある。
ネパール警察サイバー犯罪課のディーパク・ラジ・アワスティ警視は「AI画像や動画を用いた誹謗中傷、偽情報拡散、ヘイトの事案が国内で発生しており、政治家や著名人を中傷するディープフェイクの苦情も受けている。」と述べている。
保護者は、AI生成画像が子どもの安全や創造性に与える影響を懸念すべきだ。AIへの過度な依存は、絵を描くといった伝統的な創造力の低下を招くこともある。
Smart Parents Nepalのカビンドラ・ナピット氏は、「保護者は子どもにオンラインリスクを教え、常に新たな脅威に注意を払う必要があります。」と話す。
若者を守るための提言：
- 安全設計（Safety-by-Design）：製品開発の初期段階から子どもや脆弱層の安全を組み込む設計手法を導入する（豪eSafety委員会が提唱）。
- 同意と透明性：画像が訓練データに使われる可能性があることを明示し、簡単にオプトアウトできる仕組みを整備。
- 強化されたモデレーション：自動検出と人間による監視を組み合わせ、児童の性的画像に関するプロンプトや生成物を即時にブロック・削除。透かしや指紋技術の導入も有効。
- 法的保護：AIによる児童性的虐待コンテンツの作成・流通・使用を犯罪とし、国際協力による追跡と処罰を強化。
- 多主体連携：技術企業、法執行機関、教育機関、NGOが連携し、情報共有と資源統合を図る。
- デジタル・リテラシー教育：子どもに空想と現実の区別を教え、リスクを認識させる。被害報告のための明確で秘密保持されたチャネルも必要。
- 保護者の支援：子どもとオープンで信頼できる関係を築き、AIの危険性を伝える。年齢に応じたフィルターや監視ツールも導入。
- 支援サービスの整備：子どもや若者に配慮したカウンセリングや法的支援体制を提供。（原文へ）
※掲載されたすべてのジブリ風画像は、著者が著作権フリーの素材を使って生成。
INPS Japan/IPS UN Bureau Report
関連記事：
｜視点｜AIと自立型兵器ー岐路に立つ世界（サンニャ・ラジパルSGI国連事務所）
