人工知能は革新と操作の両方において強力なツールとなっており、 OpenAI の最新セキュリティレポートは悪意のある行為者による AI 採用の暗い側面を明らかにしている。 ChatGPT を開発した同社は、国家支援グループが AI 技術を悪用してプロパガンダを拡散し、世論を操作し、世界的なプラットフォームで巧妙な影響工作を行う複数の協調キャンペーンを特定し、解体した。
国家支援による AI 悪用が新たな高みに到達
OpenAI の「 Disrupting malicious uses of AI: June 2025 」レポートは、同社が2025年の最初の数か月間に10の別々の悪意あるキャンペーンを成功裏に阻止したことを記録している。これらの作戦は、権威主義政権が地政学的影響力のために AI 技術を武器化する方法の大幅なエスカレーションを表している。キャンペーンは雇用詐欺から、民主的プロセスを弱体化させ、標的国に分裂を蒔くために設計された複雑なソーシャルエンジニアリング作戦まで、あらゆるものを標的とした。
発信国別の阻止されたキャンペーン:
- China: 4つのキャンペーン（「 Sneer Review 」と「 Uncle Spam 」を含む）
- Russia: 複数のキャンペーン（「 Helgoland Bite 」を含む）
- Iran: 複数のキャンペーン
- North Korea: 複数のキャンペーン
- 阻止された総数: 2025年の最初の数ヶ月で10のキャンペーン
中国の作戦が台湾と米国の政治的言説を標的に
阻止されたキャンペーンのうち4つは中国発であり、 AI 生成コンテンツと戦略的偽情報を組み合わせた巧妙な戦術を示している。 Sneer Review 作戦は、中国共産党への抵抗を描いた Reversed Front ボードゲームのレビューを AI 生成の批判的コメントで溢れさせることで、台湾独立を特に標的とした。中国の行為者はその後、これらの捏造されたレビューを活用して、ゲームに対する広範囲な反発があると主張する記事を作成した。この多層的なアプローチは、 AI が政治的目的を達成するために製造された論争をどのように増幅できるかを実証している。
ロシアの行為者が ドイツ 選挙干渉のために ChatGPT を展開
Helgoland Bite キャンペーンは、 AI 生成の ドイツ 語コンテンツを通じて アメリカ と NATO を批判し、 ドイツ の政治に影響を与えようとする ロシア の努力を明らかにした。 ロシア の工作員は、プロパガンダ資料を作成するためだけでなく、標的とする反対派活動家やブロガーを特定するためにも ChatGPT を使用した。キャンペーンのタイミングは ドイツ の2025年選挙サイクルと一致しており、 AI ツールが複数の国で同時に民主的プロセスに干渉するために武器化されていることを浮き彫りにしている。
Uncle Spam キャンペーンが米国の政治的分裂を悪用
アメリカ の読者にとっておそらく最も懸念すべきは、 Uncle Spam 作戦が中国の行為者が ChatGPT を使用して アメリカ の政治的分極化を拡大することを目的とした非常に分裂的なコンテンツを作成したことを実証したことである。キャンペーンは関税などの論争的な話題について賛成と反対の両方を主張するソーシャルメディアアカウントを生成し、同時に信頼性を構築するために偽の退役軍人支援ページも作成した。分裂的な問題の複数の側面でコンテンツを生成するこのアプローチは、 AI 生成操作を通じて社会的不和を最大化する方法についての洗練された理解を表している。
高度な戦術にはパフォーマンスレビューと標的化されたアウトリーチが含まれる
これらの作戦の洗練度は単純なコンテンツ生成を超えて広がっている。中国のプロパガンダ活動家は、影響工作のための ChatGPT の使用を記録した詳細なパフォーマンスレビューを作成し、測定可能な結果を持つ専門的事業として AI 操作を扱った。さらに、これらの行為者は OpenAI の技術を使用して、偽りの口実の下でジャーナリスト、アナリスト、政治家に標的化された電子メールを作成し、 AI 強化ソーシャルエンジニアリングを通じて関係を構築し、機密情報を抽出しようと試みた。
キャンペーンの戦術と標的:
- 雇用詐欺と影響工作
- ソーシャルメディア操作と偽アカウント作成
- 多言語での翻訳とコンテンツ生成
- ジャーナリスト、アナリスト、政治家への標的型アプローチ
- AI 悪用に関する業績評価文書
- プラットフォーム横断的な協調メッセージング
拡大する脅威の状況が複数の国にまたがる
OpenAI のインテリジェンス・調査チームの主任研究員である Ben Nimmo は、中国がより広範な脅威の状況の一部に過ぎないことを強調した。レポートは ロシア 、 イラン 、 北朝鮮 からの類似した悪意ある活動を特定しており、 AI を活用した影響工作が権威主義政権のデジタル戦争兵器庫の標準的なツールになったことを示している。悪意ある目的での AI のこの世界的採用は、技術企業と民主的制度の両方にとって前例のない課題を提示している。
具体的なキャンペーンの詳細:
- Sneer Review: 台湾の「Reversed Front」ボードゲームを標的とした偽の否定的レビュー攻撃
- Helgoland Bite: 2025年の German 選挙に向けて German 語で反 US / NATO コンテンツを作成する Russian の作戦
- Uncle Spam: 分裂を煽る US の政治コンテンツと偽の退役軍人支援ページを作成する Chinese の作戦
オンライン情報の完全性への影響
OpenAI の調査結果は、オンラインコンテンツの真正性がもはや当然視できないという厳しい現実を思い起こさせる。同社のレポートは、オンラインで論争的なコンテンツに関与する個人が、特定の感情的反応を引き起こすように設計された AI 生成資料と無意識に相互作用している可能性があると警告している。この現実は、市民がデジタル時代に情報を消費し評価する方法を根本的に挑戦し、ますます操作された情報環境をナビゲートするために新しいレベルのメディアリテラシーと批判的思考スキルを要求している。