米AI企業Anthropicは最新のAI脅威報告書を発表し、過去8か月間に自社のAIモデル上で検知し、阻止した悪質な活動をまとめました。その中で、中国のグループが「自動化エクスプロイト工場」を構築し、AIを使って海外の人物を監視したり、政治的に敏感な情報を分析したりしたほか、情報活動に協力する人材の勧誘にも利用していたことが明らかになりました。
Anthropicが9月10日に発表した最新の脅威情報報告書では、国家支援型のハッカーや犯罪組織、特定の機関がClaudeを悪用しようとした事例を詳しく紹介しています。サイバー攻撃の事例からは、AIエージェントによる攻撃の自動化がどこまで進んでいるのかが浮き彫りになっています。
報告書によると、中国のあるグループは自動化エクスプロイト工場を構築し、Claudeで複数のAIエージェントを稼働させ、セキュリティ製品を継続的に分析していました。
また、中国共産党（中共）の国家安全部門による情報収集の重点と一致する活動も確認されました。Claudeを使って人物を監視し、人物ごとの詳細なプロフィールを作成したほか、シリアにいるウイグル人を協力者として勧誘しようとしていたといいます。
このシステムは、SNSや海外メディアの記事を1日少なくとも15〜30件処理し、政府向けの「世論動向報告」を自動生成しています。
上海のIT企業経営者 邵琦亮さん
「中共がAI技術を使って人を監視、特定することは、中国ではすでに広く行われています。それが海外での監視に使われても驚くことではありません。中共がAIを使って米国内の個人や組織の情報を収集することは、一種の侵入行為であり、米国の国家安全保障に極めて大きな危険をもたらします」
報告書によると、こうした活動を行っていた人物らは中国本土におり、そのうち1人は、自身が中共政府の情報セキュリティ担当者であると明かしました。
アリババのソフトウェアテストエンジニア 蔡暁麗さん
「攻撃者は、政府の立場に沿って特定の集団を弾圧するための宣伝文を極めて低いコストで大量に作成できるだけではありません。AIを使って特定施設の構造図や人物の移動履歴を分析することもできます。従来の一対一の人的調査を、複数のプラットフォームを横断し、大量の処理を同時に行う自動化された情報収集システムへと変えているのです」
報告書はさらに、中共がカトリック、チベット仏教、法輪功、台湾のキリスト教団体を対象に進めていた情報収集活動についても明らかにしました。報告書には、中共が収集した海外の法輪功学習者のLinkedInページも掲載されており、この人物が飛天大学ミドルタウン校の教員であることが示されています。
邵琦亮氏
「中共は以前から非政府組織を強く警戒しています。法輪功には世界各地に多くの学習者がおり、中共はそれを容認できません。AI技術によってデータ分析能力は大幅に高まりました。海外の法輪功学習者のネット上に残る日常の行動履歴を中共が収集し、ビッグデータとしてAIに分析させ、必要な情報を得ている可能性があります」
米国在住の時事評論家 邢天行氏
「中共は、自らが敵とみなした相手に対して国家機関を通じて情報を集め、特定の集団を狙います。法輪功はまさに中共に敵とみなされています。中共は偽・悪・闘争を本質としており、法輪功学習者が信じる真・善・忍とは根本的に相容れません。より多くのテクノロジー企業がこうした問題を認識すれば、中共による情報収集に一定の障害を設けることができると思います」
蔡さんは、機微な個人情報が明らかになれば、中国国内外の法輪功学習者の安全を直接脅かすとみています。
蔡暁麗さん
「中国では、こうした情報が国内のデータベースと結び付けられれば、本人だけでなく、中国にいる法輪功学習者の家族にまで脅迫や報復が及ぶ恐れがあります。その結果、海外にいる人々にも強い心理的圧力を与え、自己検閲を促すことになります」
蔡さんはまた、中共政権がAIを利用し、米国内に合法的に居住する人々や団体を対象に情報収集を行うことは、米国の国家主権を深刻に侵害する行為だと述べました。
蔡暁麗さん
「これは、デジタル権威主義が米国本土に直接浸透し、米国法が保障する市民のプライバシーや信仰の自由を損なうことを意味します。それだけでなく、AIの計算資源を武器化して西側諸国の安全保障を脅かし、民主社会の正常な運営を妨げる一線を越えた行為でもあります。米国は安全保障の防衛線を、ハードウェアの輸出規制だけでなく、最先端AIモデルの安全管理や、悪用を想定した防御策にまで広げる必要があります」
Anthropicは、今回の活動に関与したすべてのアカウントを停止し、関連する脆弱性にも対処したとしています。また、得られた情報を法執行機関や業界のパートナーと共有し、今後もAIモデルの防御機能を強化していく方針です。
