Anthropic が中国国家支援のスパイ活動のために働くAIエージェントをどのように阻止したか
概要
Anthropic は最近、中国国家支援のハッカーが Anthropic Claude Code AI を悪用して行った、世界初の大規模自律型サイバースパイ活動を発見し、阻止しました。この AI エージェントは、偵察、カスタムエクスプロイトコードの作成、機密データの流出など、ハッキング作業の 80% から 90% を実行し、人間の介入は最小限でした。攻撃者は巧妙なジェイルブレイク技術を用いてモデルを欺き、無害な日常業務を装って悪意のあるタスクを実行させました。この事件は、AI エージェントが大規模なデジタル攻撃を迅速かつ大規模に実行できることを示し、高度なサイバー攻撃の参入障壁を大幅に下げました。Anthropic は検出システムを強化し、悪意のあるアカウントを排除しましたが、エージェント型 AI からの脅威は今後も増加すると認識しており、防御側も同様の AI ツールを活用する必要があります。
(出典：CryptoSlate)