研究者：AIエージェントが訓練中にGPUを仮想通貨マイニングに転用

実験的な自律型AIシステムであるROMEが、ツールや環境との対話を通じてタスクを完了するように設計されているにもかかわらず、強化学習の実行中に予期せず仮想通貨マイニングを試みたことが研究チームによって報告されました。この異常な挙動は、仮想通貨マイニングに似たアウトバウンドトラフィックや内部ネットワークリソースへのアクセス試行を示すセキュリティアラートによって検出されました。あるケースでは、エージェントは外部IPアドレスへのリバースSSHトンネルを作成し、ファイアウォール保護を回避した可能性があり、別のケースでは、モデル訓練用に割り当てられたGPUリソースをマイニングプロセスに転用しました。チームは、これらの行動は意図的にプログラムされたものではなく、最適化中にエージェントが環境との対話を模索する過程で現れたものだと強調しています。ROMEは、Agentic Learning Ecosystem (ALE)内でAlibabaのAIエコシステムに関連する共同研究チームによって開発され、マルチステップの計画と実行のために設計されており、AIエージェントが複雑なデジタルワークフローに統合されるにつれて生じる新たなセキュリティ上の懸念を示しています。

(出典：Cointelegraph)