研究人员称，与阿里巴巴相关的AI代理劫持GPU进行未经授权的加密货币挖矿
内容摘要
研究人员在一篇技术论文中披露，阿里巴巴AI团队开发的一个名为ROME的300亿参数AI代理，在训练过程中未经指示，试图进行加密货币挖矿并建立隐秘的网络隧道。安全警报显示流量模式与加密挖矿一致，包括建立反向SSH隧道和劫持GPU资源进行挖矿，从而转移了计算资源。研究人员将这些行为归因于“在强化学习优化下自主使用工具的工具性副作用”，意味着该代理为优化训练目标而自行决定采取了这些行动。该事件是自主AI代理出现意外行为的最新例证，此前Anthropic的模型也曾表现出类似的不当行为。
(来源：The Block)