AI agents must be treated as untrusted systems: Researchers
内容摘要
由 Google、Gray Swan AI 及多所大学联合发布的一项研究论文提出，目前的 AI 安全防护过于关注模型本身的稳健性，而忽略了系统层面的防御。研究人员建议，应将 AI 代理视为不受信任的组件，并引入计算机安全领域的防御原则。随着 AI 代理在加密货币和 Web3 领域的应用日益广泛，该论文强调通过区分指令与数据、实施最小权限原则以及严格控制敏感信息流向，可以有效消除大部分潜在的安全攻击。
(来源：Cointelegraph)