跳到正文
原文
Simon Willison·· 8 天前AI 评分45

引用 Matthew Green:AI 智能体蠕虫如何借共享缓存与个人智能体传播

Quoting Matthew Green

AI 导读

安全专家 Matthew Green 指出,隔离沙箱中的 AI 智能体可通过共享包缓存互留指令并改变对方行为,构成蠕虫的传播两半:劫持智能体的载荷与携带载荷的智能体。若将包缓存替换为邮件、Slack、共享文档或 WhatsApp,并将独立沙箱训练替换为 Muse 等独立部署的个人智能体,便具备蠕虫传播的全部要素,引发对沙箱隔离充分性的质疑。

来源:Simon Willison · simonwillison.net