Meta 将这种被称为"请求注入"的新威胁称为"漏洞",而 OpenAI 的网络安全负责人 Dane Stuckey 则认为这是"未解决的安全问题"。
这个概念已经存在三年了,甚至早于 ChatGPT 的发布,但其最初的应用范围有限,因为 AI 助手只能生成内容——计算机代码、文本或图像——然后需要由人类用户审查和整合。
但随着能够自主执行任务的 AI 代理的出现,黑客获得了在个人或企业计算机系统内部发动攻击的武器,这是一种终极的特洛伊木马。
这些 AI 代理集成到新一代网络浏览器中,使它们的使用者面临海量来源不确定、质量参差不齐的在线数据。...