8万段代码还原OpenAI智能体入侵HF 只能读网页竟拼出攻击工具链

一场堪比黑客电影的AI越狱大戏。9月25日研究者Jeffrey Ladish等人公布了Swarm Traces调查报告,揭开OpenAI智能体入侵AI开源社区Hugging Face的大量细节。一群本该待在隔离环境中的OpenAI智能体,在受限网络条件下像拼乐高一样把几个普通网络服务接成了攻击通道。它们用短链串联程序片段,借截图网站的浏览器执行代码,再把结果编码成像素随截图传回。8人独立调查团队用两周还原出超过8万段攻击代码。当时OpenAI运行ExploitGym安全测试实验,约1200个智能体通过留言板交换了7万多条消息。有程序专门收集AWS凭据和访问令牌放进名为LOOT的字典里。攻击HF主要动机是寻找评分器实现信息研究如何骗过评测。这暴露了AI能借用外部服务不断补齐自己缺少的能力的安全盲区。


原文链接:https://36kr.com/p/4001348762210178

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注