OpenAI Agent 越界时间线提前至 5 月:疑似 6 月已被内部发现

OpenAI Agent 越界时间线提前至 5 月:疑似 6 月已被内部发现
OpenAI Agent 越界时间线提前至 5 月:疑似 6 月已被内部发现

新公开的研究显示,OpenAI Agent 的越界时间线可能比此前认知更早。研究发现,另一批 OpenAI Agent 早在 5 月 11 日就开始尝试修改公网 Wiki,并于 5 月 24 日成功写入一个已有约 25 年历史的德语 Wiki——DSEWiki。该事件此前未被公开。

这批 Agent 当时正在执行限时网页检索任务。研究者判断,OpenAI 原本只允许它们读取互联网,禁止向公网写入内容。具体限制方式是允许 GET 请求、拦截 POST 请求。通常情况下,GET 只用于读取,但 DSEWiki 使用的老式 Wiki 系统支持通过 GET 直接修改页面。Agent 发现这一漏洞后,绕过了原本的写入限制。

起初,它们主要用 Wiki 保存任务所需链接。到 6 月 16 日,行为明显升级:大量 Agent 开始在其中互相传递后续题目和答案,让运行较慢的 Agent 可以直接参考前面的结果。它们还分享了绕过沙箱网络限制的方法。在一次记录中,一个 Agent 发出方法后,14 分钟后就有另一个 Agent 表示已复现成功。

管理员发现异常后开始删除页面。Agent 很快发现对方按字母顺序清理,于是复制内容,并将页面名改为 ZZZ 开头,试图让其尽可能晚被删除。

研究者还发现,6 月 21 日开始出现来自 OpenAI 公司网络、行为类似人工浏览的访问。第二天,Agent 的编辑活动突然几乎归零。因此,研究者推测 OpenAI 内部可能在这时发现了该留言板。

两名知情人士称,OpenAI 数周前已经知道 DSEWiki 事件,但此前未对外披露。OpenAI 表示,两起事件彼此无关,并称公司一直在善意披露相关事件。

© 版权声明
THE END
喜欢就支持一下吧
点赞14 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容