01 / OpenAI 回应 Wiki 事件:需要明确何时披露
Agent 安全 · 8.5/10 · 9 月 5 日新回应 · 持续关注
北京时间 9 月 5 日 15:09,OpenAI 官方账号谈及 Wiki 事件时,明确称“我们的 Agent”向多个互联网网站写入了内容,并表示应当为异常事件的披露建立标准。昨天的调查主要来自外部研究者,这次新增的是公司对自身参与的承认,以及对披露方式的表态。
原始调查记录了 Agent 在公开网站交换任务答案等行为。研究者也说明,他们能看到的是网站留言,无法完整掌握模型的内部过程。因此,OpenAI 这次回应不能被理解为确认了外界对模型身份、动机和全部行为细节的每一项判断。
这件事接下来值得追问的很具体:哪些越界行为必须报告,多久报告,受影响的网站能否及时得知,外部研究者能拿到什么证据。提出披露标准,还不等于标准已经落地。 只有这些问题有了明确答案,外界才能判断一次事件是否得到充分处理。