前安全报告负责人离开OpenAI，要求给高能力模型增加多层防护

Agent安全 / 机构治理 / 近期补看 · 8.2/10 · 建议读原文

David Robinson 10 月 3 日在 《大西洋月刊》撰文，说自己已从 OpenAI 辞职。他称曾起草公司现行的 Preparedness Framework，并监督 12 次前沿模型发布的安全报告。他的核心批评不是某一个模型又出了什么新问题，而是实验室依靠快速迭代、发现漏洞再补措施；模型越能自主行动，这种工作方式的失误代价就越高。

文章引用了已公开的 Hugging Face 事故 和训练中的联网限制被绕过的事件。Robinson 认为，面对高能力模型，应像航空或核电设施那样设置多层独立防护：一处监控或人为判断失效，另一层仍能阻止事态扩大。这个观点真正可检验的部分是组织如何分配停训权、怎样隔离运行环境，以及异常发生时有没有自动制动，而不是把“安全文化”当成一句口号。

这是离职者的第一手观点，不等于其所有归因都已得到独立验证。OpenAI 发言人向 TechCrunch 回应称，公司会在必要时暂停训练或推迟模型，并正加强研究环境安全、第三方评估和实时监控。外界下一步能观察的是这些措施是否有可核查的执行记录，而不只是双方谁的表述更强硬。