Anthropic CEO：放慢能力提升，让外部审查进入公司
公司战略 / AI 安全 · 9.5/10 · 建议深读
Dario Amodei 在 9 月 12 日公开的文章中提出，AI 公司应放慢前沿模型能力提升的速度。他认为，模型越来越多地参与下一代 AI 的研发，而最近的 Agent 事故暴露了控制能力的不足。这是他的风险判断，并不意味着行业已经同意减速。
最具体的一步，是 Anthropic 承诺引入常驻第三方评估团队，让其获得与内部风险评估人员相近的工具和权限，检查训练流程、评估风险并报告事故。评估者应有权发表主要发现，公司只能在安全、保密等限定范围内删节。后续的行业协调和跨国协调，目前仍是提议。
值得继续追踪的是：谁来评估、能看到什么、负面结论能否公开。这些安排比一句“重视安全”更容易检验。文章也有鲜明的美国地缘政治立场，不能把它概括成全球无条件暂停训练。