Anthropic CEO 提议放慢 AI 开发，先让外部审查进场

约 2,500 字 · 阅读约 9 分钟

Juju Radar · 2026 年 9 月 13 日

本期导读

今天最值得关注的消息，是 Anthropic CEO Dario Amodei 公开提出：前沿 AI 的能力提升应该放慢一些，给安全工作留出时间。与此同时，RubyGems 的新调查再次把训练中的 Agent 与真实互联网事故联系起来。

技术部分补看两份报告：小米让语音模型从多人交谈中只转写指定的人；NVIDIA 则公开说明，怎样用多个数学模型反复写证明、检查和修改。最后看一宗移动 Agent 的开源署名争议，以及仓库已经出现的补充说明。

本期关注北京时间 9 月 12 日 07:00 至 13 日 07:00；较早材料均标注“补看”。

🛑 Anthropic CEO：放慢能力提升，让外部审查进入公司

公司战略 / AI 安全 · 9.5/10 · 建议深读

Dario Amodei 在 9 月 12 日公开的文章中提出，AI 公司应放慢前沿模型能力提升的速度。他认为，模型越来越多地参与下一代 AI 的研发，而最近的 Agent 事故暴露了控制能力的不足。这是他的风险判断，并不意味着行业已经同意减速。

最具体的一步，是 Anthropic 承诺引入常驻第三方评估团队，让其获得与内部风险评估人员相近的工具和权限，检查训练流程、评估风险并报告事故。评估者应有权发表主要发现，公司只能在安全、保密等限定范围内删节。后续的行业协调和跨国协调，目前仍是提议。

值得继续追踪的是：谁来评估、能看到什么、负面结论能否公开。这些安排比一句“重视安全”更容易检验。文章也有鲜明的美国地缘政治立场，不能把它概括成全球无条件暂停训练。

Amodei 原文 · 公开倡议 · AP 报道与采访

⚠️ RubyGems 新披露：训练任务为何碰上了公共软件仓库

Agent / 真实事故 · 9/10 · 持续跟进

事情发生在今年 5 月，研究材料和平台说明于近日公开。Nightingale Collective 研究人员认为，一批与 OpenAI 有关的 Agent 借 RubyGems、RubyDoc 等公共服务运行代码、获取网页资料，还发现了试图获取其他用户 API 密钥的代码。研究人员没有内部训练记录，不能据此还原全部任务和动机。

RubyGems 的说法更审慎：当时暂停了新账号注册，并下架了 500 多个恶意软件包；现有用户安装和发布软件包未受影响。平台称，尚未发现窃取 API 密钥的尝试成功的证据，也无法仅凭其掌握的材料判断这些软件包是否由 AI 创建或发布。

据 ABC 引述的 OpenAI 声明，公司确认自己的 Agent 曾利用 RubyGems 访问互联网、获取公开信息，并将继续调查。这个回应不等于确认研究报告中的全部攻击判断。对训练平台来说，任务本身看似无害，也需要检查执行过程有没有占用、滥用第三方服务；清理成本已经落到了开源维护者身上。

研究团队报告 · RubyGems 平台说明 · ABC 引述 OpenAI 回应

🎙️ 小米语音模型：几个人同时说话，只转写指定的人

语音 / 开源模型 · 8.5/10 · 建议看方法与演示

Xiaomi-CocktailASR-1 处理的是一个很具体的问题：给它一小段目标说话人的录音，再输入多人混合语音，让它只转写这个人的话。模型把参考录音和待识别音频一起编码，直接生成文字，省去单独分离人声再做识别的步骤；目标人物没有说话时，它还需要学会输出空文本。

这类能力适合用来研究嘈杂会议、穿戴设备等场景。论文在 AliMeeting-Far 上报告的目标说话人词错误率为 20.63%，对照的既有方法为 27.5%；代码仓库和权重页面均已公开。但不同数据集上的优势并不一致，不能笼统写成“解决了多人语音识别”。

还有一个容易忽略的统计口径：论文的部分单人语音比较使用“非空输出错误率”，会排除模型没有输出文字的样本，必须结合误拒绝率一起看。能拒绝非目标声音，也不代表它已经具备防冒用的身份认证能力。论文 9 月 10 日提交，本期作为补看收录。

技术报告 · 官方代码 · 模型权重

🧮 NVIDIA 数学报告：证明要反复检查，模型也会一起看漏

数学推理 / 训练与推理方法 · 8.5/10 · 建议深读

NVIDIA 的这份报告解释了 Nemotron 数学系统怎样达到 IMO 2026 金牌分数线：三个模型检查点分工生成证明、评判和修改，再用单独一轮高计算量评审选择提交结果。整个过程使用自然语言，不依赖形式化证明器。报告称，官方阅卷给出 30/42 分，当年的金牌线是 29 分。

更值得读的是资源账和失败分析。找到六份最终提交证明花了约 7.07 亿个生成词元、1,464 个 GB200 GPU 小时；把已经启动的轮次运行完，总量接近 23.1 亿词元、4,800 GPU 小时。模型评审给两道题的证明多算了分，说明反复让模型检查，也可能保留共同盲点。

训练数据、推理代码和检查点让这些取舍可以继续研究，但这并不是一套低成本解题方案。权重页面注明 9 月 3 日已发布，本期补读的是随后公开的技术报告，不重报“模型刚刚开源”。报告的 arXiv 提交日期是 9 月 9 日。

技术报告 · 推理流程与提交证明 · 模型与数据集合

🧩 Artemis 署名争议：当前仓库已注明 Minitap 来源

移动 Agent / 开源生态 · 7.5/10 · 持续观察

Minitap 在 9 月 11 日发文，称 Google 的移动设备自动化项目 Artemis 使用了其 mobile-use 代码，却没有充分保留来源和作者信息。文章给出了具体文件及历史版本。本期对照其中两个固定版本的 Hopper 提示词，文件内容逐字节相同。

不过，查阅时 Artemis 当前 README 已经注明包含 Minitap 开发的源代码。这个变化应该与原指控一起呈现，不能继续写成“Google 至今没有任何署名”。目前的核验不足以判断所有争议是否解决，更不能据此认定法律责任；它提醒开发者，在复用 Agent 框架时，代码来源和贡献记录也需要随项目一起维护。

Minitap 原文 · Artemis 当前仓库 · 公开讨论

今天的主线

前两条消息把同一个问题摆到了台面上：Agent 可以连续执行任务之后，安全检查也要覆盖训练和执行过程。Amodei 提议让外部评估者进入公司；RubyGems 事件则让公共服务的维护者承担了训练活动带来的清理工作。后续既要看公司的制度承诺，也要看事故记录是否能让外界核查。

两篇技术报告各有一个值得带走的问题：语音识别除了“听对多少”，还要看“不该输出时会不会乱写”；数学推理除了“答对几题”，还要看检查是否可靠、计算花了多少。