AI列出5.66亿个候选基因,AgentCore旧权限链曝光
约 4,200 字 · 阅读约 14 分钟
Juju Radar · 2026 年 10 月 9 日
本期导读
今天有两条很不一样的重磅材料。Hugging Face生物团队公开Carbon-A模型和数据库,在两万多种生物的基因组中列出5.66亿个候选蛋白编码区;这些是待验证的预测,不能直接叫“发现5.66亿个新基因”。另一条是已经过修补的Agent安全链:研究人员发现,一个对外Agent的云端身份曾可能触及同账户其他Agent。AWS不同意将相关行为定性为漏洞;研究者也确认,关键默认权限在公开前已被收紧。
另一个安全案例发生在内容发布链上。OpenAI披露的两起影响行动,把模型用来经营假身份、修改投稿和制作内部报告,而不只是批量发帖。技术一侧,Google公开了已在产品中使用的端侧GPU引擎,Comfy则把低分辨率视频连续生成压进单张RTX 5090。最后补看NVIDIA的Long-WAM:机器人多看一段过去的视频,只有学会使用这段记忆,才可能真正受益。
🧬 Carbon-A标注两万多种生物,基因预测进入大规模筛查
AI for Science / 基因组学 · 9.4/10 · 建议深挖
Hugging Face生物团队发布Carbon-A与Carbon Annotation Database。它面向一个真实的研究瓶颈:基因组测序已经比过去容易得多,但把DNA序列里哪些片段可能编码蛋白、外显子怎样拼接逐一标出来,仍需要大量已有注释和专家工作。Carbon-A用同一个1.2B参数模型处理动物、植物、真菌等真核生物,在每次约9.8万碱基的窗口里,对两条DNA链逐碱基给出编码区概率。模型权重和使用说明已公开。
团队用它处理了48,167份基因组组装、覆盖22,617个分类单元,数据库现在含约5.66亿个预测的蛋白编码位点。这里的“预测”很重要:总数不等于5.66亿个经实验证实的新基因,也不等于它们都有已知功能。模型把过去需要逐物种设计流程的初筛变成了可批量运行的候选目录;研究者可以先按位置、序列和置信度缩小范围,再挑值得做实验的区域。
它比一般“模型跑分很好”多走了一步。团队报告在42个基因组的基准上取得0.944的逐碱基F1,并用猫、仓鼠、鸡和拟南芥的长读长RNA实验数据核对一部分模型与旧数据库不一致的位置:部分预测确实有转录证据。这支持某些编码区结构存在,却仍不能证明RNA已翻译为蛋白,更不能证明功能。团队说对研究较少物种的更广泛湿实验结果稍后发布。真正的价值在于把大规模DNA资料变成可检验的假设清单;独立复核、不同物种的错误率和后续蛋白证据,将决定这些候选有多少能进入生物学知识库。
🛡️ 一次提示注入,为什么能越过Agent的云端权限边界
Agent安全 / 云基础设施 · 9.5/10 · 建议深挖
Zenity Labs在10月8日公开AgentCorruption研究。他们在测试环境中向一个开放的AWS Bedrock AgentCore智能体发出提示,使其通过具备网络请求能力的工具访问实例元数据服务,从而取得该智能体运行身份的临时凭据。关键并不只是模型听了不该听的话:当时AgentCore默认执行角色的权限范围较大,凭据随后能用于发现、调用同一AWS账户、同一区域的其他Agent,读取会话,甚至向长期记忆写入内容。分步技术报告展示了跨Agent访问的过程。
这是一条由两个环节接起来的攻击链:自然语言输入诱导Agent调用工具,云端身份与权限配置再放大后果。把提示注入只当成“聊天机器人说错话”,会漏掉真正昂贵的部分——被它调用的工具拥有什么网络出口和IAM权限。研究者还展示了记忆投毒:攻击者一旦能写入持久记忆,后续正常用户的会话也可能被旧指令影响。这里讨论的是研究者复现的路径,不能据此说现实中所有AgentCore客户都遭过攻击。
时间线尤其重要。Zenity称2025年12月和2026年1月已向AWS报告;2026年9月29日复查时,原来允许访问其他Agent、会话和Secrets Manager的关键默认权限已被收紧。AWS回应媒体,认为报道把预期且有文档说明的行为错称为漏洞,并强调跨账户访问需要开发者明确授权。双方对定性有分歧,研究者展示的是特定旧配置下、同账户同区域的权限链,不能写成“现在所有AWS账户都能被一句话接管”。实际启示很具体:上线Agent时要同时查网络出口、元数据访问和执行角色的最小权限,不能只调模型提示词。
📰 假记者、真投稿:AI影响行动绕过了内容平台这道门
AI滥用 / 信息安全 · 9.1/10 · 建议细读原报告
OpenAI披露并封禁两组使用ChatGPT的影响行动账户,分别指向俄罗斯和伊朗来源的操作者。报告里最值得注意的,不是AI又能写多少评论,而是内容进入真实机构和媒体渠道的方式。伊朗相关行动经营七个“记者”笔名,用模型润色长文与投稿邮件;OpenAI通过公开资料找到近百篇以这些笔名刊登或转载的文章。另一组行动经营拉美“研究平台”,使用假身份、内部报告及真假混杂的材料,有些内容进一步进入公开讨论。
这类操作的瓶颈从来不只在生成文字,而在于让内容获得可信的署名和分发渠道。模型降低了写作、翻译、修改稿件的成本;已经存在的编辑、媒体页面和线下关系,则给材料带来普通机器人账号难以获得的表面可信度。OpenAI按其采用的传播范围量表,把俄罗斯相关行动评为第5类、伊朗相关行动评为第4类。这是它对潜在传播范围的评估,不是证实有多少人被说服。
报告也给了一个必要的反例:操作者的内部汇报会夸大自身战果,有些自称制造的事件无法从公开渠道核实。因而不能把报告里出现的每项“影响”都当成AI造成的实际结果。对读者更实用的判断是:以后查一篇争议文章,除了看写得像不像AI,还要查署名、作者履历、投稿链和原始证据;一个流畅的长文并不自动拥有可靠来源。
📱 Google把端侧GPU推理引擎单独开源
端侧推理 / 开源基础设施 · 8.9/10 · 建议技术读者关注
Google在10月8日开源ML Drift,它是LiteRT所用的GPU加速引擎,也能作为独立库使用。代码仓库采用Apache 2.0许可。手机、浏览器和桌面的GPU接口与内存布局各不相同,开发者通常得为不同后端分别维护着色器;ML Drift把张量的逻辑形状与实际GPU存储解开,在初始化时生成适合各后端的着色器。这个变化直接影响新算子能否较快部署到多种设备,而不是只改一个跑分。
它还有几项很实用的工程选择:支持复杂视频或空间模型需要的5维张量;让语言模型在读入提示的prefill阶段和逐词生成的decode阶段切换执行布局;提供自定义GPU算子的接口。Google称这套引擎已用于Chrome、相册、Meet等产品,并报告YouTube Shorts某些分割特效的平均单帧延迟最多降低40%。这些都是特定产品和模型的厂商数据,不能推断任意手机上的任意大模型都快40%。桌面WebGPU支持仍以预览为主。
值得注意的是平台位置:Google说旧TFLite GPU delegate将不再获得新特性。对已有端侧应用,这意味着未来模型架构的支持会向ML Drift迁移;对想在本地跑模型的开发者,真正该看的是自己的设备、功耗、内存和兼容性,而不是仓库首页一句“高性能”。
🎬 单张5090连续生成视频:速度来自整条链的缩减
视频生成 / 推理工程 · 8.5/10 · 值得动手复测
Comfy团队公开了ComfyStreamerH3的实现,并放出代码和运行记录。在单张32GB RTX 5090上,作者记录的热启动测试用23.51秒生成两段各15.08秒、448×256的视频;按输出时长算约为实时播放的1.28倍。这里用的是FastVideo蒸馏版H3及四步采样,不是原版MiniMax H3在完整分辨率下突然达到这个速度。
速度来自多处压缩叠加:稀疏注意力少看部分视频块,用4B视觉语言编码器替代原先更大的文本编码器,采用剪枝和INT8权重,部分计算改用融合的FP4算子,再让视频解码与编码重叠执行。单看某一招都不够;把显存占用从约80GB压到30GB以下,整套流程才装得进一张消费级显卡。代码库包含示例工作流和测试记录,至少提供了复测入口。
它适合实时预览、互动草图和成本实验,却还不是高画质影视成片方案。公开样例只有448×256,作者承认细节和连贯性仍有瑕疵;仓库的23.51秒是11次任务的中位数,也不等于长时间连续运行都稳定。真正值得继续追的是这套“蒸馏模型+小编码器+稀疏计算+流水线”能否在提高分辨率时保住速度。
🤖 Long-WAM让机器人学会使用更长的历史
机器人 / 世界动作模型 · 8.8/10 · 建议看论文与演示
NVIDIA团队的Long-WAM论文于10月7日17:58 UTC提交,早于本期窗口;项目仓库将论文列为10月8日可读,并提供代码与检查点,所以放在这里补看。机器人做长任务时,只有眼前一帧常常分不清自己刚才拿起了什么、杯子往哪边动;但不断塞进过去的视频又会拖慢动作。Long-WAM先用机器人和第一视角视频做自回归预测预训练,再在动作任务中保留“由过去推测未来”的结构,同时用流式编码与异步执行控制延迟。
论文最有价值的对照是:在RoboCasa GR-1上,作者报告把历史从0延长到19.2秒,成功率由63.3%升到78.7%;换成双向预训练底座,延长历史却没有净收益。这说明“给模型更长上下文”不等于“模型会利用上下文”。团队还报告RTX 5090上每段动作含未来视频预测约107.4毫秒,以及真机动态叠杯任务的95%成功率。后两项都属于作者在指定硬件与任务上的测试,尚不能推断普通家庭环境的可靠程度。代码和权重开放,让后续独立复测比只看演示视频更可行。
今天的主线
今天两条安全材料指向同一件事:AI接触现实系统后,风险常常发生在模型之外。AgentCorruption的关键放大器是云端执行角色;虚假身份影响行动的关键放大器是稿件进入真实媒体与组织后的信用。模型提供了低成本动作,现有权限和分发体系决定这些动作能走多远。
Carbon-A、Google、Comfy和Long-WAM都在回答“规模扩大后由谁来承担成本”,但成本各不相同:生物研究的人工注释、端侧GPU的跨平台适配、视频生成的显存与计算、机器人的历史信息处理。扩大规模本身不保证结果可靠;Carbon-A的候选仍要实验,视频和机器人也要离开演示场景复测。
推荐阅读
① Carbon-A博客、技术报告与模型卡:先弄清5.66亿的统计口径。② AgentCorruption技术报告与AWS回应:核对当时的权限链和现在的边界。③ OpenAI影响行动报告:看假身份怎样穿过真实投稿渠道。④ Long-WAM论文:比较“看见历史”和“用好历史”。⑤ ML Drift的架构与仓库。⑥ ComfyStreamerH3的代码、样例及测试记录。