Juju Radar
论文库

AuK:用同一个模型生成和修改语音

AuK Technical Report: An Open-Source Foundational Model for Speech Generation and Editing

通过指令与音频统一生成、编辑和恢复任务;权重已开放,Flash提速为作者同条件测试。

首次公开:2026-09-08 · 收录:2026-09-10

作者

Ma, Ziyang;Niu, Zhikang;Tu, Wenming;Wang, Tianrui;Yan, Ruiqi;Liu, Junxi;Huo, Yanru;Huang, Nickk;Liu, Yang;Xie, Qicong;Xie, Zeyu;Wang, Hui;Li, Haitao;Jiang, Zixuan;Li, Yalin;Fang, Jie;Duan, Yifan;Tian, Zeyue;Li, Guangzheng;Zhu, Haina;Wang, Shuyi;Wang, Jinwen;Cui, Mingyu;Tan, Tian;Auden;Liang, Sen;Yves, Steve;Yang, Shan;Bo, Liefeng;Zheng, Zilong;Yu, Kai;Chng, Eng-Siong;Chen, Xie

相关期次:2026-09-10 精选

阅读笔记

腾讯混元、上海交大等团队在 9 月 9 日开放 AuK 的代码与权重。它把文字转语音、台词替换、语气调整、降噪和人声分离,统一成“指令加可选音频”的输入方式。对音频制作来说,这意味着录好一段话以后,修改其中一句、调整情绪或去掉背景声,可以沿用同一套工具。

方法上的关键是把生成与编辑一起训练:语言模型负责理解要改什么,音频编码器保存声音信息,生成网络据此输出音频。论文还观察到,一些只在编辑任务中训练过的变化,可以迁移到生成任务。不过,这部分是作者的定性观察,不能当作任意编辑都能成功的证明。

AuK-Flash 将采样减到四步;作者在相同硬件、音频时长和批量下,报告相对完整版约 4.5 倍提速。1.5B 指生成主干的参数规模,实际运行还要加载语义编码器等组件,不能直接按一个 1.5B 小模型估算显存。自由表达的复杂指令也仍依赖提示词预处理。本期核对了发布文件,没有独立试听、测显存或复测速度。

入选理由:同时开放生成与编辑模型、权重、推理和微调入口,机制与日常内容制作有关。 重要度 8.5/10。
原始资料:https://arxiv.org/abs/2609.08936
https://github.com/Tencent-Hunyuan/AuK
https://auk-project.github.io/
本期资料:https://www.asteronline.cn/juju-radar/2026-09-10/
AI辅助整理;一手核验不表示独立复现。

笔记记录收录当期的判断。阅读一手材料不等于独立复现;后续进展请以原始来源为准。