AuK:改一句台词、换一种语气,不必换一套模型
语音生成 / 开源 · 8.5/10|建议深挖
腾讯混元、上海交大等团队在 9 月 9 日开放 AuK 的代码与权重。它把文字转语音、台词替换、语气调整、降噪和人声分离,统一成“指令加可选音频”的输入方式。对音频制作来说,这意味着录好一段话以后,修改其中一句、调整情绪或去掉背景声,可以沿用同一套工具。
方法上的关键是把生成与编辑一起训练:语言模型负责理解要改什么,音频编码器保存声音信息,生成网络据此输出音频。论文还观察到,一些只在编辑任务中训练过的变化,可以迁移到生成任务。不过,这部分是作者的定性观察,不能当作任意编辑都能成功的证明。
AuK-Flash 将采样减到四步;作者在相同硬件、音频时长和批量下,报告相对完整版约 4.5 倍提速。1.5B 指生成主干的参数规模,实际运行还要加载语义编码器等组件,不能直接按一个 1.5B 小模型估算显存。自由表达的复杂指令也仍依赖提示词预处理。本期核对了发布文件,没有独立试听、测显存或复测速度。