google-ai-edge/ml-drift
它还有几项很实用的工程选择：支持复杂视频或空间模型需要的5维张量；让语言模型在读入提示的prefill阶段和逐词生成的decode阶段切换执行布局；提供自定义GPU算子的接口。Google称这套引擎已用于Chrome、相册、Meet等产品，并报告YouTube Shorts某些分割特效的平均单帧延迟最多降低40%。这些都是特定产品和模型的厂商数据，不能推断任意手机上的任意大模型都快40%。桌面WebGPU支持仍以预览为主。
仓库状态可能随时间变化，开放范围与使用条件请查看项目自身的许可证和说明。