Google让联邦学习的服务器代码可核查，Gboard已采用

隐私计算 / AI基础设施 / 论文 · 8.8/10 · 建议看系统设计

Google 10月2日介绍新一代联邦学习系统。传统联邦学习尽量在用户设备上计算，再汇总结果；Google这次把更多计算移到服务器，换取更快训练和更多设备参与。难题随之出现：数据到了服务器，用户和外部审计者凭什么相信它只被允许的程序处理？对应论文9月25日已提交，本次更新是Google公开说明系统设计与Gboard落地。

它的办法是让设备先加密上传数据，并指定将来哪些程序可以处理。运行在可信执行环境（TEE）里的密钥服务核对程序身份和预设策略，符合条件才放出解密密钥；策略写进公共透明日志，相关程序也提供可重建的开源代码。这样，审计者至少可以检查“允许执行什么”和“机器声称正在执行什么”，而不只是接受服务器运营者的口头承诺。Google说，Gboard的英语和日语下一词预测模型已经用这套系统训练；旧流程常要一两个月，新流程可以在服务器上并行计算。

这里的“可验证”有边界。TEE依赖硬件隔离和软件实现，侧信道风险仍在；Google自己也说，还没有给差分隐私算法及所有系统组件做完形式化正确性证明。更准确的理解是：它把隐私承诺向可查的代码、策略和执行记录推进了一步，尚未把服务器变成绝对无需信任的黑箱。