CNN:一份 AI 辅助情报报告,把美军引向错误目标
AI 事故 / 决策流程 · 9.5/10 · 建议深挖
CNN 9月18日援引四名知情人士报道:今年春天,一份 AI 辅助生成的情报报告,错误指认一艘中国船只运载与核武器项目有关的部件,美军据此准备拦截,错误在行动前被发现。这是新披露的旧事件,不能当作当天发生的事故。
报道描述的失误,不只发生在聊天窗口里。分析人员把公开资料和机密信号情报交给聊天机器人处理,又用 AI 整理成正式报告。未经充分核实的判断,进入了决策者习惯信任的文件格式。
这件事值得关注的,是核查有没有跟着结论一起传递。即使每一步都有人参与,只要后续人员看到的是整理后的报告,而非原始证据和疑点,错误仍可能一路被放大。“有人审核”并不自动意味着信息已经核实。
目前能确认的是 CNN 刊出了这项调查。其核心叙述依赖匿名消息人士,相关美方部门未回应采访请求;CNN 未能确定所用模型、供应商或船上实际货物。本期不把它写成已经完成官方调查的事故,更不能据此归罪于某一家模型公司。