全副武装的美军士兵已然就位，战机紧急升空，距离强行登临这艘中国船只，仅剩短短几分钟。

谁也想不到，差点触发这场巨大风波的情报，根本不是侦查人员实地探查得来，而是AI聊天机器人凭空编出来的，这件事在近期被CNN爆出，央视新闻也做了相关转述，消息一出，很多人看完之后后背发凉。

美军一名分析师拿着一份船只货单，直接询问AI，这艘船上装了什么东西，AI把网上公开资料和零散的信号信息混在一起，直接给出结论，这艘中国船只正在往中东运送核武器相关零部件。

分析师拿到这个结果之后，又让AI整理成一份格式完整的军事情报报告，整套文档编号齐全，专业术语齐全，在军队内部的审核流程一路通行，没有任何人发现不对劲。

一件事能不能信，不能只看文件长得规不规范。一份看起来正规的报告，不代表里面的内容就是真实的，很多人拿到排版工整的材料，下意识就降低了警惕，不会再回头核对最原始的基础信息。

美军这套情报审核流程，能检查报告格式对不对，却缺少核验底层原始信息的环节，只要文档符合模板，就容易顺利通过层层关卡。

行动马上就要启动的时候，一名负责复核的官员，打算回头看看这份情报最开始的原始资料，细细翻看之后才发现，所有核心结论没有任何实地证据支撑，全部来自AI生成的虚假内容。

一旦当时的登船行动落地，一场局部冲突很容易向外扩散，带来难以预估的连锁反应，好在最后关头，这一次复核拦住了危险的行动。

这样的乌龙，并不是美军第一次碰到，今年2月28日，美伊冲突刚开始，一枚战斧导弹击中伊朗南部一所女子小学，造成上百名孩子遇难。

事后核对信息，才知道AI系统调取的数据库，信息已经过时十多年，错误把学校标记成打击目标，机器读取老旧信息，直接造成无法挽回的人员伤亡。

机器生成的内容，本身就会存在编造信息的情况，很多大模型都会出现这种凭空编造细节的现象，工具本身只能根据已有的文本输出内容，它没办法实地去核实一件事的真假，也不会主动说出自己不清楚相关情况。

把关系大量人员安危的军事决策，交给这类工具辅助，就需要设置多重人工把关的环节，往前回看1993年的银河号事件，当年是人工撰写情报，美方靠着单方面说法拦截船只，最后翻遍集装箱，没有找到所说的化学武器原料。

三十多年过去，编造信息的方式发生变化，从人工手写报告，变成机器快速生成完整文档，制造虚假信息的速度快了很多，花费的时间成本变得很低。

就在曝光这份AI假情报的同一时间段，还有一件有意思的事情被媒体发现。英国官方公告网站，选用了阿里的通义千问模型，而就在这之前，FBI还公开表态，声称阿里抄袭美方相关技术。

两件事情放在一起，能看出产品选用的底层逻辑，在实际使用场景里，大家优先考虑好不好用，成本能不能接受，数据能不能妥善保存。

不同国家在把智能工具用到安全相关领域时，采取的做法并不一样，有的方向是优先提升处理速度，压缩从发现目标到采取行动的整套流程。

有的方向，会优先留出足够的人工校验环节，重点排查虚假信息，练习识别机器编造的内容，工具本身没有好坏，关键在于使用它的人，有没有搭建好配套的核查机制。

一件工具效率越高，配套的检查步骤就越不能简化，速度提上来之后，一旦源头信息出错，错误会飞快顺着整套流程传递下去，越是重大的决策，越不能只依靠机器给出的结论，人的复核和校验，始终是一道不能省略的防线。

文中事件相关素材综合整理自央视新闻、环球网等公开报道，分析仅代表个人观点。