不到一年，被捧上神坛的 "英雄" 成了 "人人喊打的过街老鼠"，国家是时候出手管管 AI 了，而决不能一味地推崇推广，任何事物都是有利有弊的，科技就是把双刃剑。

你还记得去年那股劲儿吗？随便打开一个APP，都在说AI要改变世界。写文案、写代码、看病，连谈恋爱都有人找AI。资本砸钱，企业跟风，媒体造势，好像谁不说AI就被淘汰了。结果呢？才过去多久，脸就被打肿了。

今年7月到8月，美国三家AI巨头接连出事，OpenAI承认，它的GPT-5.6 Sol在内部测试中失控，自己发现了一个没人知道的漏洞，突破隔离环境连上互联网，直接攻击了另一家公司的系统。

紧接着Anthropic和Meta也承认，自家模型干了类似的事，英国人工智能安全研究所更狠，报告说他们测试的AI智能体居然会伪造身份，主动联系真人，发文件骗人家运行恶意代码，被质疑后还修改记录，换个马甲继续干。

以前我们担心AI胡说八道，现在AI已经能自己动手干坏事了。

这还只是技术层面的翻车，跟普通人关系更大的，是AI已经成了骗子和造谣者的工具。

今年上半年，有人用AI生成 "张家界大峡谷玻璃桥坍塌" 的假视频，五一前发出去，吓得游客纷纷退票，人虽被抓，但恐慌已经散出去了。

还有人造假说8家新能源车企被约谈立案，逼得中汽协紧急辟谣。

更离谱的是，有MCN机构用AI一天能生成四千到七千篇假文章，靠八百多个账号批量发，你以为在看新闻，其实看的是机器编的垃圾。

诈骗就更直接了，财务张女士在办公室接到 "老板" 的视频通话，五官、声音、神情跟老板一模一样，对方催她转186万，她没多想就转了，转完才知道被骗。

还有团伙用AI生成 "完美大叔" 直播，专骗45岁以上单身女性，不到一年骗了一百多万，五十多人中招。

国家反诈中心数据显示，2025年一季度全国AI换脸诈骗案环比涨了45%，以前骗子还得学技术，现在下个APP就能干。

连医院都没能幸免，今年7月，北京协和医院发声明，说网上传的 "多名护士十年间为患者垫付医药费" 的感人故事，全是AI编的。

AI连正能量都能造假，还有什么不能编？法律领域更是重灾区，律师用AI找判例，找出来的案子根本不存在，2025年美国一个案子里，AI引用9个案例8个虚构，律师直接被罚款吊证。

那问题来了，为什么去年还在吹，今年就集体翻车？说到底，就两个字：资本。

AI太烧钱了，一家公司一年烧几十上百亿美元是常态。怎么让投资人继续掏钱？就得讲故事，就得吹，你说你的模型强，我说我的能颠覆世界，实在没东西吹了就开始吹风险，你看我家模型都能自己攻破系统了，厉害吧？这背后其实是生意。

有专家直接挑明，所谓 "模型太强大所以暂缓发布"，本质就是恐惧营销，跟 "宣称造了炸弹要炸你，转头又向你推销防空洞" 是一个路数。

更关键的是，AI的能力已经变了，以前AI就是个聊天的，最多编点瞎话。现在智能体出来了，AI 从 "回答问题" 变成了 "执行任务"，它能自己上网，自己调用工具，自己敲命令，甚至能拿到系统级权限。

风险从 "说错话" 升级成了 "做错事"，而且是自动的、大规模的、拦都拦不住，一个配置错误，模拟攻击就变成真实入侵，这不是危言耸听，是已经发生的事。

好在国家已经看清了这一点，没有跟着瞎起哄。就在今天，中央网信办明确说，当前AI主要面临五方面安全风险：技术先天脆弱、模型极端失控、应用形态快速演进、误用滥用恶用、全球技术霸权，条条戳中要害。

这两年监管的手一直没停，《生成式人工智能服务管理暂行办法》早已施行，今年4月十部门出台 AI科技伦理审查办法，5月三部门印发智能体治理意见，7月AI拟人化互动服务管理办法正式生效，新修订的网络安全法也专门加了AI治理条款。这套组合拳，就是要给AI套上缰绳。

但光有法规还不够，执行得跟上，平台得尽责，用户也得清醒，AI是个好东西，能提高效率，能辅助决策，能帮我们干很多以前干不了的事。但好东西不等于可以放任不管。

汽车好用吧？但你得有驾照，得上牌，得遵守交规，闯红灯扣分，酒驾坐牢，AI也一样，不能因为它新、它热、它能赚钱，就什么都不管，等出了大事再亡羊补牢，代价太大了。

所以说，从神坛到泥坑，这一年AI走的这条路，给所有人上了一课，别迷信，别盲从，别被资本的故事忽悠了。该发展发展，该监管监管，两条腿走路才稳。

国家出手管AI，不是打压创新，恰恰是为了让创新走在正道上，让技术真正为人服务，而不是反过来，让人被技术牵着鼻子走。