AI突然能写新闻能看病能教孩子了，

监管跟得上吗？

新规则真能管住骗子和乱说话的机器？

最近刷短视频，老刷到AI生成的“专家解读”，点开一看全是假模假式；朋友妈接了个“儿子”视频电话，声音一模一样，结果是骗子用AI换脸+拟声搞的，差点转走五万；还有同学用AI写论文，参考文献全编的，老师查了三天才发现——这些事不是段子，是网信办2月刚点名通报的真实案例。

浙江那边动作挺快，去年底发的AI标准指南，今年春天已经压到企业头上，比如AI客服必须标清“我是机器”，生成的合同模板得带置信度分数，不是“可能”“大概”，而是写明“依据2023年浙江工伤条例第7条，准确率91%”。我没看懂全部，但知道这回不是喊口号，是真贴着产品过筛子。

《网络安全法》4月起新增的AI条款，其实就四句话：支持基础研究、建算力基建、立伦理规范、抓风险监测。

听着平，可细想不对劲——以前讲“安全”就是封端口、防黑客，现在把“支持研究”和“建基建”也写进法律，等于说：不许光堵漏，还得搭桥。

药监局对AI医疗器械的要求更实在，2030年前只允许AI辅助看片，不能单独下诊断；2035年才开放部分决策权，中间十年全是“人盯机器+全程留痕”。

AI诈骗现在查得紧。我表哥在电信公司做后台，说现在所有通讯APP调用AI换脸、拟声功能，必须走国家反诈平台的API密钥，没密钥调不了。

开发这类工具的公司也得备案，还得在代码里埋防滥用模块，比如自动限制单日换脸次数、禁止合成未成年声音。不是管不死，是把开关装进了代码里。

数据这块，我试过几个AI记账APP，以前点开就索要通讯录和相册，现在不点“同意数据用于训练”就进不去主界面，而且弹窗里真用大白话写了：“你拍的发票照片，我们只存7天，不喂给大模型”。

国家网信办刚发的“训练数据负面清单”里，明令禁止用原始人脸图、未脱敏的体检报告训练模型，违者直接下架。

幻觉问题最烦人。我妈用某款AI健康助手问高血压能不能喝红酒，它回“适量有益”，可药监局查了发现它引用的那篇论文早被撤稿。

现在新规强制这类服务必须输出置信度，还要加一句“此建议不能替代医生面诊”。更狠的是，如果它乱说导致用户停药出事，服务商得赔钱，不管有没有主观故意。

浙江试点挺实在。有家工厂让AI管排产，但系统每改一次调度方案，必须弹窗让班组长点击“确认”，不然不执行。

教育局也发了通知：AI作文批改可以，但学情分析、升学建议必须老师签字。人机之间，真划了一条线。

公务员考试新加了AI核查题，我舅去年考城管，卷子上有一道题是分辨三张“某地火灾现场图”，其中一张是AI生成的，烟的方向反物理规律。

社区也在发防骗包，我奶奶领了一台小盒子，插上手机就能检测来电是不是AI拟声，试了试，真能听出破音。

AI智能体刚冒头，还没成气候，但浙江已经出了地方标准：比如外卖骑手接单用的AI助手，不能自行改配送路线，调高超时罚款比例，这些必须人工授权。

法律人格还在研究，但一句话定调：谁家的AI惹祸，谁家负责。

算力中心也开始被盯上了。杭州一家智算中心因PUE太高、机器空转率超三成，被暂停了半年的政府项目投标资格。

工厂用AI省下的人工成本，浙江规定15%必须进员工培训基金，我邻居在汽配厂，上周刚领了免费AI质检员操作证。

这些事没一个靠“加强重视”“提高认识”推动，全是靠备案、密钥、弹窗、下架、扣分、暂停资格这些硬动作。

网信办通报里写的“某平台未标注生成内容，罚款87万元”，连小数点后两位都列得清清楚楚。
药监局文件写得很淡：“AI是工具，不是医生。”

工信部文件也简单：“先让轻量模型跑起来，别老堆参数。”没人说AI多厉害，只说哪一步该谁盯、怎么盯、盯不住怎么罚。

我删掉了三个AI聊天APP，留了一个能查药品说明书的，因为页面右下角真有一行小字：“本回复基于国家药监局2025版数据库，置信度94%，原始数据来源可追溯。”

就这。