编辑丨饮月文丨饮月有人总以为电脑里装个AI就找到了发财捷径，甚至觉得让机器写点见不得光的东西能瞒天过海，结果费尽心机赚了区区两万块钱，转头就换来十个月的铁窗泪。

别以为“字是电脑打的”就能金蝉脱壳，AI技术说到底就是一把数字菜刀，切菜还是伤人全看拿刀的手，违法犯罪的责任永远在人而不在机器！
图源：陕西网警
今天就用这些刚判不久的真实案子，让大家看清AI时代的法律红线到底划在哪。

借着AI画皮搞诈骗、造黄谣，“技术中立”保不住违法黑手
最近几年，网上冒出不少让人大跌眼镜的新闻，有的不法分子自以为学会了“换脸”、“变声”就拿到了免死金牌，在网上胡作非为。

在山东宁阳，就发生过这么一起真实的荒唐案子，一个早已结婚生子的中年妇女孙某，现实中欠了一屁股网贷，居然动起了歪脑筋。
图源：陕西网警
她通过AI合成了一张年轻漂亮的假身份证，再用AI换脸技术把假脸做成能动、能眨眼的视频，愣是把自己包装成了身家优渥的“富家千金”。

她用这个虚假形象在网上跟一个男士谈了多年“恋爱”，以交社保、买手机、看病等各种借口，陆陆续续骗了对方13万多元。

等到催债电话打到男方手机上，这场画皮戏码才被彻底拆穿，最后法院判得清清楚楚：利用AI换脸隐瞒真相、骗取钱财，数额巨大，直接构成诈骗罪，被判刑并处罚金。
图源：陕西网警
在江苏张家港，王某因为个人纠纷，利用AI深度合成技术，把几名受害女性的真实生活照与淫秽图片拼接起来，编造低俗谣言发布到网上，甚至发到受害人的工作群里。

这种造黄谣的行为给受害人的声誉和生活造成了毁灭性的打击，法院最终以诽谤罪判处王某有期徒刑一年三个月，让他为自己的恶毒行径付出了坐牢的代价。

有些人还自作聪明，觉得“图片又不是我画的，是AI自己吐出来的，能怪我吗？”在浙江余姚，几个前大厂程序员郑某等人，专门编写指令对AI大模型进行“越狱”，解开安全拦截机制。
图源：陕西网警
他们搭建了一个涉黄聊天软件，诱导用户充值积分，专门用AI批量生成了上万张淫秽图片和动态图，牟利十几万元。

结果法院认定他们对AI输出内容具有实质控制权，全伙按制作淫秽物品牟利罪判刑，领头的获刑三年多。

法律惩治的是心怀叵测的作恶者，屏幕背后敲键盘的真人才是违法后果的最终承担者。

动动手指“一键生图”，别妄想把公共素材变成自家私产图源：陕西网警
除了违法犯罪，现在还有很多打着“版权”旗号到处碰瓷的人。

有人在电脑前输入两句大白话，花两秒钟生成一张图片，转头就声称自己是“原创艺术家”，只要别人用了就索赔上万元。

在江西鹰潭，崔某在软件里输入了一句描写霜降节气的风景文字，软件随机生成了四张图。
图源网络
崔某选了一张发在网上，后来发现一家公司公众号用了这张图做配图，便把对方告上法庭索赔。

法院经过严格测试发现，同样的关键词每次输入生成的图片都不一样，崔某既没调整参数，也没参与任何绘画构图。

法院明确判定：这属于机器随机产物，没有体现人类的独创性劳动，根本不属于著作权法保护的“作品”，直接驳回了全部诉求。
图源网络
在河南也有类似案例，小徐用“清明节，幼儿园小朋友扫墓的场景”这段简单提示词让AI画了张图，随后起诉一家用了该图的小学侵权。

法院同样驳回了，理由很简单：缺乏个性化的构思与设计，不构成作品。

在江苏扬州中院审结的蛇形玩偶纠纷案中，原告输入“卡通蛇、毛绒质感、3D”生成图片做成玩偶，起诉别人仿制。
图源网络
法院指出，这种简单提示词完全依赖算法的随机性，生成过程使用者无法精准控制，同样不享有著作权。

甚至在上海黄浦法院审理的案子里，有公司主张自己写的那几句“水母+手稿+对称”的提示词本身享有版权，也被法院当场驳回。

AI充其量只是一支高级画笔，不注入人类深度的智力构思与实质性修改，机器吐出的东西就绝不能被个人独占。
图源网络
如果把随便按几下键盘吐出来的东西都赋予版权，那以后谁说一句话、搜一张图都可能侵权，真正的文化繁荣和艺术创作反而会被彻底扼杀。

机器“打胡乱说”谁背锅？平台尽到责任就不该无限买单
用过AI的朋友可能遇到过这种情况：你向它打听某个人或某件事，它说得有鼻子有眼，细看全是瞎编的。这种现象在技术上被称为“AI幻觉”。

那么问题来了，如果AI在回答中无中生有，对某些人或企业造成了负面影响，开发这个AI的平台是不是得负全责？
图源网络
在全国首例“AI幻觉”侵权案中，原告梁某发现某AI软件在生成的内容中包含了关于自己的不实信息，于是起诉该人工智能公司侵犯其名誉权。

法院审理后认为，人工智能在法律上不具有独立人格，更没有主观恶意；审理这类案件适用过错责任原则。

涉案平台在服务协议中已经向用户明确作出了“AI生成内容可能存在局限性和错误”的显著风险提示，且在现有技术条件下，完全避免生成偏差在技术上并不具备可能性。
图源网络
最终法院认定平台已经尽到了合理注意义务，不具有过错，不构成侵权。

在今年最高人民法院发布的《关于依法审理涉人工智能纠纷案件的意见》中，也明确了这一审判逻辑：对平台的责任认定要看其应用场景、技术透明度以及是否采取了合理的预防措施。

开车的司机违章撞了人，不能要求修路造车的厂家无限兜底；只要平台守法履责、充分预警，法律就不会盲目苛求其承担无边界的责任。
图源网络
科技发展需要容错空间，如果要求平台为每一次机器算力的偶然差错承担无限赔偿，那所有的科技企业都将举步维艰，新技术的研发和普及也将陷入停滞。

普通人过日子，如何守好钱袋子、看透AI新套路
聊了这么多判决，可能很多中老年朋友会问：这AI听着神乎其神又容易惹祸，咱普通人平时过日子该怎么防范？

网络视频电话“眼见不一定为实”，现在有些骗子专门用AI换脸冒充亲戚、老同学，在视频里打个照面就借钱、要转账。
图源网络
遇到任何熟人甚至自称公检法的人在网上要钱，千万别看一眼视频就信了。

最管用的办法就是挂掉电话，直接拨打对方平时的手机号，或者让对方做几个特定动作、问几个只有你们两个人知道的私密细节。

警惕“假专家、假名医”在直播间忽悠卖药带货，最高法最新意见特别强调，严惩利用AI仿冒名人进行虚假带货和欺诈的行为。
图源网络
网上那些嘴皮子利索、看着像某个大名医的视频，很多其实都是套用模板合成的假人，看病买药认准正规医院和药店，千万别轻信网络“神医”的连珠炮推销。

自己使用AI工具时，牢记法律底线，如果你平时也用AI写写文章、做做图，千万别指望随便敲两句话就能把结果拿去四处维权收钱。

更不要出于恶搞或好奇，拿别人的照片去换脸合成搞笑甚至低俗的视频，网络空间不是法外之地，你点下的每一个确认键，都连着沉甸甸的法律责任。