警惕AI换脸拟声技术诈骗
来源： 新京报时间： 2025-08-04
前不久，“AI孙燕姿”“AI王菲”们爆火出圈，成为短视频平台新一轮的流量密码。与此同时，能以假乱真、掩人耳目的AI技术也在频频触及法律红线。近日，北京市通州区人民法院调研发现，平台流量背后有人正在利用AI换脸拟声实施不法行为，如伪造不雅视频、换脸诈骗等。
AI违法行为防不胜防，民事方面易引发肖像权等侵权行为，刑事方面易引发诈骗罪、侵犯公民个人信息罪等犯罪行为。据此，通州法院法官通过两起典型案例揭示AI技术乱象背后的法律问题，以能动司法击败“AI魔法”，提醒公众提高维权和反诈意识。
案例1
利用AI技术使用他人形象视频
涉事公司构成肖像侵权被判赔
陈某在某网络平台注册账号，发表诸多唯美造型视频，有粉丝上万人。某公司利用AI技术运营某款APP，该APP向用户提供拍摄视频时的提词功能以及提供面部替换的视频模板。某公司未经陈某许可在该APP中使用陈某发布在其账号中的多个唯美视频作为视频模板，供软件用户进行面部替换。陈某发现后提起诉讼，某公司删除相关视频。
法院经审理认为，某公司运营的该款APP具有明显的商业属性，其未经陈某许可使用陈某个人形象视频进行运营，并非法律规定的合理使用，对陈某构成肖像侵权，应承担相应的侵权责任。判令被告某公司在该APP首页置顶处刊登道歉声明向原告陈某赔礼道歉，并赔偿陈某1000元。
法院调研发现，AI换脸拟声技术用于商业盈利时极易引发肖像权、姓名权等人格权纠纷，一些营销短视频、音频的商家经常在未经当事人许可和同意的情况下进行换脸、换声操作，以此获利。这种行为属于侵权行为。
法官介绍，人格权是民事主体享有的生命权、身体权、健康权、姓名权、名称权、肖像权、名誉权、荣誉权、隐私权等权利。自然人享有肖像权，有权依法制作、使用、公开或者许可他人使用自己的肖像。肖像是通过影像、雕塑、绘画等方式，在一定载体上所反映的特定自然人可以被识别的外部形象。任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。
法官提示
如遭遇被换脸、换声的民事侵权行为，要有主动维权意识，要关注侵权方相关作品发布时间、数量、范围，主动搜集网站/APP截图、音频、视频等作为证据，向侵权方提出严正交涉，积极运用法律途径维护自身合法权益。如在本案中，法院经审理查明某公司的行为构成肖像侵权，不仅判令某公司公开赔礼道歉，并且要求某公司赔偿损失。击败“AI魔法”，交出公正答卷，人民法院随时严阵以待。
案例2
用AI智能软件诈骗近百万 四被告人获刑
2022年2月，被告人郭某在A省某区成立未经审批登记的“公司”，并雇用被告人黄某、江某、田某等人通过某AI智能软件筛选有意向炒股的股民“资源”（被害人），用于出售给下游公司获利。郭某负责将其员工筛选、添加好的股民微信提供给其他同伙的“公司”进行电信网络诈骗活动；其他同伙负责用微信小号进行角色扮演，对所谓的炒股资深专家“王某”进行吹捧以取得被害人信任，诱导添加了微信的被害人在虚假投资平台上投资，以此骗取被害人的投资款。至2022年7月，郭某等人共骗取投资款人民币近百万元。法院经审理认为，被告人郭某构成诈骗罪、侵犯公民个人信息罪；黄某、江某、田某等人构成非法利用信息网络罪。
法官指出，AI犯罪手段越发高明，犯罪分子通常会通过AI技术进行声音合成和换脸，并用AI程序筛选受害人，再用盗号或角色扮演等方式骗取信任，甚至生产出定制化的犯罪脚本，进一步实施不法行为，受害人往往难以在第一时间分辨出真伪，落入违法者圈套。这种违法犯罪形式往往构成多种罪名，最终被数罪并罚。
法官表示，违反国家有关规定，向他人出售或者提供公民个人信息，情节严重的，处三年以下有期徒刑或者拘役，并处或者单处罚金；情节特别严重的，处三年以上七年以下有期徒刑，并处罚金。诈骗公私财物，数额较大的，处三年以下有期徒刑、拘役或者管制，并处或者单处罚金；数额巨大或者有其他严重情节的，处三年以上十年以下有期徒刑，并处罚金；数额特别巨大或者有其他特别严重情节的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
法官提示
警惕此类AI犯罪行为，如遇“微信好友通过视频借款”情形，切记多渠道核实“好友”身份，勿轻易转账，如您已经转账，及时报警或拨打反诈中心电话96110；如遇“低风险高回报的投资理财”情形，莫存在侥幸和投机心理，为了所谓高回报的收益，轻易将钱款转账至不明来路的“投资平台”。理财要通过正当合法手段进行；如遇“×××邀请您进入群聊/视频会议/直播间”情形，不要轻易加入全是陌生人的微信群聊、视频会议，容易陷入犯罪分子提前制作好的角色扮演和犯罪剧本之中，成为待宰羔羊。（记者 薄其雨）