“AI换脸”诈骗，怎么防？

发表评论
1 views

A+

所属分类：经验总结

摘要

公司老板遭遇AI换脸诈骗 10分钟被骗取430万元

AI换脸冒充明星带货律师：或涉嫌侵权

点开直播间乍一看，卖货的竟是当红女星。再定睛一看，“明星”其实是使用人工智能（AI）实时换脸技术的普通主播。他们冒充明星艺人，只为增加卖点，助力卖货……

近期，“AI换脸”的应用范围越来越广，但存在滥用之嫌，甚至有人利用AI换脸实施犯罪，例如伪造不雅视频、换脸诈骗等。前不久，就有一男子因AI“偷脸”，10分钟被骗430万元。

如此以假乱真，让人防不胜防。“AI换脸”的法律边界在哪？普通人又该如何防范？

公司老板遭遇AI换脸诈骗

10分钟被骗取430万元

近日，内蒙古包头警方发布一起利用AI实施电信诈骗的典型案例。

来自福建的郭先生是一家科技公司的法人代表。今年4月，他的好友突然通过微信视频联系他，称自己的朋友在外地竞标，需要430万元保证金，想借用郭先生公司的账户走账。

基于对好友的信任，加上已经视频聊天“核实”了身份，郭先生在10分钟内，先后分两笔把430万元转到了对方的银行账户上。

事后，郭先生拨打好友电话才得知被骗，原来骗子通过AI换脸和拟声技术，佯装好友对其实施诈骗。“当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备。”郭先生事后说。

AI换脸冒充明星带货

律师：或涉嫌侵权

除了佯装“熟人脸”实施诈骗，AI换脸还可能出现在直播带货中。最近，网上出现了一些“换脸直播”教程，教程发布者声称实时变脸软件可以帮助用户轻松“变脸”，极大地助力引流卖货。

在一个展示换脸直播效果的视频中，使用者把名为“成龙”的模型载入相关软件后，摄像头前的人在直播画面中就有了与成龙相似的五官，但脸型和发型还保持原样。

记者发现，使用者歪头或变换表情时，五官动效切换得自然顺滑，只有手掌从脸前划过时，出现了比较明显的破绽。

“AI换脸”诈骗，怎么防？

发布者展示换脸为“成龙”的实时效果和软件界面（视频截图）

北京岳成律师事务所高级合伙人岳屾山表示，换脸直播用于公开传播可能涉嫌侵犯相关明星艺人的肖像权。如果涉及直播带货等商业行为，会成为加重情节。

岳屾山解释，只要未经肖像权人同意，在直播中通过技术手段把自己的脸换成了明星的脸，就是对明星肖像的侵权。根据不同情况，承担的后果可能不同。即便只是娱乐，不涉及盈利行为，也属于侵权。如果把明星肖像用于带货直播，属于是商业行为，在赔偿数额上一定会给予考虑。如果主观恶性、过错程度比较大，且因此获利，赔偿数额可能会更高。

记者注意到，一些使用换脸技术的直播并不会直接提到相关明星艺人的名字，但也不会主动声明或者否认。岳屾山认为，该行为涉嫌欺诈或是虚假宣传，让公众误以为就是明星在带货。如果货品本身质量不好，或者主播在带货过程中说的话或行为导致公众对被换脸的明星产生负面评价，明星可以主张名誉权的侵权责任。

AI技术存在滥用风险

务必保持防范意识

为规范人工智能发展，去年12月，《互联网信息服务深度合成管理规定》正式发布，明确了合成数据和技术管理规范。其中提到：深度合成服务提供者对使用其服务生成或编辑的信息内容，应当添加不影响使用的标识。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。

近期，也有平台和企业发布了“关于人工智能生成内容的平台规范暨行业倡议”，明确禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等，一经发现，平台将严格处罚。

对于个人而言，除了在形形色色的“明星脸”中保持清醒，避免陷入虚假宣传，更重要的是面对花样翻新的AI诈骗，必须保持防范意识。

保护信息，提高警惕。不要轻易透露自己的身份证、银行卡、验证码等信息，不要轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等；

多重验证，确认身份。如果有人自称“熟人”“领导”等通过社交软件、短信以各种理由诱导汇款，或涉及网络转账交易行为时，务必通过电话、见面等多途径核验对方身份，不要未经核实随意转账汇款；

如不慎被骗或遇可疑情形，请注意保护证据，并立即拨打96110报警。

整治AI换脸

要用“法”打败“魔法”

“短短10分钟，被骗430万元”“换脸冒充当红女星带货，赚得盆满钵溢”……这种“换脸”术和拟声术，让人防不胜防。如此种种，无不说明换脸术的滥用，已经对公共利益构成威胁。

整治AI换脸，当用“法”打败“魔法”。

这个法，是方法、办法的法。有人说，防骗最有效的一招就是不信，无论对方怎么“换”、怎么变、怎么翻着花样骗，就是“不听不信不转账”。最关键的是，优化“打法”，升级高招，用更有效的方法“破防”。“魔高一尺，道高一丈”，面对骗子的新招数，我们的反诈术、防骗方法更要优化，总结出富有成效的好方法，并做好宣传普及，构筑反诈防骗的全民阵线。

这个法，也是法规、法律的法。此前，一款主打AI换脸的App很火，“只需一张照片，演遍天下好戏”。但很快，在监管部门约谈后，这款App下架，原因很简单，如此换脸侵犯了公民的肖像权。去年12月，《互联网信息服务深度合成管理规定》发布，对人脸生成、替换、操控，合成人声、仿声等都有明确约束。显然，随着制度设计更精准，相关立法更健全，AI换脸空间将越来越逼仄。

AI换脸术滥用，也促使大家思考一个深层次问题。新技术不断面世，带给了人们便利，但可能被居心叵测之徒非法利用。人们固然不能因噎废食，但也不能忽略它的双刃剑效应。如果缺乏应有规束，AI换脸则可能打开潘多拉魔盒。因势利导，使其趋利避害，这是我们要全力做到的。

来源：央视新闻综合中国之声

本期编辑：李娜、方梓祎

觉得好看，请点这里↓↓↓

本篇文章来源于微信公众号: 人民日报

“AI换脸”诈骗防不胜防？要用“法”打败“魔法”！

点蓝色字关注“央视新闻” 点开直播间乍一看，卖货的竟是当红女星。再定睛一看，“明星”其实是使用人工智能（AI）实时换脸技术的普通主播。他们冒充明星艺人，只为增加卖点，助力卖货…… 近期，“AI换脸”的应用范围越来越广，但存在滥用之嫌，甚至有人利用AI换脸实施犯罪，例如伪造不雅视频、换脸诈骗等。前不久，就有一男子因AI“偷脸”，10分钟被骗430万元。如此以假乱真，让人防不胜防。“AI换脸”的法律 […]
注意！这些学术期刊诈骗网站被关停

⇧点蓝色字关注“央视新闻” 近日，中央网信办举报中心根据网民举报线索，会同相关部门依法受理处置一批仿冒学术期刊诈骗网站。这些仿冒网站页面与国内一些高等院校、科研院所等主管主办的学术期刊网站页面内容相似性很高，并冒用其名义对外发布约稿通知，诱骗作者投稿，借机收取所谓“审稿费”“版面费”敛财牟利，严重侵害网民合法权益，扰乱正常学术论文出版秩序。仿冒学术期刊网站名单滑动查看↓ 经梳理发现，这些仿冒 […]
报告 | 星图数据：2023年双十一全网销售数据解读报告（附下载）

采编：互联网的一些事（imyixieshi）加入互联网的一些事知识星球，获取完整报告！第十五个双十一落下了帷幕，今年双十一，各平台不约而同地以“低价”为核心，力图以最优惠的价格回馈消费者，体现出了对双十一初心的坚守与尊重。淘天集团把“全网最低价”定为核心目标，用“全网低价”“动态比价”为消费者充分享受购物的乐趣保驾护航;京东除了直接将主题定为“京东11.11真便宜”，更是主推“现货开卖”及“全 […]
火灾致死主因，竟不是烧伤？！收藏！这些技能，学会能救命→

11月9日是我国消防安全日，这些必备的消防安全知识和不同场景的逃生自救技能，一起学习起来吧！火灾致命的主要原因是什么？许多人认为火灾导致死亡是因为被火烧伤致死，其实并非如此。统计资料显示，火灾导致死亡的主要原因是吸入性损伤。这种吸入性损伤是火灾造成的“内伤”，皮肤的烧伤是“外伤”。内伤往往比外伤更严重，也更加难治。火灾中的吸入性损伤主要是指由于吸入高热的或含有化学刺激物质的烟雾造成的呼吸道损 […]
当我们在谈排版时，我们在谈些什么？

换个角度看文化之前有答应过，要做一期关于排版上的内容（会迟到但不会缺席），在整理了后台的问题之后，就决定作一篇初级、简单、实用的，可以让新手简单排出好看版面的文章。希望这次的内容，能像这次的排版一样，简单，但是有用。 Q1 刚开始做排版，需要用到哪些排版工具？ A: 秀米、135editor、i排版，这三个都是不错的选择，或者直接用微信自带的排版功能，也是可以的。秀米为可视化模块，另两个是所见 […]
别再把肉直接泡水里解冻了！这3种才是正确方法

你家冰箱里是不是冷冻了很多肉？吃之前通常会如何解冻呢？很多人习惯把肉提前泡在水里解冻，有的泡温水，有的泡凉水，有的用水冲的。说真的，别再把肉直接泡在水里解冻了，这种做法真的不可取！ 1 为什么不建议把肉直接泡在水里解冻？跟把肉类放在室温下慢慢解冻相比，把肉放进水里泡，或者用水冲，操作不仅简单，解冻速度也快得多。但你可能不知道的是，把肉直接放水里解冻，不仅会让肉的品质下降，还存在安全风险。 […]