ai换脸造成乱象原因及对策

大家好，这里是章节财经观察。呃，今天我们再说一下这个对于人脸识别啊，人脸 ai 技术啊的一个滥用。这个滥用讲的是什么呢？ 啊，他把这个人脸呢，利用这个人工智能的方式啊，他做嫁接移移植，而且呢，通过嫁接移植呢，呃，谋利对吧？呃，你呢可以嫁接别人的脸呢啊，做出了很多的视频， 呃，这个视频的话，呃，去播放，播放以后呢，赚取利益。当然这个事啊，呃，这个案件当中呢，他可能没有直接的， 呃，就是说搞一些电炸的那个，或者什么敲诈勒索呀，或者呢有直接的那个当事人呢，跳出来，因为这个案子呢， 是变成了一个公益诉讼。而且这个是啊，我们看到了一个案例以后呢，我们觉得这个案例对于中国的 有关问题的认识有很大的影响。所以我们就把这案例呢要说一说。其实先看看这大概这个案例的情况。杭州啊，互联网法院审理的这个案件，这是个公立诉讼， 那起诉人呢，是杭州市萧山区人民检察院啊，诉于某个人信息保护民事权益啊，公益诉诉案那个。而且呢案件呢，公开审理要判令被告于某删除非法获取的个人信息，公开赔礼道歉啊，消除影响并赔偿损失 啊，六万元。然后呢，被告于某啊，服从判决，已经履行道歉赔偿义务啊，公诉人的诉称呢， 就是在履职过程中啊，就发现呢，二零二一年左右，以某某某以谋利为目的，在未取得呃，被编辑人同意的情况下，利用 i 换脸软件非法处理他人人脸信息， 将他人人脸信息与部分视频中的人脸信息进行替换合成，制作成虚假的换脸视频。 上述行为侵害了承载在不特定多数社会主体个人信息之上的公共信息安全，破坏社会公共秩序，构成对公共信息安全领域公共 的社会公共利益的侵害。呃，故向杭州互联网法院提起民事公益诉讼，判令被告赔偿责任。然后被告也表示扶判，那个深感后悔。这案件被 公开也判决了以后，首先我们应该这么讲，有这种案件，有这个判决。呃，我们应该讲啊，比没有是一个非常重大的进步。我们首先要承认这个进步是巨大的，但是从另外一个角度来讲，他有其他的问题。 他其他的问题是什么呢？你首先你看这个赔偿金额很少对吧？就是六万。 呃，数额很有限。呃，同时呢，人家的话呢，干这事是个谋利的行为，这个谋利的行为，他破坏了一个公共的秩序，而且这个公共的秩序。 呃，咱们这么讲，破坏公共秩序的这个事呢，人家又要说那个口袋罪了，对吧？呃，那个就是原来的流氓罪，最后变成了 破坏公共管理秩序、破坏公共安全秩序、寻衅滋事等等的，分成好几个啊。他实际上就是破坏社会的管理。其实这种行为啊，某种印象讲，应该是犯罪行为，他涉及到好些层面的犯罪，对吧？呃，你从检察院的诉讼来讲呢，他把它变成了一个民事。 实际上对于这个行为人来讲，被告人来讲，他愉快的接受了这个处理。你知道这个处理很低啊，他愉快的接受了这个处理，他非常愉快，他就马上就。你要知道，如果是严格的话呢，这事他可以刑事处理的。 按理说是应该是刑事处理的，尤其是检察院，他本身就是刑事处理的。那对吧，有检察院来办这件事，就是可以刑事处理的。呃，公诉吗？对吧？他现在他变成了这个 民事处理。而且民事处理中国还有一个，就是民事已经处理完了的，一般来说不再作为刑事在处理了。你要知道他这个行为就完了。你就一般来说呢，呃，不会再追究刑事责任了。他是追究了刑事责任以后，他有民事责任的话，可以追究民事责任。你民事责任追究完了 啊，不太追究刑事责任。呃，这是一般这个规则啊，按照先行后名等等等等等等。也就是这个案件呢，就变成了一个民事行为，而且类似的事啊。呃，杭州 应该比较多。某种人讲说是处理，某种人讲是保护。因为你这么处理完了以后，你就不能外地警察再来抓他了，否则他侵害了以后，在网上你看吧，他网上如果侵害的是一个呃，外地人或者干什么，人家外地看见了，呃，外地 警察就可以抓他了。你看外地警察到杭州执法的时候，前面不是还出过一些故事吗？对吧？这个警察之间还有一些冲突，他只要是这边变成什么呢？杭州已经判了， 这个行为就完了。呃，外地的其他地方的公安呐，检察院呐，都不能处理他了。你知道吗？明白，这个里头的保护的意义是很大的。 而这个真正的你这个人脸识别，你弄了这么多，呃，尤其好多时候啊，他那个哎，换脸他你大家可能一开始就想到什么黄色的什么的，我跟你讲，真是黄色的， 他肯定是行事行为了。他好多不是黄色的。那个杭州多的。你换个脸推销点产品，很多的。呃，人家都是那个什么电商嘛，电商之都啊。呃，大家 慢慢理解这个都对吧。那个萧山是个什么地方啊？那电商之都啊，好多电商的时候的话呢，他解决这些，他的一些产品推广啊，干个什么的。呃，他给人换换脸对吧？他那个可能原来明星做的呃什么的他换一下干什么的，或者其他的话， 呃，来回植入一下。那么你可能啊就很难找到他是原来是什么样子。他这个清泉呢，呃，不容易抓 他容易呢挥避别人对他的侵权的指责对吧？你就算的话呢，你那个呃，我在这讲什么，把我脸换一下，你看着别人的那个样子挺。 呃，身体是跟你差不多，但是呢，声音再变一变，你知道是谁呀，对吧？尤其是的话呢，有些产品的推广你也不好说。你家 你那个内容上他就侵权对吧？他内容上他是介绍这产品。呃，谁介绍都是一样，都是念说明书。呃，说明书没版权。呃，里头还有各种样的故事啊， 所以这个事啊，呃，处理了，我们觉得是个很大的进步，但是怎么处理，我们觉得好些事还是刑法不能缺位。这个刑法对于这个 aa 换联下边怎么样子去做，对吧？ 呃，然后呢？这个里头对于这个网络上这。哎，换脸这哪个地方去处理，哪个地方去抓。呃，也有好多故事，就是网络的。现在对于网络好多问题啊。管管辖权泛化 确实是一个问题，但当年呢，你有些时候也不得已，因为你不那样的话呢，有可能好多网络的侵权，中国就没有关联网络关 往下全了，他全是在境外操作，对吧？所以现在呢，有些事啊，网络的好多事呢，存在一些两难的困境。呃。而且呢，呃，对一些事，你到底该怎么去认定？好多你看吧，这种破坏。呃，工序量俗的。呃，事情， 你在线下呢，好多都是犯罪了，到线上呢，就拍马飞马了。呃，对吧？呃，所以线上这些事该怎么定？呃，下边啊。呃，其实有关的司法解释还是要跟上的，因为这个技术发展的太快。 呃，反正信息学扰乱定律我说过好多遍了。那个，所以现在呢，我们的各种司法立法也要及时的跟进。呃，谢谢观看本期视频，就跟大家分享到这，再见。

大家好，我是杨慧律师。近年来，人工智能换脸走红网络，只要下载某款软件，就能轻易把自己的五官投到原本出演的演员脸上，享受参演电影、电视剧、短视频的快感。但是，人工智能换脸，趣味性背后侵犯他人的权利。 一、侵犯肖像权。民法点明确规定肖像权受法律保护，禁止他人侵犯。二、侵犯民意权。通过人工智能换脸， 导致他人社会评价受损的，有可能侵犯他人的名义权。三、侵犯著作权。将换脸后的作品通过网络提供给公众，就可能侵犯著作权人的信息网络传播权， 致侵犯个人。公民个人信息。人工智能化同样也在收集用户的个人信息，存在侵犯公民个人的信息行为。 一旦发现自己的肖像被盗用或者对半脸，应采取以下措施一、收集证据。通过各种证据保全手段保存侵权图片或者视频，以便后续维权。二、向网络平台英明商提出投诉， 要求强制下架侵权图片或者视频。三、寻求律师的帮助，通过诉讼运用法律武器维护自己的合法权利。四、报警。随着网络技术发展，犯罪分子除了利用人工智能换脸、人工智能合成语音，更有通过人工智能技术筛选一片人权。 通过大数据和非法收集的个人信息实施精准诈骗，成为当前流行的诈骗行为，值得我们警惕和防范。如果遇到这种情况，应及时向公安机关报案，以免遭受侵害和损失。关注我们，带你了解更多的法律知识！

杭州钱塘新区公安部门抓获两名犯罪嫌疑人，他们在多个网络平台盗取了数千条个人信息准备倒卖。浙江徐州也破获了一起盗用公民个人信息案，犯罪嫌疑人使用盗用的信息注册某金融平台账号，非法获利数万元。 两起案件的犯罪嫌疑人都是利用 ai 换脸技术非法获取公民照片进行一定预处理，而后再通过照片火化软件生成动态视频，骗过了人脸核验机制得以实施犯罪的。以使用率较高的人脸识别解锁手机为例，科研人员用面具代替人脸进行了测试， 经过几次对比，手机被成功解锁了，这代表手机将面具识别成了人脸，因为我觉得人脸都识别了，就我没有什么隐私了。

ai 换脸正悄悄走过网络，但换脸呢，也伴随着法律风险和侵权纠纷。我们看一个真实案例，小罗呢是国内古风汉服的模特，经常在视频平台发布穿古风汉服的视频。最近就发现，上海某公司的运营的 ai 换脸的软件 含有自己拍摄的古风造型视频模板，用户可通过上传个人的照片，将视频模特中小楼的人脸替换成用户上传的人脸。 那除五官发生实质性变化之外呢，其余的内容啊，都和小楼原视频保持一致。法院认为，依法点明确，将不得利用信息技术手段伪造等方式侵害他人的肖像权。 对于换脸前的视频，小罗呢虽然以古风妆容病着汉服出镜，但从其面部形象啊，体貌特征，普通人呢，仍可对主体的身份进行轻易识别。对于 应该软件，换脸后的视频，虽然仅留存了小楼身体的这个形象，但对比原视频的素材，普通人呢，仍能通过未被修改的相应的这个场景细节识别出身体形象，对应主体为小楼。所以呢，法院依法认定被告构成对小楼肖像权的侵害。

近期，利用 ai 换脸技术进行视频合成进而实施诈骗的新闻引起社会广泛关注。全国人大常委会法治工作委员会发言人张铁伟在昨天的记者会上表示，利用 ai 换脸技术实施诈骗是一种新型的电信网络诈骗，需要广大群众提高实骗防骗意识， 也需要有关部门依法加强治理和执法，追究相关人员法律责任。 发言人张铁伟表示，从法律方面看，反电信网络诈骗法、刑法等法律为打击治理各类电信网络诈骗活动提供的充分支撑。 二零二二年九月二号审议通过的反电信网络诈骗法对电信网络诈骗的定义、手段、部门职责、企业责任和行业治理、新业务涉诈 风险评估等做了规定。当前，各方面应当全面贯彻落实反电信网络诈骗法，依法严厉惩治包括利用 ai 技术在内的各类电信网络诈骗活动，万变不离其宗。通过 ai 换脸啊进行诈骗的行为 与传统的诈骗行为在本质上都是一样，那他不同呢？只是手段啊，有所不同。 对于构成诈骗罪，要依照我国刑法第二百六十六条的规定追究刑事责任。 那么对于未利用 ai 换脸实施诈骗行为提供一些技术支持和帮助的，对这类行为也要根据反 电信网络诈骗法的规定进行行政处罚。构成犯罪的，还要根据刑法第二百八十七条之二规定的帮助信息网络犯罪活动罪追究刑事责任。

不管是你的头像还是你在朋友圈的一张小照片，只要是照片都可以直接上传，然后进行一个特征的识别。见过 ai 生成的技术还在不断的更新迭代，比如性别的互换，声音的变换，都可以同步进行。我，刚才你用手捂捂脸啊，动一动啊，他就会干扰到他。这个图像的一个合成，我们可以从这里演示，看到一个效果， 就是我把手放上去之后，我会明显的看到啊，我们现在作为同事，他的眼睛在抖动了，他的鼻子在抖动了啊，我的手已经消失了啊，嘴巴也消失了。预防 ai 换脸诈骗，大家还要加强对人脸、声纹、步态指纹等生物特征数据的安全防护。

关注法治热点，解读经典案例，宣传法律知识，弘扬法治精神。请收看法官说法。 一键换脸秒变视频主角，看看金庸小说里的你是什么样？ 现如今， ai 换脸在网络上已经屡见不鲜，只要我们的手机上下载了相关的短视频软件，就经常能够刷到相关的视频。那么，大家知道 ai 换脸又可能面临哪些法律问题吗？今天的法官说法，我们共同来了解 一起因 ai 换脸违法使用他人肖像而引发的纠纷。张斌是一名短视频特效开发工程师，经常在短视频软件上上传一些会员专属的特效模板，以获取相应报酬。 娜美是一位千万粉丝美妆博主，经常发布一些造型前卫的视频。张斌看到后就使用娜美发布的视频制作了 ai 换脸模板，上传后被多个会员用户使用。 娜美发现后，认为张斌与软件运营公司的行为侵犯他的肖像权，要求共同赔礼道歉并赔偿损失。那么，张斌和视频软件运营公司的行为是否构成侵权呢？首先，我们先来明确一个概念 什么是肖像权。肖像，顾名思义就是人的头像样貌。民法点第一千零一十八条将肖像定义为通过影像、雕塑、绘画等方式，在一定载体上所反映的特定自然人可以被识别的外部形象。 而肖像权则是指自然人对于肖像的拥有权、制作权以及使用权等权利。大家都知道，人的肖像都是独一无二的，因此呢，每个人都对自己的肖像享有专有权， 在未经肖像权人同意的情况下，不得制作、使用、公开其肖像。同时呢，即便是摄影家、画家，在未经肖像权人同意的情况下，也是不得公 开始用含有他人肖像的创作作品的。说完了肖像和肖像权，我们再回到案例中。 张斌和视频软件运营公司没有经过娜美本人的同意，擅自使用含有娜美肖像的视频，已经侵犯了娜美的肖像权。 最终法院也是判决由张斌和视频软件运营公司共同承担赔偿责任，并公开向娜美赔礼道歉。 那除此之外，还有哪些行为会侵犯他人的肖像权呢？如软件推广一些 ai 换脸的 app 或小程序，使用明星的图片制作换脸视频进行推广。也有不少网友会对爆火影视剧进行二次创作，在创作中就会使用 ai 换脸技术博取眼球，获得高流量。电商直播中，主播利用 ai 换脸技术，将普通主播的脸换成当红明星的脸，吸引更多客源。 视频通话、身份认证、刷脸支付中通过装亲戚、套近乎等方式实施的财产诈骗犯罪的行为等等，都会侵犯他人的肖像权。那么，作为一名普通民众，当我们的肖像权受到侵害时，应如何正确维权呢？ 一旦发现自己的肖像被盗用或者被换脸，我们应当第一时间保留证据，通过截图、证据保全等方式保存侵权图片或者视频，以便后续维权。同时还可以向网络运营平台进行投诉， 要求强制下架侵权图片或视频。也可以向人民法院提起诉讼，要求侵权人停止侵权、赔礼道歉、消除影响、赔偿损失等，用法律武器维护自己的合法权益。 网络世界并非法外之地，也受法律规制。作为互联网的使用者，我们每个人都需要增强自我保护意识， 提高风险识别和防范能力，自觉遵法守法用法，避免成为无辜的受害者，更不能做无知的侵权人。