AI换脸软件在网上公开售卖,法律边界在哪里?
近日,因AI换脸技术导致的诈骗案件引发了人们的关注。伴随着AI大模型的发展,“换脸”技术应用范围越来越广,技术的突破还使得换脸后的人物表情、动作细节更为逼真,一旦被不法分子利用,可能会带来严重危害。记者调查发现,在网上,AI换脸软件的获取非常容易,利用AI换脸软件的法律边界在哪里?如何做好事前监管?
(相关资料图)
01
网络上出现付费AI换脸软件
套餐价格从499元到2888元不等
当下,依托于大模型及算法的突破,AI换脸正在实现更大范围的应用,引发更多担忧。在网络上,演示换脸软件使用方法及效果的教程比比皆是。不同于大量给普通人“尝鲜”的免费软件,记者发现,在网络上还有很多高价的付费AI换脸软件,这些付费软件与免费软件有什么样的不同?
记者搜索“AI换脸软件”后联系上了一个开发者,他给记者提供了一段使用其软件实现换脸的示范视频——双视窗页面左侧是换脸之前的原始视频,右侧则是换脸之后的视频,肉眼来看,换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽。
△卖家展示的素人换脸效果(S为原视频,D为更换之后)
在其销售网站上,该软件开发者还展示了如何将两位知名女星的眼睛和嘴巴拼接到一起,生成全新“数字人”的视频。
△卖家展示的局部五官更换
这一付费软件提供从初级(LV1)到超级(LV4)再到全套(LV5)的不同版本。以初级套餐来说,499元提供软件界面、视频指导、换脸模型等,如果花2888元,则可以得到全套(LV5)等级的视频换脸模型。
△网络上提供多种不同等级的换脸软件产品
02
“想换什么脸都可以”
AI大模型可集成多种功能打造“数字人”
打开该网站,底部没有任何文字显示其经过了备案。卖家也十分谨慎,全程仅用文字交流。他表示,与初级(LV1)至超级(LV4)套餐相比,全套(LV5)版本迭代更多,能力更强,也可以理解为换脸效果更为逼真,同时,不仅可以实现视频换脸,还支持直播换脸。
记者进一步询问,能否根据自己的需求换脸?软件开发者表示:“想换什么样的脸拿素材训练就可以”。
△软件开发者在与记者的聊天截图
一位从事AI开发的技术人员表示,这意味着可能会有更多难以控制的风险。“类似于deepfake这样的AI换脸技术是开源的,最近的AI大模型火起来,它的算法又有了更新,就可以集成文生图、文生文,文生音频、文生视频、换脸,这样的功能结合起来,就可以打造出一个完全崭新的‘数字人’或者叫‘AI人’,监管的成本和难度高了好几个数量级。”
△卖家展示的用户反馈
03
专家:有效的标识监管体系
能提前厘清AI换脸带来的模糊边界
北京嘉维律师事务所律师、IT法律专家赵占领表示,从事后打击的角度来说,刑法中有关于诈骗罪的规定;民法典明确,公民享有肖像权、姓名权、名誉权等等相应的民事权利。也就是说,如果发生使用他人的肖像进行诈骗的相关案例,不法分子能够在事后被法律约束与制裁。但在人工智能技术飞速发展的当下,还应探讨如何能够做到有效的事前防范。
例如,在《互联网信息服务深度合成管理规定》中要求,深度合成服务可能导致公众混淆或者误认的,深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。
《生成式人工智能服务管理办法(征求意见稿)》要求,利用生成式人工智能产品向公众提供服务前,应当按照有关规定向国家网信部门申报安全评估;要尊重他人合法利益;产品提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责等。
△图源:视觉中国
浙江大学国际联合商学院数字经济与金融创新研究中心联席主任盘和林认为,从目前来说,如果能够有效落实标识的要求,形成有效的监管体系,可以在很大程度上提前厘清AI换脸所带来的模糊边界。
盘和林:当前AI换脸的标识监管体系还没有形成,要针对不标注的内容,通过技术的手段来辨别,并且对不标注的个人或者是单位组织要有具体的处罚的措施和标准以及制度。
赵占领认为,从长远来看,监管与处罚措施还需要随着技术发展不断“迭代”,才能形成立体有效的治理方案。
(中国之声微信公号)
标签:
2023-06-02 02:13:15
2023-06-02 01:45:50
2023-06-02 00:44:59
2023-06-02 00:18:07
2019年东京车展即将来临,汽车制造商的准备工作正在进行中。在车展前,三菱刚刚宣布了Mi-Tech概念车。Mi-Tech
热图推荐
创世纪
通信
最近更新
- AI换脸软件在网上公开售卖,法律边界在
- 理想汽车公布5月交付数据 首次实现百
- 观天下!莫名奇怪的近义词有哪些(莫名
- 世界最资讯丨淘宝鬼脚七(关于淘宝鬼脚
- 全球实时:白腹穿山甲被发现拥有哺乳动
- 手机kindle怎么导入本地书籍?(手机kin
- 欧神诺瓷砖eln326是什么系列
- 播报:2020双子座全年运势_2019双子座
- 浸润书香童心飞扬 河南杞县东湖城市书
- 兰州:欢庆“六一” 童心飞扬_今日看点
- 焦点信息:三菱刚刚预览了无屋顶PHEV概
- ping -t_ping t 今日要闻
- 西安旺站7天连爆3个大奖 差点多出几个
- 预警降级高温仍在,高考期间广州阳光雷
- 建言献策 关于建言献策的介绍
- 【视频】东航云南“燕锦”女飞行员示范
- 视睿科技完成近亿元A轮融资|世界热议
- 永嘉金色阳光_关于永嘉金色阳光简述
- 长沙磁悬浮快线多久一趟_每日热门
- 滇南胜境描绘美丽宜居新画卷-世界热消
- 魏牌新款摩卡DHT-PHEV上市 售价23.18万元
- 会计主体是什么意思 会计主体是什么|
- 我国数字经济规模居世界第二 环球要闻
- 资讯:泰裤辣!大学生体育舞蹈锦标赛在
- 关注:北京丰台区暑假前转学工作安排公
- smart精灵#3正式上市 售20.99-28.99万
- 天天微头条丨甘肃庆阳西峰:蔬菜大棚尽
- 每日消息!健康福重疾1号大病版值得买吗
- 速看:卡卡回顾伊斯坦布尔之夜:虽然我
- 天天热点!人类偏肺病毒在美感染激增_
热点
现如今,随着人民的生活水平不断提高,社会对于高效物流的需求也处于快速的增长时期。但近年来国内物流市场受疫情、国六实施以及油价的大幅上
详细>>汽车消费的风潮越来越具体化,用户定义产品如今已经演变成圈层定义产品了。合创汽车是积极践行这一理念的车企。上海车展上,合创带来了圈层
详细>>想必每一个电竞玩家都梦想拥有一台可以随时随地开黑的汽车。今年上海车展上,合创亮相了一款移动电竞堡垒合创V09雷蛇版。这款新车是由合创
详细>>MPV这个以往冷清的细分市场正被一大波新车型推向增长轨道,也应验了合创汽车董事、联席总裁杨颖去年成都车展上的预言:电动车时代,SUV份额
详细>>5 月 17 日,2023 阿里云峰会·常州站上,阿里云正式发布第八代企业级计算实例 g8a 以及性能增强性实例 g8ae。两款实例搭载第四代
详细>>4月26日,中国信息通信研究院联合全球知名调研机构IDC发布《全球云游戏产业深度观察及趋势研判研究报告(2023年)》,瑞驰基于ARM架构自研的SoC
详细>>