赤石信息门户网

赤石信息门户网 教育 > 千百万平台自动注册-AI换脸:人工智能的一场裸奔

千百万平台自动注册-AI换脸:人工智能的一场裸奔

2020-01-09 18:31:03 | 查看: 2626|

千百万平台自动注册-AI换脸:人工智能的一场裸奔

千百万平台自动注册,AI换脸:人工智能的一场裸奔

AI换脸在技术上是成熟的,但它带来一系列法律、伦理问题

这两天,微信朋友圈和微博都被一个名为“Zao-逢联造戏”的换脸APP刷屏。

上传一张照片,就能把诸多明星塑造的角色换成自己的脸,漫威系列的“绯红女巫”,《泰坦尼克号》中小李子扮演的“杰克”,或是《喜剧之王》里的“柳飘飘”。

只需几秒,便可跨越AI换脸的高难技术门槛,实现和偶像互动飙戏的美梦,如APP宣传语所说,“只需一张照片,出演天下好戏”,很难不让人心动。截至9月1日晚,该APP已经在苹果商店免费榜排行第一。

有法律专业人士提出,该产品涉及侵犯著作权、肖像权、隐私权等诸多法律问题,有用户表示“自己莫名成了权利侵犯者或受害人,不知道注销(账号)后是否能保护自己的肖像权”。但也有网友不惧隐患,直言“只要能和偶像同框,不怕风险”。

中国“Zao”

引发这场讨论的根源是Zao隐藏在用户协议中的霸王条款,一方面过度攫取用户授权,另一方面涉嫌侵犯肖像权,并甩锅给用户。

在最初的用户协议中,第6条第1款规定:“在您上传及/或发布用户内容以前,您同意或者确保实际权利人同意授予Zao及其关联公司以及Zao用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于可以对用户内容进行全部或部分的修改与编辑。”

也就是说,用户同意将自己的肖像授权给Zao,即便有一天肖像被再次转卖也无能为力。

同时,协议第7条第7款写明:“若您侵害他人名誉权、肖像权、知识产权等合法权利的……Zao可以诉诸行政执法机构或司法机关,追究相应法律责任。若因您违反本协议或Zao平台的其他规则导致任何第三方损害的,您应当独立承担法律责任并承担损害赔偿责任;Zao及其关联公司遭受损失的,您也应当一并赔偿。”

翻译过来就是,如果有人起诉被侵犯了肖像权,Zao可以说技术无罪,侵权的是玩换脸游戏的用户。

这让上一秒还在感叹“科技改变生活”的网友坐不住了,Zao也马上对协议作出了修改,新版用户协议中删除了“不可撤销”“完全免费”“永久”等字样,但问题仍未解决。

“我一直认为‘AI换脸’隐藏了不可回避的法律问题,所以看到Zao出现后,很好奇他们是如何解决的,很遗憾,他们并没有解决。”北京炜衡律师事务所一级合伙人、律师李昆蔚对《中国新闻周刊》说,协议修改后,侵犯著作权、公众人物肖像权的问题仍没有解决,同时,用户在注销账号后,动态和静态肖像是否可以删除,为什么区别对待公众人物肖像和普通人的肖像,“这些问题需要Zao来回答,也是我发问的初衷,目前还没有收到Zao法务的回复。”李昆蔚说。

Zao背后的注册公司是“长沙深度融合网络科技有限公司”,两位实际控股人(各占50%)与社交应用“陌陌”密不可分,执行董事雷小亮是陌陌公司联合创始人兼游戏业务部总裁,监事王力是陌陌公司董事、总裁及COO,而“北京陌陌科技有限公司”曾在2017年9月参股,直至今年7月19日才退出股东名单。据天眼查显示,长沙深度融合预留的联系电话属于陌陌科技,截至发稿,该公司并未对用户协议问题作出回复。

换脸技术本身并不新奇,在美国好莱坞已经存在了20多年。2016年上映的《星球大战外传:侠盗一号》还原了《星球大战4》(1977年)中总督塔金的角色,但其扮演者彼得·库欣早在22年前就去世了,特效团队为此找来一位长相酷似彼得的演员进行面部表情捕捉,然后用计算机动画(CG)技术将塔金复活。不过卢克斯影业和迪士尼表示,在制作《星球大战外传》时已经取得了彼得家人和产权继承人的同意。

将“换脸”推到风口浪尖的是一系列融合了AI技术的“假视频”。

2017年12月,一个名为“深度伪造”(deepfakes)的用户在美国论坛Reddit上发布了多段色情视频,不同的是,他让电脑学习好莱坞女明星的图像资料,然后把女明星的面部移植到色情片女主角脸上,近乎完美地实现了动态换脸,这引发了大量讨论和抨击,最后以账号被封告终。

不过,AI换脸并未消失,用户“深度伪造”随后直接开源了项目代码,更多效仿者随之而来,为了纪念他,便用他的名字代称“AI换脸”技术。据说,Zao也是基于“深度伪造”开源代码开发出来的,但Zao并不是第一个。

从“换脸”到“深裸”

2018年1月,一个名为FakeApp的软件上线,可实现“一键换脸”,视频内容也是千奇百怪,包括恶搞美国总统特朗普,或是将自己的脸贴到好莱坞明星上。虽然Reddit明令禁止换脸视频和图片在该网站传播,但仍有超过9万名用户在Reddit上传播这类视频。

今年6月13日,美国众议院情报委员会召开关于人工智能深度伪造的听证会,公开谈论了深度伪造技术对国家、社会和个人的风险及防范和应对措施。美国外交政策研究所研究员克林特·瓦茨认为,深度伪造技术对美国2020大选具有潜在威胁——若放任伪造视频扩散,则会对美国民主选举产生不良影响,挫伤选民的积极性。

就在听证会结束后不久,一款名为DeepNude(深裸)的App宣称能实现“一键脱衣”,它再次把AI技术应用中的法律伦理问题推到台前。操作十分简单,只要给它一张人像照片,等待30秒,就能得到一张裸照。由于风险超出可控范围,研发团队在产品上线几天后便匆忙下架了该产品。

“我们启动这个项目是出于娱乐的目的……从没想过它会像病毒一样扩散。我们不希望通过这种方式挣钱……从现在开始,不再放出任何版本,也不会授权任何人使用。” DeepNude团队6月27日公开声明道。

教育科技公司Coursera联合创始人、美国斯坦福大学计算机科学教授、“百度大脑”原负责人吴恩达也在推特上公开批判,称“DeepNude是AI技术最糟糕的应用之一”,AI技术的超级力量应该被用到推动世界发展的项目中。

“AI换脸技术是成熟的,之所以没有被推广,就是因为还有很多法律、伦理问题没有讨论清楚。”李昆蔚对《中国新闻周刊》说,“Zao现在的盈利方式还不清楚,但要是为了赚钱,去做一些钻法律空子的事情,从而伤害了广大用户,是行不通的。”

除了侵权问题,还有网友担心,既然人脸识别已经在支付场景得到应用,面部信息泄露,是否会导致账户被盗刷?对此,支付宝安全中心8月31日发布公告:“不管换脸软件多逼真,都无法突破刷脸支付。”支付宝安全中心表示,刷脸支付采用的是3D人脸识别技术,在进行人脸识别前,也会通过软硬件结合的方式进行检测,来判断采集到的人脸是否是照片、视频或者软件模拟生成的,能有效地避免各种人脸伪造带来的身份冒用情況。

瑞士科学家在一篇论文中就首次对人脸识别方法检测Deepfake的效果进行了较为全面的测评,尝试用最前沿的人脸识别系统去识别假视频,结果错误率高达95%。

《人民法院报》官网微博评论道:“试用任何一款新型软件的时候一定要认真阅读用户协议,多留个心眼,保护好自己的各项权益。”

“我不知道我们能否为此做好充分准备,但是我们还可以做更多的工作,确定敌人的计划和意图,尽早找出并揭露它,告知公众他们需要关注什么,应当做什么,而不仅仅忽略他们所看到的一切。”美国众议院情报委员会听证会主席亚当·希夫表示。

虽然没有一招制胜的方法,但阻止深度伪造负面影响蔓延的方法有很多,诚如马里兰大学法学教授丹尼尔·希特龙在上述听证会上总结的,对深度伪造的内容不能一竿子打死,很多深度伪造的合成媒体内容具有存在的正当性,而对影响国家安全、公共安全、民主政治的虚假信息才需要加强监管和规制。涉及刑事犯罪和一般网络侵权的深度伪造适用不同的规制,监管应区别对待,美国相关立法目前主要从刑事犯罪角度对深度伪造予以规制。

友情链接

 

Copyright 2018-2019 bundlo.com 赤石信息门户网 Inc. All Rights Reserved.

回顶部