除了用户急剧增长导致的服务器频频崩溃,ZAO的运营团队还要面临监管层对用户隐私安全的重视。
9月3日,工信部约谈ZAO的运营团队北京陌陌科技有限公司相关负责人,要求其开展自查整改。
ZAO是首款提供视频换脸的App,某种意义上它先行于现有法律法规,如何在法律框架下运营这款App是ZAO管理层不得不面临的问题。
法律风险待解决
ZAO所提供的视频换脸功能是此前App所没有的。借助于ZAO,用户可以将某段视频主角替换成自己或他人脸部。但这项功能在法律上有多重风险,某种意义上,ZAO先行于现有法律法规。
“关于用户生物信息、面部信息保护目前还没有一个明确具体的细则进行保护,我们主张肖像权的保护还是基于现有法规。人脸信息立法也是可以跟上的。一个人可以有几万张照片,但一个人的指纹信息、瞳孔信息是有唯一性的。”北京炜衡律师事务所律师李昆蔚对第一财经表示。
李昆蔚同时指出,“AI换脸技术在法律上有很多障碍,第一是肖像权,在没有经过公众人物允许下把他的脸进行变换涉嫌侵犯公众人物的肖像权;第二是著作权,把一部视频作品进行变脸修改了其中素材,但著作权法规定著作权人有保护作品完整权和作品不被他人任意修改和改编的权利;第三,换脸技术或许会对造谣、诽谤等潜在违法犯罪行为提供技术手段和技术辅助。”
值得注意的是,曾有人用照片PS来证明视频换脸并不会为违法犯罪提供辅助。但在李昆蔚看来,照片可信度和视频可信度完全不同,AI换脸尚处在初级阶段已经可以产生以假乱真的效果,如果发展得稍为精细,可能会带来更大的影响。
“AI换脸技术本身是没有错的,它如果有限使用,例如用在电影行业是很好的。但如果推广到每个人都可以用它的技术,那可能会产生潜在的违法犯罪问题。真正普及开来这三个法律问题是必须要解决的。如果没有解决就把它拿出来使用,这是对公众不负责任的一种表现。”李昆蔚称。
隐私问题被热议
在工信部约谈之前,ZAO已经面临用户和律师对其用户协议中隐私条例的指责。
例如ZAO用户协议有以下内容,“如果您把用户内容中的人脸换成您或其他人的脸,您同意或确保消像权利人同意授予ZAO及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权,以及利用技术对您或肖像权利人的肖像进行形式改动。”
这在用户和法律界引起强烈反弹,行业认为ZAO过度使用用户数据——原本属于用户的肖像权,为何被过渡至ZAO上?
ZAO 8月30日晚间突然蹿红于网络,9月1日服务器因用户数量过多而崩溃。也是在9月1日,ZAO紧锣密鼓地修改用户协议,删除了原有的上传肖像权可被ZAO完全免费、不可撤销、永久、可转授权和可再许可的权利等描述。但依然保留“您同意对用户内容进行网络信息传播的权利”。
但这无法令监管层满意。9月3日ZAO被监管层约谈,工信部要求ZAO的运营团队严格按照国家法律法规以及相关主管部门要求,组织开展自查整改,依法依规收集使用用户个人信息,规范协议条款,强化网络数据和用户个人信息安全保护。同时,要进一步加强新技术新业务安全评估,切实采取有效措施,积极防范自有业务平台被利用实施电信网络诈骗等风险隐患。
9月3日,ZAO再度声明,表示不会存储个人面部生物识别特征信息;没有采集任何个人生物识别特征,技术叠加呈现的虚构图像能达到肉眼上近似,但并不是用户真实信息;使用ZAO不会产生支付风险;用户删除信息或注销账号,ZAO均会依据相关法律法规的规定删除相应信息,目前有用户看到注销后的缓存信息,会在后续更新版本时修复。ZAO在声明中表示,在产品中运用了加密存储等多种安全措施,严格遵守法律法规的要求,全面保护个人信息和数据安全。