AI换脸APP才火几天就“凉” 这些风险需要注意

  8月31日，一个叫“ZAO”的AI换脸App一夜之间火爆全网。代替莱昂纳多给你的Rose来一句深情告白；一秒钟和“现男友”李现同框，让他给你遮太阳；变身吴彦祖……“仅需一张照片，出演天下好戏”，通过AI换脸技术，你仅需上传一张照片，就可以成为梦寐以求的“戏中人”。一夜之间，“ZAO”便迅速刷屏了朋友圈。

“ZAO”一经推出，就在App Store免费App排行榜中登顶。

“ZAO”有很多可供换脸的视频素材。

  没想到，火得快，凉得更快。9月4日，工信部官方发布消息：9月3日，针对媒体公开报道和用户曝光的“ZAO”App用户隐私协议不规范，存在数据泄露风险等网络数据安全问题，工信部对北京陌陌科技有限公司相关负责人进行了问询约谈，要求开展自查整改。

工信部约谈“ZAO”：要求自查整改，依法依规收集使用个人信息（来源：梨视频）

  不到一周，从爆红刷屏社交圈到深陷舆论旋涡，AI换脸App“ZAO”经历了大起大落。在这背后，被称为霸王条款的用户协议或许并不是问题的重点。有业内人士指出，真正应该担忧的是：当人工智能强大到可以以假乱真，当深度学习的操作门槛越来越低，当技术突破底线，用户该如何保护自己的隐私和个人信息安全？由此引出的一系列问题随之而来：人脸等视频素材是否拥有合法版权？刷脸支付还安全吗？利用AI换脸行骗的案件会不会因此猖獗……

   什么是“AI换脸”？ 

  AI换脸是基于人工智能的人体图像合成技术生成的“假脸”。就是将目标人物各个角度的人脸照片一帧帧贴在被换对象的视频画面上，生成假脸视频。

  AI换脸并不是新鲜事。2017年底，国外一位ID为“deepfakes”的网友，利用业余时间创造了一个AI换脸算法，后来这个算法被广泛称为deepfakes。

  deepfakes首先在科技社区中流行起来。一开始只是技术爱好者的随性试玩，后来有人用它将色情作品中的主角换成明星脸，这种做法在科技社区引发大量争议，最后被彻底关掉。但AI换脸技术，一直进化至今。今年年初，B站UP主“换脸哥”，使用这个技术将94版《射雕》里扮演黄蓉的朱茵换成杨幂的脸，看过的人都惊叹“神乎其神”。

  “ZAO”这款App之所以一夜爆红，正是因为其将“换脸技术”的门槛降得极低。“ZAO”内含有大量视频素材，用户不必会PS，甚至连美图秀秀级别的美颜都省略了，直接上传头像照片就可以将原视频片段换脸，一键生成就可分享到朋友圈。

  其实，“ZAO”的本质还是满足用户的猎奇与虚荣心。对比之前给照片加上贴纸特效的“Faceu脸萌”、预览你老后模样的“FaceApp”等简单功能就火爆一时的在线美颜、换脸变装App，一部手机，一张自拍，“ZAO”直接把你放入经典大片中做主角，怎能不火？

   “AI换脸”有何潜在风险？ 

  AI换脸功能带来的潜在风险，立即就能被察觉到。像前面提到的“黄蓉”被换脸事件，在一众微博大V的侵权抗议后，UP主“换脸哥”赶紧下架了相关视频，并呼吁大家尊重版权与肖像权，专注于技术本身。

  有此先例后，不少用户在使用“ZAO”的时候，就特别关注了其用户服务及隐私保护协议，一下子就揪出了其中的大问题。

“ZAO”的用户协议被指出侵犯隐私。

  该条款直指“ZAO”及其关联公司将获得用户上传内容的著作权利，包括其中的人脸肖像照。这引爆了公众对“ZAO”的广泛质疑：“ZAO的用户协议太离谱了”“有手机号，有面部画像，通过技术合成，犯罪分子可以替你和你的家人通话了”……这样的AI换脸，可能会导致“丢脸”，丢掉的是自己的隐私和个人信息安全。

有网友表示出对“ZAO”泄露隐私的担心。

  “丢脸”会不会导致“丢钱”？

  当前，大部分银行等金融机构开设了人脸识别登录App功能，“刷脸”支付、远程签约等场景也越来越多见，例如今年“3·15”晚会上，就演示过用“活”照片成功突破某款手机的“刷脸”登录系统。

  此外，通过3D打印等技术，“人脸面具”可以获得较高仿真度，此前也已有人使用3D打印面具通过某知名网络支付平台的面部验证。

  除此之外，目前不少网贷机构进行“活体检测”时仍使用人工审核或技术含量偏低的机器审核(如“点点头”“摇摇头”“张张嘴”等)，一旦公众的面部识别信息被不法分子掌握，很可能用这些黑科技让用户无辜“被网贷”，背上巨额债务。

  “丢脸”可能导致“丢清白”？

  当前，换脸技术被用在一些涉嫌违法犯罪领域的情况并不少见。一些网站用“AI换脸”“换脸视频”等方式提供用知名艺人“面孔”“嫁接”出的视频，这些视频往往涉嫌色情淫秽，且难辨真假，往往让被害人有口难辩、名誉受损。

有律师谈到AI换脸软件“ZAO”风险：你无法控制你的头像会被用于何处（来源：新京报）

   面对“换脸”带来的信息安全问题，该如何防范？ 

  识别“AI假脸”小妙招

  多数“假脸”都是使用睁眼照片合成，“假脸”极少甚至不会眨眼，关注眨眼是判断一个视频真假的小方法。

  进行多重验证

  遇到需要转账的情形时，不要仅仅依托视频这一个凭证予以确认，还可通过电话等其他方式进行多重验证。同时，可将到账时间设置为“2小时到账”或“24小时到账”以预留处理时间。

  保护个人信息提前预防

  切勿将个人信息暴露在网络上，以免不法分子利用AI技术，实施针对性诈骗。同时，接到陌生电话、短信时，均不理睬，以免被骗。

  拒绝诱惑

  避免占便宜心理，警惕陌生人提供好处诱骗。

  来源：新快报、人民日报、新民周刊、梨视频、新京报