返回首页
互联网金融CURRENT AFFAIRS
互联网金融 / 正文

“换脸”应用爆红引发风险担忧

专业人士表示新技术应用和普及应在法律框架内进行

  可以看到,在“换脸”带来了一场社交圈的集体娱乐盛宴的同时,强监管也随之而来,人们意识到这场游戏可能带来的负面影响。同时,这款应用本身也存在一些法律问题。

  专业人士称,随着上百万级别的互联网用户大规模参与,很容易滋生黑产和诈骗,或者在各种人像识别场景盗用,甚至刷脸支付。

  近期,一款“换脸”应用爆红,用户只需上传一张正脸照片,即可一键无痕切换到明星脸上,生成自己的表情包,甚至是“成为”影视剧的主角儿。该应用曾一度跃升至下载榜首位。

  《金融时报》记者发现,从“P图”到“P视频”,涉及到的用户肖像权和隐私权渐成议论的焦点,“换脸”技术所带来的负面影响开始受到关注,技术创新带来的隐患能否运用技术来攻克成为业界探讨的问题。

  AI媒体合成技术的运用

  “这是国内第一次上百万级别的AI换脸用户普及事件,其爆红的原因在于操作便利。用户只需上传照片,等待几秒钟就能生成视频,然后分享到社交媒体中。不难猜想,未来的几个月里,各大应用商店即将涌进一大批换脸软件。” 西密歇根大学教授杨子江告诉《金融时报》记者。

  杨子江介绍说,“换脸”实际上是一种AI媒体合成技术,即利用机器学习的方法合成视频、图像及语音等多媒体信息。主要有三个特点:一是合成的媒体信息完全可以以假乱真;二是具有较强的普及性,利用机器学习原理制作视频图片语音的工具已经可以免费下载,且具有娱乐性和一定的实用性;三是技术发展迅速,更新能力强。

  “这个技术可以让任何人说任何话、做任何动作,不仅肉眼无法分辨,目前也还没有完美的技术进行鉴别真伪。这意味着在人工智能时代,眼见不再为实。”杨子江说。

  据了解,AI换脸技术最早出现在2017年12月,用户“Deepfakes”在Reddit上发布一个“假视频”,将盖尔·加朵等知名女星的脸换到色情电影中,画面以假乱真。“deepfake”逐渐成为AI换脸技术的代称,同名算法也在GitHub开源。

  2019年1月,荷兰Deeptrace实验室发布deepfake发展报告显示,2018年“deepfake”关键词的搜索次数比2017年增长了1000倍。

  AI换脸已不再单纯是一个技术,而是开始向产业化方向发展。杨子江告诉《金融时报》记者:“截至2019年7月,市场上已出现7款类似Deepfake的主流造假软件和算法。APP应用市场AI换脸APP超过30款。当前在国外ctrl-shift-alt团队推出云换脸服务,一次收费5至8美元;国内活跃的‘AI、换脸’QQ群直接参与人数已超过两万人。”

  深度造假带来的影响

  可以看到,在“换脸”带来了一场社交圈的集体娱乐盛宴的同时,强监管也随之而来,人们意识到这场游戏可能带来的负面影响。同时,这款应用本身也存在一些法律问题。

  “换脸APP的用户协议部分条款涉嫌无效的格式条款。而且用户协议存在‘复杂冗长’且‘大多数用户没有仔细阅读用户协议的习惯’等特点,特别容易掺杂无效的格式条款在其中。”广东成说律师事务所律师胡帅在接受《金融时报》记者采访时说,“诸如让用户保证拥有使用相关录像的权利、授权其在‘完全免费、不可撤销、永久、可转授权和可再许可’的条件下使用用户的肖像权等条款,应属于无效的格式条款。它不仅没有尽提醒、说明义务,而将其隐藏在用户极容易忽略的用户协议中,还在相关条款中免除了自己的主要义务,大大加重了用户使用该软件的责任,容易错误处分自己的权利(如隐私权、肖像权等),试图通过这样‘抖机灵’的方式排除自身在用户上传的大量影视作品的侵权责任,将该款应用使用各种拥有知识产权的影视作品时获取相关权利人授权的责任转嫁到用户身上,实际上是滥用格式条款的行为,该部分条款应属无效。”

  而针对AI媒体合成,即深度造假对社会造成的巨大影响,杨子江认为,比如利用合成熟人语音进行诈骗、视频是否可以成为法庭证据、媒体网站收到群众爆料是否可以刊登、领导人的讲话如何核实,这些衍生的问题如何解决已成当务之急。

  “一次正常的AI换脸,将产生0.5至1元的成本(GPU算力消耗+电费),随着上百万级别的互联网用户大规模参与,很容易滋生黑产和诈骗,或者在各种人像识别场景盗用、甚至刷脸支付。”杨子江说,具体来看,AI换脸的负面影响主要体现在以下场景:虚假视频合成——对名人、普通人的肖像权、隐私权侵犯,获得经济利益;虚假广告——用名人换脸做虚假的广告代言,获得经济利益;电信诈骗——用社交网络素材制作虚假视频进行诈骗,获得经济利益;市场操纵——散播恶意的经济界名人视频与言论,做空/做多标的,达到经济目的;更严重的可能涉及国家安全的场景等。

  负面影响如何化解

  当前,金融业数字化转型深入推进,人工智能已成为有效提升金融服务水平与效率的关键技术。央行在近日发布的《金融科技(FinTech)发展规划(2019年-2021年)》中提出,要根据不同场景的业务特征创新智能金融产品与服务,探索相对成熟的人工智能技术在身份识别、风险防控等领域的应用路径和方法,构建全流程智能金融服务模式。

  那么,在人工智能与金融业务深度融合的现阶段,如何规避技术自身可能带来的隐患?

  “技术使用行为受到刑法、民法等法律规制。将换脸技术用于非法途径,获取非法利益,可能涉嫌盗窃、诈骗等刑事犯罪,从而承担刑事、民事赔偿等责任。”北京市东元律师事务所合伙人、律师焦景收认为,换脸等新技术的使用和普及应在法律框架内,通过提升人脸识别技术以及活体检测技术,减少因技术漏洞带来的各种风险。

  杨子江的观点是换脸技术有很多正当的应用,也有很多灰色的应用,不能仅仅用法律解决,关键还是要技术来解决技术问题。

  就在近日,马上金融自主研发的唇语识别活体检测系统正式上线,该系统实现对用户读错指定信息低容忍度的同时,保持了较高的通过率。

责任编辑:杨致远