特稿：人工智能：暗黑乌托邦？
发布时间：2019-11-01 13:44 | 来源：中国法制与新闻网
文本刊记者 赵丽
也许，天下任何事物都有两面性。美丽光环下的人工智能，概莫能外。
在今年5月召开的全球人工智能技术大会的论坛现场，背景大屏上“搜狗同传”一直实时进行着同声传译，全程吸引观众的目光——大家在感叹“同传要失业”的同时，也会因为发现“AI”被翻译成了“爱”等小BUG而发出理解的微笑。显然，机器还未做到百分百完美。
聊天机器人、语音助手、智能客服、智能音箱……社交机器人多大程度上可以自如地和人进行对话？语言智能能不能进入智能产业的中心？自然语言对话的挑战在什么地方，突破的技术重点又是什么……在人机交互语言方面等技术领域，人工智能存在诸多亟待面对和解决的问题。同样，在其他领域，发展迅猛的人工智能同样给享受便利的人们带来了诸多无奈和挑战，甚至风险。
一键美女脱衣：科技伦理受冲击
8月30日，一款名为“ZAO”的AI换脸APP爆红。通过AI技术，用户只要上传一张自己的正脸照，就能将影片中自己心仪演员的脸换成自己的脸，从而在熟悉的影视作品中，与明星偶像同台“飙戏”。一时间，朋友圈里被“换脸”视频刷屏。据“ZAO”的官方微博介绍，该APP推出几小时内服务器就已经消耗了三分之一。到9月1日，“ZAO”已经跃居苹果商店免费榜第一，其蹿红速度可见一斑。《法制与新闻》记者了解到，曾经刷屏的类似应用软件不止ZAO一款,还有脸萌、足记、天天P图等。
中国科学院神经科学博士刘耀文向记者介绍说,人工智能相关应用在过去几年迅猛增长,其中人脸识别是应用范围比较广的技术之一。如今在金融、安防、考勤等领域,人脸识别已被大量应用。比如,当用户向互联网金融公司借贷时,平台首先需要做的是“验证你是你”,由于与钱财直接相关,拦截伪造的人脸攻击就变得至为重要。因此,这次刷屏的合成视频便触到了许多人的心理底线:当视频也可以被伪造,还有什么可以确保真实?
将换脸推到风口浪尖的是一系列融合了AI技术的“假视频”:
2017年12月,一个名为“深度伪造”的用户在美国某论坛上发布了多段色情视频。他让电脑软件学习好莱坞女星的图像资料,然后把女星的面部移植到色情片女主角脸上,引发大量讨论和抨击,最后以账号被封告终。
不过,AI换脸并未消失。用户“深度伪造”随后直接开源了项目代码,更多效仿者随之而来,为了纪念他,便用他的名字代称“AI换脸”技术。
这套换脸的玩法，是基于已开源的DeepFakes，更底层原理基于深度学习模型——生成式对抗网络（GAN, Generative Adversarial Networks ）。
这个技术是近几年无监督学习领域最热门的方向之一，什么都能做，似乎万物都可GAN。
这个理论引起公众的轰动是因为DeepNude以及DeepFakes两个应用产品:前者是基于图片处理，可以实现一键换衣，能换衣自然就能脱衣，很多明星的公开照片被这个软件直接扒光，就是前段时间盛传的一键脱衣；后者是基于视频处理，可以实现一键换脸，神奇女侠加尔盖朵以及黑寡妇斯嘉丽约翰逊的脸被很多人直接加到色情片中，毫无违和感。
甚至之前一度非常流行的奥巴马痛骂特朗普以及各种骚操作的视频，也是DeepFakes做的；还有用DeepFakes把希拉里和特朗普做成夫妻的，把他俩脸做到一起的，把他俩做到色情片里的，玩法多种多样。由于人们的智慧过于无限，导致就连尺度过大著称的各类神奇网站，都集体封杀了DeepNude以及DeepFakes。
可以随意给人换衣换脸，而且多数人看不出来，这造成的影响，实在是有点大。据媒体报道,今年6月13日,美国众议院情报委员会召开关于人工智能深度伪造的听证会,公开谈论了深度伪造技术对国家、社会和个人的风险及防范和应对措施。美国外交政策研究所研究员克林特·瓦茨认为,深度伪造技术对美国2020年大选具有潜在威胁,若放任伪造丑化总统视频扩散,则会对美国民主选举产生不良影响,挫伤选民的积极性。
就在听证会结束后不久,一款名为DeepNude(深裸)的APP再次把AI技术应用中的法律伦理问题推到台前:只要给它一张人像照片,等待30秒,就能得到一张裸照。由于风险超出可控范围,研发团队在产品上线几天后便匆忙将这款产品下架。
美国斯坦福大学计算机科学教授、“百度大脑”原负责人吴恩达也公开批判,称“DeepNude是AI技术最糟糕的应用之一”,AI技术的超级力量应该被用到推动世界发展的项目中。
9月3日,针对媒体公开报道和用户曝光的ZAO用户隐私协议不规范,存在数据泄露风险等网络数据安全问题，工业和信息化部网络安全管理局对北京陌陌科技有限公司(以下简称陌陌科技)相关负责人进行了问询约谈，要求陌陌科技严格按照国家法律法规以及相关主管部门要求,组织开展自查整改,依法依规收集使用用户个人信息,规范协议条款,强化网络数据和用户个人信息安全保护。
耶鲁大学技术与伦理研究中心主任、黑斯廷斯中心高级顾问温德尔?瓦拉赫（Wendell Wallach）说，人类应该尽快有所行动，让伦理和科技的发展同步进行。
无人驾驶:“方向盘”不好把握
在不少业内人士看来，未来中国很可能成为全球最大的无人驾驶市场。人工智能对汽车行业的赋能，汽车行业的智能化在未来的发展趋势而言，有两种可能：一是把汽车打造成一个智能产品，也就是无人驾驶等；另一个是实现汽车制造和销售等环节的智能化，提升效率。
对于AI无人驾驶而言，上海是最好的试验田之一——临港地区正在建设智能网联汽车综合测试示范区。其中，无人驾驶示范区3.2平方公里封闭测试区建设和26.1公里开放测试道路改造基本完成，将涵盖130多项逻辑场景、30多类功能场景。
但问题随之而来。
“当车祸无法避免时，自动驾驶汽车该如何取舍，是优先保护马路上的行人，还是优先保护车内人员？”瓦拉赫在全球人工智能技术大会的主题演讲中抛出这样一个问题。
另外，根据我国《道路交通安全法》规定，驾驶人驾驶机动车必须取得驾驶证。那么，自动驾驶的驾驶人是谁？这个问题则游离于法律之外。既然如此，无证驾驶能否进行开放道路测试？
尽管司法不允许，可早有企业跃跃欲试。不久前，滴滴自动驾驶公司CEO张博宣布，将在上海嘉定落地并测试自动驾驶出行服务；稍早时，重庆方面也称，会支持百度在当地打造“西部智能驾驶开放测试创新中心”。
并且，无人驾驶的风险已经成为现实。2017年7月5日，百度创始人、董事长兼首席执行官李彦宏通过视频直播展示了一段自己乘坐无人驾驶汽车进入北京五环路的情景。据称，当天晚上他就被叫到公安局，一直待到半夜，最后还交了罚单。
个人隐私易泄露
不过，ZAO走红后不到24小时,就因为隐私安全问题引发集体焦虑。
“有手机号,有面部图像,通过技术合成,犯罪分子可以替你和你的家人通话了。”用户对ZAO泄露个人隐私的担心,集中体现在这条网友评论里。据了解,在隐私政策中,ZAO收集用户的隐私信息范围极其宽泛,包括肖像及面部识别特征等生物识别信息,身份证、军官证、护照、驾驶证、社保卡、居住证等身份信息,以及芝麻信用等个人敏感信息。
对于“ZAO”最初的隐私协议，业内人士是这样向记者解读的：“假如，我把我自己的脸放在ZAO上面了，那么就等于是默认了把自己这张照片授权给了ZAO使用，这张照片以及用这张照片生成的视频，都可以给ZAO使用。不仅是给了ZAO，同样还给了ZAO的关联公司，这个关联公司的定义是模糊的，反正即使拿去卖钱你也管不着，因为协议里是允许ZAO再授权的。简而言之，就是只要你传了照片，之后就都是ZAO的了。”
针对用户争议，9月1日,ZAO修改了部分争议内容,但这仍不足以打消用户的担忧。因为修改后的条文也并未明确规定收集和使用用户信息的具体情况,比如“特别提示”中“为了改善ZAO为您提供的服务”的规定,就没有明确列举改善何种服务。
当然问题不仅仅是这点。“如果你使用了别人的脸，那么更有趣。按照用户协议，如果你上传了一张吴亦凡的照片，那么这张照片同样也是授权ZAO及其关联公司免费使用的。简单来说，就是你把吴亦凡借给了ZAO。”对于这样的逻辑，有业内人士吐槽说，如果吴亦凡不干了，要起诉ZAO，那么依据用户协议，ZAO不承担后果，因为“您同意或者确保权利人已同意”，上传者要自己确保自己上传的他人的脸已经得到了授权，如果没有确保的话，那么问题出在上传者。所以，推导出的结果是——吴亦凡只能起诉你，因为你签的用户协议中保证了自己上传的都是拿到了授权的内容。原因很简单——ZAO作为一个平台，不负责审查照片是否侵权。
对此，中国政法大学传播法研究中心副主任朱巍认为,以前“隐私泄露”是事情发生后才去讨论,但是自从网络安全法出台后,大家更倾向于把安全风控前移,网络安全法不仅对事后泄露和事中管理有规定,更包括考查提供网络服务的平台,在保障数据安全和核心隐私方面是否能达到相关标准。
知识产权刑事审判风险并存
除了侵权问题,还有网友担心,既然人脸识别已经在支付场景得到应用,面部信息泄露,是否会导致账户被盗刷?
对此,支付宝安全中心8月31日发布公告称,“不管换脸软件多逼真,都无法突破刷脸支付”,刷脸支付采用的是3D人脸识别技术,在进行人脸识别前,也会通过软硬件结合的方式进行检测,来判断采集到的人脸是否是照片、视频或者软件模拟生成的,能有效地避免各种人脸伪造带来的身份冒用情况。
“关于换脸软件滥用威胁支付安全的问题,是矛和盾的问题。很多刷脸支付软件,不是百分百能够保证不被钻空子,只是可以通过很多办法大大降低风险。”刘耀文告诉记者,比如视频是一帧一帧的,目前的人脸识别是深入识别,人录视频的时候眼睛眨动和图片是不一样的,图片是不会眨眼的。此外,还可以通过一些向左转向右转的行为来判定是否是本人。“当然,一些刷脸支付软件会有地理、技术上各种保障安全的优势,但一些不安全的支付做不到这么严格。”
此外,ZAO还存在肖像权、著作权等知识产权风险。例如,用户“换脸”前,并未取得明星授权。法律界人士认为,对于ZAO版权说明中“不享有素材的商业版权”的规定,并不存在商业版权的概念,版权就是版权,只要未获授权拿别人作品来传播就是侵犯别人版权,虽然ZAO没有直接通过作品收费,但是整个平台靠传播改动后的影视剧作品来吸引用户,进而开拓其他商业模式。
不仅如此,业内专家还表示,这款应用的出现意味着AI深度换脸技术使用门槛大幅度降低,相关伪造影音视频被不法分子利用时,将对国家安全、新闻舆论、公众安全、刑事审判、政府通信等领域带来众多难以预测的风险。
首先,从国家安全层面看,当高度逼真的伪造视频被恶意使用在国家领导人及其他关键人物身上,不仅会导致领导人形象受损,如果伪造领导人发出有悖于国家安全的政治观点或指令,将导致严重后果。虽然我国还未出现此类案例,但在美国,用于政党攻击、娱乐的换脸视频时常出现。如2018年4月,美国娱乐网站Buzzfeed发布了一条网友制作的换脸视频,当中,美国前总统奥巴马用他的声音和惯用动作讲了一段他从没说过的话。
其次,从舆论传播层面看,如果AI深度换脸技术制造的虚假视频与社交网络相结合,不仅会让假新闻更难鉴别,也会导致谣言的迅速传播。例如印度某记者曾因揭露印度古吉拉特暴乱中官员的黑幕和不作为,被人用AI换脸技术做成大量的道歉小视频,严重影响当地舆论走向。
最后,AI换脸技术对公众安全、刑事审判等也可能带来不同程度的负面影响。例如,不法分子可利用图片、视频冒充他人跟另一个人聊天、交易,不仅危害他人隐私、财产安全,甚至生命安全也可能受到威胁。在司法机关调查取证、审判等阶段伪造出来的影音视频证据,也可能对司法程序产生干扰。
“核心风险就是个人信息安全问题,换脸软件一旦被滥用将会产生消极影响。研究者们应该遵循科技伦理,企业合规和风控部门应当加强法律风险的审查,政府部门应当加强监管,行业组织加强自律,公民积极投诉举报。”中国传媒大学政法学院法律系副主任郑宁认为。
还有更多未知风险
对于用户来说,ZAO换脸服务最大的风险在于对用户人脸数据的收集。毕竟脸部信息的细节实在是太丰富了,是一种“生物信息”,可以说是非常敏感的个人信息,一旦泄露,远比上网时产生的数据信息泄露的风险更大。
“换脸技术主要涉及到生物信息的采集,属于敏感信息。那么,ZAO承担的个人信息安全义务就包括制定完备合法的隐私政策,向用户明示收集、使用个人信息的目的、方式、范围,以及建立完善的个人信息安全保护措施。”郑宁说。
正因如此,刘耀文也认为:“人们的担忧是合理的,最大的问题可能就是安防方面,用户的个人信息归平台所有了,生物信息让渡出去了是最大的一个风险,因为软件的合约条款里规定了合理使用和永久授权,无法判断他们会用我们的信息干什么。”
而这个干什么，才是民众最为担心的。
例如诈骗，不法分子可能使用这项技术无缝把老人子女的脸融入视频中，不管是生病要钱，还是绑架，还是转账，都很容易骗人上当；
例如冒充公检法，不法分子使用这项技术把自己的脸P到一些公开视频中，然后说自己就是某某某，对方一看还真是，往往轻易相信；
例如敲诈，不法分子使用这项技术把受害人脸加到一些黄色视频中，然后威胁不给钱就群发散布，实际上很多高利贷的催收就喜欢这么玩儿，一些不法之徒也用这种损招敲诈官员。
除了敲诈类黑产，甚至有人担心，这种无缝换脸技术流入普通民众手中，带来的新玩法会更多。比如，A和B发生冲突，然后A把B的脸融入各种猥琐的地方散布或者直接诬陷，如何才能分辨这个视频是真还是假？
清华大学法学院院长申卫星站在哲学和全人类的高度，将人工智能分成三个层次的风险，“第一个层次，可以说是一种传统的风险，就是因为新一代的信息技术的全面深度应用而引发的隐私保护丧失，中国社会进入了一个零隐私的社会，那么这个阶段还是把信息技术作为工具来对待的。”
他说的第二个层次，“是在以自主和深度学习为基础的机器学习之下，出现了人机之间的竞争。在研究机器人能不能取代人的同时，是不是也应该思考人会不会沦为一种机器？”
“第三个层次，我想可能是哲学或者伦理学层面的一个反思。”申卫星表示，人机的竞争可能不再是科幻，“会不会有所谓的三种人并存的一个形态？自然人、机器人和生物复制的人。”
我们不妨用霍金的话为本篇作结：“成功创造人工智能是人类有史以来最重大的事情；然而，不幸的是，这也可能是最后一次，除非我们学会如何避免危险。”
责任编辑：张彤
