特稿：人工智能开发应用当有底线
发布时间：2019-11-01 13:50 | 来源：中国法制与新闻网
文 薛军
套用法国著名微生物学家路易斯·巴斯德的话，科学无国界，技术应用应该有边界，人工智能开发应用应该有底线。
自1956年夏季以麦卡赛、明斯基、罗切斯特等为首的年轻科学家第一次提出“人工智能”术语以来，经过60多年的发展，这个英文缩写为AI的技术日渐走进普罗大众的生活，并深深影响着每个人的吃穿住用行，甚至习惯、爱好、情感。
当许多人还沉浸在阿尔法击败人类顶尖高手职业围棋九段李世石的愤懑中时，“少女画家小冰”已携“完全原创”的绘画徐徐走来……你我尚未酣睡，AI换脸APP“ZAO”又强势来袭，只需上传一张个人照片，你可以秒变“玛丽莲梦露”，和“周润发”合影……这个打出“仅需一张照片,出演天下好戏”口号的换脸软件“ZAO”,比百度创始人李彦宏乘坐无人驾驶汽车进北京、中国药科大学人脸识别技术进课堂，溅起的浪花更大、更高。
耶鲁大学技术与伦理研究中心主任温德尔·瓦拉赫说，人工智能如同黑盒子一般，当务之急是尽可能地去了解它。但当这个潘多拉盒子无限制地打开，人工智能技术应用的边界、底线又在哪里？仅从“ZAO”来看，它走红不到24小时，已引发了“有手机号，有面部图像，通过技术合成，犯罪分子可以替你和你的家人通话了” 等集体焦虑，并很快引起官方注意，工信部为此约谈了北京陌陌科技有限公司相关负责人。
但“ZAO”不是第一个吃螃蟹的人。2018年4月，美国娱乐网站Buzzfeed发布的一条换脸视频中，美国前总统奥巴马用他的声音和惯用动作讲了一段他从没说过的话。
现代著名物理学家、宇宙学家霍金说，成功创造有效的人工智能可能是我们文明史上最大的事件，但也可能是最糟糕的事情。如何让这人类文明史上最大的事件不变成糟糕的事情？恐怕不但要给开发人工智能的科学家划好红线，而且要给人工智能的应用者划好底线。
这个底线是什么？美国旧金山、奥克兰等城市选择禁止在公共场所使用面部识别技术。欧盟成员瑞典在今年8月根据《一般数据保护条例》（GDPR），向一家试用人脸识别技术监控高中生的出学率的教育机构，开出了高达20560美元（约合20万瑞典克朗）的罚单。
我国在已有的《中华人民共和国网络安全法》、《个人信息安全规范》等法律法规基础上，国家网信办正在制定《网络生态治理规定》。根据9月10日国家网信办公布的《网络生态治理规定（征求意见稿）》（意见反馈截止时间为2019年10月10日）第10条的规定，网络信息内容服务平台发现法律、行政法规禁止发布或传输的信息，应立即停止传输，并予以消除等处置措施，防止信息扩散，保存有关记录，并向有关主管部门报告。否则，将没收违法所得；对拒不改正或情节严重的，处10万元以上50万元以下罚款，对直接负责的主管人员和其他直接责任人员处1万元以上10万元以下罚款，甚者可以关闭网站、吊销相关业务许可证。
科幻小说家艾萨克·阿西莫夫提出了著名的“机器人三定律”，后来又加入了“第零法则”：机器人不得伤害整体人类，或坐视整体人类受到伤害。这是否是人工智能开发应用的最后“底线”？恐怕还要向人类自己要答案。其中，老子李耳的话或可以借鉴：道生一，一生二，二生三，三生万物。抓住“道”、道衍生的“一”、AI应用的底线，法立则祸止。
责任编辑：张彤
