人工智能对网络空间安全的影响
关注 走向智能论坛 ，与我们同行！
人工智能技术作为一个新兴技术手段，可以为经济、军事、文化等产业注入新的生命力。同时，人工智能也带来了不少的挑战，对国家的安全、经济发展、社会稳定、信息保护等方面都有着直接或者间接的影响。本文来自：中国信息安全，原文刊登于《中国信息安全》杂志2018年第5期，经授权由《走向智能论坛》微信公号推荐阅读。
中国信息安全测评中心张阳：人工智能对网络空间安全的影响
配图来自网络
在移动互联网、大数据、超级计算、传感网、脑科学等新理论新技术以及经济社会发展强烈需求的共同驱动下，人工智能呈现出加速发展，深度学习、跨界融合、人机协同、群智开放、自主操控等新特征。随着我国《新一代人工智能发展规划》（2017）和《人工智能标准化白皮书》（2018）的印发和实施，中国国家层面的人工智能战略走向了前台，人工智能的迅速发展将会深刻改变人类社会的现有结构，成为新一轮产业变革的核心驱动力，因此，人工智能的安全问题也会愈发引起重视。
一、人工智能发展的国家战略
人工智能是引领未来的战略性技术，也是国家实力的重要组成部分。世界主要发达国家把发展人工智能作为提升国家竞争力、维护国家安全的重大战略，加紧出台规划和政策，围绕核心技术、顶尖人才、标准规范等强化部署，力图在新一轮国际科技竞争中掌握主导权。
美国早已开启了人工智能技术的国家发展战略。奥巴马政府时期，美国防部（DOD）下属的高级情报研究计划署（IARPA）于2015年发布为期五年的项目“大脑皮层网络机器智能（MICrONS）计划”，白宫科技政策办公室（OSTP）下属的国家科学技术委员会（NSTC）于2016年10月发布《国家人工智能研究发展战略计划》和《为了人工智能的未来做好准备》，其标志着作为世界上最有影响力最发达国家的美国,开始了面向人工智能时代的国家努力；特朗普政府时期，总统行政办公室（EOP）于2016年12月发布的《人工智能，自动化和经济》报告，哈佛大学于2017年7月发布的《人工智能与国家安全》，后者认为未来随着技术的持续进步，AI将像核武器、飞机、计算机和生物技术一样，日益成为可影响国家安全的变革性技术。
我国为抢抓人工智能发展的重大战略机遇，构筑我国人工智能发展的先发优势，加快建设创新型国家和世界科技强国，于2017年7月8日印发《新一代人工智能发展规划》，该报告标志着我国人工智能发展进入到国家快车道。同年11月15日，国家科技部公布了4大人工智能平台依托百度公司建设自动驾驶国家人工智能开放创新平台，依托阿里云公司建设城市大脑国家人工智能开放创新平台，依托腾讯公司建设医疗影像国家人工智能开放创新平台，依托科大讯飞公司建设智能语音国家人工智能开放创新平台。在2018年1月18日，我国召开国家人工智能标准化总体组、专家咨询组成立大会，并发布了《人工智能标准化白皮书(2018版)》通过系统梳理、加快研制人工智能各领域的标准体系，明确标准之间的依存性与制约关系，建立统一完善的标准体系，以标准的手段促进我国人工智能技术、产业蓬勃发展。
二、人工智能技术对网络空间的安全挑战
人工智能技术作为一个新兴技术手段，可以为经济、军事、文化等产业注入新的生命力，能够将人从简单性、重复性、危险性的劳动中解放出来。不过，尽管人工智能技术可以为国家的发展带来新鲜的生命力，它也带来了不少的挑战，对国家的安全、经济发展、社会稳定、信息保护等方面都有着直接或者间接的影响。综合而言，人工智能技术对我国网络空间的安全主要有以下四个方面的影响。
1. 网络空间不稳定性增加
人工智能技术作为新兴崛起的技术方向，自身理论和外部技术以及配套环境尚未完全成熟，因此其会从内部风险和外部风险两个方面影响我国网络空间的稳定性。
一方面，人工智能对网络空间稳定性的内部风险是指由人工智能技术本身理论和应用基础所带来的风险，这部分风险很难预判。人工智能技术的理论基础在于计算机、统计学、机器学习、数据挖掘、深度学习等等专业，这些学科很大部分建立在概率论和数理统计的基础上。因此，人工智能并不是简单的一对一的映照和因果关系，而是由机器主导的一种大概率性正确选择和判断。尽管从理论而言，人工智能运行中的风险事件的发生概率很低，但是现有技术无法预估其带来的损失边界和安全边界，其何时发生、在哪个节点发生以及为何发生更是难以预测。所以，同传统的计算机程序相比，人工智能程序的内在风险更高。在人工智能的发展历史上，人工智能机器人伤害人的事件也已见诸报端。1989 年，一次国际象棋界的人机大战中，前苏联国际象棋冠军古德柯夫连胜三局，智能机器人棋手突然向金属棋盘释放出强电流，于众目睽睽之下将古德柯夫击毙。2017年，Facebook的两个对话机器人更是在对话的过程中生成了人类看不懂的语言，官方为谨慎起见只能将其关停。伴随着人工智能技术的大规模落地和深入使用，网络空间中的许多节点和应用都将交给人工智能打理，在这样的大背景下，如何降低和规避人工智能技术的技术风险，以及降低风险事件对网络空间和现实社会的影响，需要我们深思。
另一方面，人工智能对网络空间的外部风险是指来源于人的风险，尤其指技术人员对人工智能技术和系统的不规范使用和恶意攻击。人工智能技术处于蓬勃的发展期，现在的研究热点更多在于理论基础和应用场景的扩展，对人工智能的安全控制的研究并不充分。所以，随着人工智能技术的大规模应用，人为的不规范操作和恶意使用及攻击将会逐渐增多，传统网络空间的一些守护措施譬如验证码验证、身份验证等也会面临着巨大的威胁。
2. 数据和个人隐私泄露的风险扩大
人工智能的蓬勃发展建立在大数据、云计算等平台上，只有依靠硬件平台不断地收集、整理用户的特征数据和行为数据，人工智能的算法才能够持续成长和应用。因此，敏感数据的泄露风险将会不断增加。如果触发人工智能自身的缺陷或者是被黑客攻击，大量敏感的信息将会面临泄露风险，轻则用户个人信息被不法分子掌握，重则危害用户财产安全甚至人身安全。同时，人工智能技术能够便捷地在网络空间收集和识别个人隐私，如文字、头像等信息，并根据这些信息精确刻画个人相关的性格、社会关系、收入和消费偏好等属性，稍不留神，一个人的方方面面就会被人工智能技术全面嗅探到，并暴露在社会之中。所以，在人工智能技术发展和应用的同时，应该尽快从技术、政策、法律和标准等方面保证个人隐私的安全。
3. 网络攻防战场将愈加激烈
当今，工程界和学术界普遍认为人工智能同攻防的结合是网络安全发展的必然趋势，具有极大成长的空间。在传统的网络攻防中，网络安全人员与黑客之间的攻防较量极大的依赖于人员的先验经验积累，在一定程度上属于研发中的劳动密集型工作。人工智能技术的出现和发展可以在一定程度将劳动密集型的工作高度自动化，一方面，网络攻击方可以将网络攻击中的漏洞挖掘、注入、攻击等的行为自动化，提高攻击的效率。譬如，2017年的绍兴市公安局的1·03专案，便是一起利用人工智能进行网络攻击和欺诈行为的事件。嫌疑人运用人工智能技术开发出了一套图像识别系统，这种图像识别技术可以自动辨认出图片上显示的数字、字母、汉字等信息，并且通过深度学习的方式，在实践中不断提升辨认能力。然而，这样的技术却被犯罪团伙运用到了网络诈骗等活动中，给受害者带来了不小的损失。另外一方面，一些安全厂商已经通过将人工智能技术和安全防御策略相结合，构造出了拥有自主学习能力的主动防御系统，该防御系统除了能够应对传统的网络威胁，也可以预防潜在的各类后门攻击，面对各类越来越复杂和智能化的渗透式网络入侵也有一战之力。可以预见到，伴随着人工技能技术在网络攻防领域的深入应用，网络空间中的攻防战场将会愈加的激烈。
作者单位：
张阳——中国信息安全测评中心
声 明
本文来自：中国信息安全，版权归原机构或作者所有，经授权由《走向智能论坛》微信公号推荐阅读。
相关阅读
相关内容
微信扫码咨询专知VIP会员