2019盘点 | 人工智能与网络宁静的碰撞擦出了什么新火花
宣布时间 2020-01-10转眼间，我们就踏入一个
数字都成双成对的2020年
在过去的时间里
人工智能技术获得了长足生长
不停刷新人们的认知
引发人们对它更多的期望
让我们一起回顾2019
看一看
人工智能与网络宁静的碰撞
擦出了什么新的火花呢
RSAC 2019
人工智能技术从“宣传噱头”逐渐转向实际应用
每年召开的RSA大会被看作是网络宁静业界的风向标，很多新的技术与理念诞生于此。
在2019年的RSA大会上，参展的736家厂商中有124家的宣传主题中包罗人工智能/机器学习要害词，这表明了人工智能技术在网络宁静领域继续得到普遍关注与认同。
然而，当我们深入视察比力近两年参展商所进行的宣传时，会发现一些变化，最重要的一点是人工智能技术从作为“宣传噱头”逐渐转向实际应用。具体差异如下表所示：
2018年与2019年RSA大会参展商对人工智能技术宣传的对比
从这些差异可以看出，对于人工智能技术，网络宁静业界“冷静”下来了，不再追求所谓最新、最酷的算法，而是将其真正转化为产物的能力，关注如何能在实际环境中选择恰当合理的方案使其充实发挥作用。
东森平台作为国内网络宁静行业的领航者，始终朝着这一目标努力。在2019年，我们连续致力于将相关研究事情结果转化为实际产物能力，在威胁检测、用户行为画像、威胁情报等方面都已经取得了实质性进展。
Gartner 新兴技术成熟度曲线
可解释人工智能崛起打破人工智能技术的“黑盒”应用模式
2019年8月，Gartner宣布了新一年度的新兴技术成熟度曲线。一如过去两年，人工智能技术继续占据了“半壁江山”。在曲线上总计29项技术中与人工智能直接相关的到达15项，这再次印证了人工智能技术的连续高速生长以及它所受到的高度关注与期望。在这些技术中，有的是延续上一年仍在曲线上，如自动驾驶、知识图谱等，也有很多是新泛起的，就好比我们下面要讨论的可解释人工智能（Explainable AI，简称XAI）技术。
2019年Gartner新兴技术成熟度曲线（人工智能相关技术用红色下划线标示）
可解释人工智能这一研究领域早在2014年就被正式提出，它的主要目标是将人工智能技术的“黑盒”应用模式打破，让人们可以理解人工智能做出的决策。人工智能“黑盒”应用的问题在网络宁静领域尤为重要，因为它不仅给结果的准确性认定带来了困难，而且会造成难以深入分析、无法追踪溯源的情况，甚至会导致人们对于人工智能技术的不信任。因此，在网络宁静领域接纳可解释人工智能要领，将有助于解决上述问题，使得基于人工智能构建的网络宁静应用更容易被人们所接受。
人工智能“黑盒”应用在网络宁静领域中存在的问题
东森平台对于前瞻性技术一直坚持积极探索的态度，在2019年我们实验将可解释人工智能的要领应用于之前基于深度学习算法所构建的网络宁静威胁检测模型，取得开端结果，能够用可视化的要领直观标示出对算法模型所做出的决策发生重要影响的原始输入数据中的要害部门（即更可能包罗有宁静威胁的部门）。
Gartner宣布2020十大战略性技术趋势
拥有三维含义的人工智能宁静位列其中
2019年10月，Gartner宣布了2020十大战略性技术趋势，其中“AI Security”（人工智能宁静）位列其中。但是，这里的人工智能宁静不仅是指将人工智能技术用于网络宁静防御，而是给出了它的三维含义，即� ；I赋能的系统、利用AI来提升宁静防御以及对AI的恶意使用。
Gartner宣布的2020十大战略性技术趋势
● � ；I赋能的系统
� ；I赋能的系统主要是关注人工智能自身的宁静问题。日前，一条关于一家美国AI公司使用3D打印的面具破解包罗支付宝、微信支付等人脸识别系统的新闻刷爆了各大媒体，这正是AI赋能的系统遭受攻击的典型案例。此外，AI赋能的系统还会受到训练数据投毒、模型窃取、反抗样本等多种类型的攻击。未来，随着AI的日益广泛应用，这方面的问题将会越来越多地泛起在人们面前。因此，当我们接纳AI赋能网络宁静防御系统时，也应关注其自身的宁静问题。
● 利用AI来提升宁静防御
利用AI来提升宁静防御是网络宁静领域最早关注的方面。Gartner在陈诉中指出不能仅依靠机器学习作为宁静解决方案中的单一防御技术，基于机器学习的宁静工具也不是为了完全取代现有工具而设计的。这告诉我们不应过度神话机器学习等AI技术在网络宁静应用中的能力，而应保持理性态度，分析选择适合的应用场景，使其发挥最大价值。
● 对AI的恶意使用
对AI的恶意使用也是近年来时常被提及的话题，一个广为人知的实例是DeepFakes的恶意使用。DeepFakes是一款AI换脸工具，可将图片或视频中的人换脸，恶意使用则包罗伪造图片或视频用于欺诈、流传虚假消息、制作色情内容等。在网络宁静领域，AI也可被利用来辅助攻击，例如Cyxtera公司演示了一个基于机器学习的钓鱼攻击生成器，可以自动结构出能骗过检测系统的有效钓鱼链接及邮件。另一个知名案例是应用了强化学习算法A3C的自动渗透测试工具Deep Exploit，可实现一定水平上的自主学习生成漏洞利用载荷。借助AI能使得攻击越发自动化和难以防御，未来很有可能泛起AI之间的攻防反抗。
个性动图支解线
随着人工智能与网络宁静的深入融合，越来越得到业界的关注与认可。未来，东森平台将继续基于AI的恶意代码识别与威胁检测、用户实体行为分析、宁静知识图谱等研究积累的基础上，与其他技术及可解释人工智能要领等相结合，向着打造“可用、实用、易用、好用”的基于AI的网络宁静应用的目标不停前进，并紧密跟进人工智能宁静的另两维含义所涉及的相关前沿技术研究，谱写AI赋能网络宁静的新篇章。
京公网安备11010802024551号