人工智能在网络安全领域应用的挑战

人工智能并不是近年来的新概念，自上世纪50年代起就已有人工智能的相关研究了。随着相关技术的不断突破，人工智能在数十年的发展历程中也出现了数次高峰波谷，而近年来深度学习应用大获成功，开始推动人工智能在很多行业的前进。当前在某些领域，如图像识别、棋类竞技，人工智能已经演进到第三代，有了超越大部分人类的智能水平，甚至学术界已经开始讨论“强人工智能”，也就是能自我推理和决策的智能了。人工智能是否能应用在网络安全领域？这是一个非常值得探讨的问题。事实上，网络安全的本质在于攻防双方之间的对抗，而棋类竞技本质也是棋手之间的博弈，两者在某些方面存在共通之处。众所周知，以AlphaGo/AlphaGo Zero为代表的对抗学习技术，已经能成功挑战人类顶尖棋手。此外，三星、脸书（Facebook）以及中科院自动化所分别以95.91%、90.86%、87.11%的胜率在2018年“星际争霸AI挑战赛”中荣获前三名。将人工智能技术应用在博弈对抗的领域似乎非常有前景，人工智能在网络安全领域的成功应用似乎也指日可待。攻击者绕开检测特征，产生漏报世界上的主要科技强国，包括中美两国，都将网络空间安全纳入到国家安全的范畴，也成立了相应的网络安全部队，换言之，网络空间对抗的最高形态，已无异于战争。孙子曰：“兵者，诡道也。”军事虽有理论支撑，但兵法运用之妙，存乎一心。真实战争不存在定式，无论是物理形态的战争还是网络空间对抗，攻击者不会遵从对方的防守体系，或者按照防守方的思路去层层突破，从古到今以弱胜强的经典战役均是出其不意、攻其不备，找到对方的弱点和漏洞，重点突破。更何况，如今国家支持的威胁（state-sponsored threat），已经超越了地理或物理的限制，攻击方将未知漏洞纳入武器库，持续潜伏，伺机一击必杀。越是对抗高的场景，检测引擎越容易被攻击者绕过。本质上人工智能将模型特征替换了规则，但如果攻击者的恶意行为模式在当前的人工智能算法选择的特征集之外，就有可能绕过这些算法引擎，形成“降维打击”。举一个简单的例子。企业中普遍使用网络侧的安全检测和防护机制，但现在攻击者通常会使用加密技术使恶意软件与主控端（C&C）通信以实现持久化，因而即便使用网络侧人工智能能够识别一些规则无法覆盖的新型攻击载荷，但对于加密流量则难以生效。又如，为了躲避各类网络和终端的安全探针，在近年的各类大型攻防演练中，攻击者倾向于采用前期钓鱼、社会工程（库）等方式获得内部员工的合法身份，进而在业务层窃取数据或横向移动，导致在后期，所有网络层面或终端层面的人工智能检测引擎无能为力（因为没有网络或操作系统层面的恶意攻击行为）。事实上，每年攻防演练的情势都不同，被动地补齐上一年场景中的检测能力，效果不会尽如人意。正所谓“道高一尺，魔高一丈”，攻防永远是技术、思路的对抗博弈，期望人工智能在某个细分领域获得成功以解决所有问题的思路是不切实际的，这也是当前体系化安全大脑尚不成熟的重要原因。

概念漂移，多场景检测率低深度学习在工业界的很多应用（例如图像识别）中性能优异，得益于海量样本的训练。在学术界，从事人工智能的研究者通常可以根据某个特定场景，设计一种有针对性的算法和模型，然后针对某个公开数据集或私有场景获得的数据集调整模型，以获得良好的性能。然而，对于网络安全中的样本学习，最大的挑战在于缺乏标记的样本，因为缺乏有经验的安全人员，内部环境中的攻击事件也很少。我们可以针对某次对抗演练，人工地将探针数据划分为训练集和测试集，然后在这个数据基础上训练得到模型参数，最终验证得到很好的检测准确率和召回率。但是，该场景黑白样本的绝对数量还是太少，原因是当前安全专家太少，无法对网络、终端和应用行为进行大规模标记，而一般水平的安全运营者缺乏标记能力，这与人类具有普遍认知能力的图像识别场景截然不同。这种情况导致该场景的模型参数可能在其他演练场景下性能非常糟糕，也就是概念漂移，其原因也很直观：1. 攻击者会时常调整攻击手法，即便方法类似，具体攻击载荷可能与前一次存在很大差异，现有模型可能会有漏报。

2. 不同机构的业务差异很大，训练环境中的白样本与测试环境的白样本不同，导致黑白样本的分界线产生偏移。

溯源图依赖爆炸，还原攻击路径困难在网络空间战场中，攻击者的行为是复杂多变的。在确定攻击事件后溯源攻击者的攻击路径，对安全运营人员来说是十分必要的。溯源如同大海捞针，困难重重，其中最大的挑战在于溯源图过于庞大，难以找到攻击者关键的攻击路径。例如在靶场环境中，攻击者先通过文件漏洞上传到服务器；然后，利用漏洞连接靶机虚拟终端采集信息并提权（提高自己在服务器中的权限以便控制全局）；接着，实现对靶机的持久化控制，并以该靶机为出发点进行内网横向移动。针对这种攻击模式，结合网络侧与终端侧数据构建有效的溯源图是进行攻击溯源的关键。溯源图主要是挖掘进程、文件、IP、注册表、服务等实体之间的依赖关系。这种依赖关系在正常用户行为中也存在。与正常用户行为相比，攻击者的攻击路径只占整个溯源图的极小部分。以前述场景为例，溯源图包含了1000多个顶点与200多万条边，而安全运营人员关注的仅仅是图1中简单的攻击路径。因此，攻击溯源首先要解决的问题就是从复杂的大规模溯源图中找到攻击者的攻击路径，也就是通常所说的依赖爆炸问题，这给溯源带来了很大的挑战。