“戴上“白帽子” 人工智能投身互联网安全攻防战”

本篇文章2448字，读完约6分钟

针对计算机系统和互联网的缺陷和漏洞，黑客们找到实施攻击的机会，白帽子的黑客利用黑客技术测试互联网和系统的性能，判定其抵御入侵的强度。 短短几年间，人工智能已经进入了许多领域，落地无数个场景。 其中一个领域和场景众所周知，另一个进入了我们的视野。 在互联网安全行业，ai“白帽子”已成为互联网安全技术人员的得力助手。

据报道，近期美国市场调研企业cb insights发布的报告预测了2019年人工智能领域的快速发展趋势，其中一个趋势是用人工智能发现互联网威胁。

已启用互联网安全保护

“人工智能技术的繁荣给互联网安全攻防带来的，不仅有机会，也有挑战。 》北京理工大学网络攻防对抗技术研究所所长闫怀志在接受科技日报记者采访时说。

之前说过的一面。 360安全研究院邹权臣博士告诉科技日报记者，目前人工智能已应用于恶意代码检测、恶意流量检测、威胁信息收集、软件漏洞挖掘等互联网安全行业。

“例如在恶意代码的检测中，人工智能根据恶意程序的api调用序列、系统cpu利用率、发送接收的数据包等新闻，自动识别恶意代码的特征，并判定分类。 》邹权臣介绍说，与以前流传的基于动、静态分解的特征检测、启发式检测技术相比，人工智能可以大幅提高检测的准确率。

360安全研究院研究员张德岳表示，在软件漏洞挖掘中，使用人工智能技术从漏洞相关数据中提取经验和知识，使用训练有素的模型提高漏洞挖掘的精度和效率，可以缓解目前该行业研究中遇到的瓶颈问题。 具体的应用场景包括漏洞程序的筛选、源代码漏洞点的预测等。

“人工智能在互联网安全行业的应用越来越广泛，运用人工智能实现互联网空之间的安全，主要体现在积极防御、威胁解体、战略生成、态势感知、攻防等多个方面。 ”闫怀志说，这包括使用人工神经网络技术检测入侵行为、蠕虫等安全风险来源。 使用专家系统技术进行安全规划、安全运行中心管理等，另外，人工智能方法还可以帮助管理互联网空之间的安全环境，如打击互联网诈骗等。

具备明显的“优点”

与一直以来流传的应对网络安全的方法相比，人工智能确实显示出了“过人之处”。

闪怀志认为，人工智能方法在处理人力无法企及的安全大数据统计和提取规则方面具备天然特点，能够全面提高威胁攻击的识别、响应和反制速度，提高风险防范的预见性和准确性。 特别是在异常行为检测等应用场景模糊的不正确识别和匹配中，可以说是这种情况。

“人工智能在检测未知威胁和攻击方面也很出色。 以前流传的特征匹配方法对未知威胁几乎无能为力，因为人工智能方法有时不需要先验知识，对未知威胁的检测能力很强。 ”。 闫怀志说。

不得不说，人工智能系统还具备了价格效率的特征。 闪怀志认为，人工智能将在第一时间进行威胁的预防和识别，并能很快开始紧急应对。 高效的智能检测流程有助于减少人工参与，简化流程，降低价值成本，降低损失。

“以前流传的网络安全措施依赖于人工硬编码定义、特征提取方法来完成相关任务，但人工智能可以直接训练原始数据，从大量数据中提取特征，从而实现分类判断工作的自动化。 ”张德岳表示，这样一来，后者可以提高网络安全中的预测、防范、检测、销售控制等各风险环节的自动化和智能化程度，同时提高响应速度和判定精度。

那样包不住天下

闪怀志说:“人工智能搅动了互联网安全行业的春水，但应该合理考虑人工智能在应对互联网安全方面的优缺点，不能指望仅靠人工智能来包裹世界。”

邹权臣解体了，这方面受限于人工智能算法本身的能力。 传统的机器学习技术依赖于特征提取，而算法的效果和性能依赖于特征的识别和提取的准确性。 深度学习具有从高维数据中自动提取特征的能力，面临着持续学习、数据饥饿、可解释性等问题。

“另一方面，机器学习，特别是深度学习过于依赖数据，但在恶意代码检测、软件漏洞挖掘等行业，目前仍存在数据收集困难的问题，缺乏适合培训的数据集，影响了相关行业的研究。 ”邹权臣还补充说，人工智能消耗计算资源，在很多复杂的深度学习互联网的必要性，很大程度上依赖于计算数百上千次的计算，需要强大的人工智能芯片计算力的支持。

闫怀志从多个方面总结了人工智能的不足。 例如，人类专家在网络安全行业的知识和经验积累容易被忽视或放弃，对网络安全的许多杂务场景考虑不够，对已知威胁的检测效率远远低于以前流传的准确特征识别方法等。

“采用神经网络和深度学习等算法，可以很好地识别未知攻击的威胁风险，达到“知道”的目的，但这些算法一般都是产生这种安全风险的基本机制、安全风险 ”。 闫怀志说。

脆弱的一面带来安全风险

人工智能在处理互联网安全问题时，有时也会表现出脆弱的一面。

“真实环境中面临数据安全、模型/算法安全、安全等多种安全威胁的人工智能系统”张德岳告诉科技日报记者。

张德岳例如在数据安全方面，如果在数据收集和标记时发生错误或被注入恶意数据，就会引起数据污染攻击。 在模型/算法的安全方面，与人工智能算法相比，在黑匣子和白匣子对抗样本攻击、识别系统可能混乱的安全方面，除了人工智能系统自身的代码实现之外，还包括其底层的人工智能框架。

“人工智能对现有互联网安全结构的影响离不开算法、数据、计算能力三个方面，其易受攻击的弱点也来自于此。 ”。 闫怀志总结说。

为了防止人工智能漏洞带来的安全风险，闫怀志指出，首先需要从架构、系统算法的容错入侵设计、漏洞检测与修复、安全结构等方面加强人工智能系统自身的安全。 其次，必须运用其所长尽量缩小暴露在外的潜在攻击面，最后，构建互联网空之间的安全综合防御系统，从安全技术和安全管理等层面共同防范安全攻击，攻击者与人工智能系统进行直接比较，

360来自安全研究院的专家也提出了一些建议。 这包括在数据检索的过程中加强对数据源的控制和过滤，在一定程度上确保数据的安全。 在数据传输过程中，在必须采用更安全的传输协议和加密算法的人工智能系统的实现中，除了保证代码质量，进行完整的测试外，还需要及时更新或修复框架，或者依赖库中存在的漏洞。 (记者刘园园)