导语
近年来，随着人工智能的蓬勃发展，机器学习技术在网络入侵检测领域得到了广泛的应用。然而，机器学习模型存在着对抗样本的安全威胁，导致该类网络入侵检测器在对抗环境中呈现出特定的脆弱性。本文主要概述由对抗样本造成的逃逸攻击，分为上下两篇。上篇从基本概念出发介绍逃逸攻击的工作机理，下篇则介绍一些针对逃逸攻击的防御措施。希望能让读者更清晰的认知基于机器学习的网络入侵检测器所存在的安全风险。
当网络入侵检测器遇到机器学习
网络入侵检测系统(Network Intrusion Detection System，NIDS)通过采集网络流量等信息，发现被监控网络中违背安全策略、危及系统安全的行为，是一种重要的安全防护手段。面对日益复杂的网络环境，传统NIDS所存在的缺点日益突出，例如系统占用资源过多、对未知攻击检测能力差、需要人工干预等。在此背景下，研究人员迫切地探寻新的解决方案，并将目光投向了发展迅速的机器学习技术。基于机器学习的网络入侵检测器是将网络入侵检测的问题建模成一个针对网络流量的分类问题，从而使用一些机器学习的方法精练出分类模型进行分类预测。目前，多种机器学习算法，例如决策树、支持向量机、深度神经网络等，被用于区分入侵流量和良性流量，并取得了良好的实验结果。
什么是对抗样本
2013年，Szegedy等人首次在深度神经网络(Deep Neural Network，DNN)中发现了对抗样本，并引起了机器学习社区的广泛讨论。对抗样本是指通过对原始的输入样本添加轻微的扰动所产生的输入样本，该样本与原始样本相近，却能够在不改变机器学习分类模型的情况下，导致目标模型输出错误的分类结果。事实上，从传统的机器学习模型到深度学习模型，再到强化学习模型，都存在对抗样本的问题。鉴于目前机器学习技术已渗透到图像识别、自然语言处理、恶意软件检测等多个领域，对抗样本的发现为狂热的机器学习应用浪潮带来了一定的冲击。
图1 一种对抗样本示意图
逃逸攻击
针对基于机器学习的NIDS，攻击者可利用对抗样本来逃逸NIDS对入侵流量的检测，这种攻击被称为逃逸攻击(或对抗样本攻击、对抗攻击等)。图2展示了一种经典的逃逸攻击流程。NIDS部署在被保护网络的边界，通过提取数据包或网络流的特征形成输入样本，然后利用机器学习分类模型来识别该样本是否属于入侵流量。在发动逃逸攻击时，攻击者首先捕获入侵流量所形成的输入样本，通过一定的手段来生成对抗样本，然后回放依据对抗样本产生的入侵流量。由于机器学习分类模型的脆弱性，该流量被NIDS错误分类成良性流量，从而到达受害网络。
图2 一种逃逸攻击示意图
威胁模型
由攻击者发起的逃逸攻击可以从四个维度来刻画，分别是敌手知识、敌手能力、敌手目标、攻击策略。其中敌手知识是指攻击者掌握目标机器学习模型的背景信息量，包括模型的训练数据、特征集合、模型结构及参数、学习算法及决策函数、目标模型中可用的反馈信息等。根据敌手知识，可将逃逸攻击分为以下两类：
(1)白盒攻击。攻击者在完全了解目标模型的情况下发起攻击。在此情况下，目标模型的网络架构及参数值、为样本提取的特征集合、使用的训练方法等信息都暴露给了攻击者，另外在某些情况下还包括目标模型所使用的训练数据集。
(2)黑盒攻击。发起攻击时，攻击者仅对目标模型具有有限的知识，例如攻击者可获取模型的输入和输出的格式和数值范围，但是不知道机器学习模型的网络架构、训练参数和训练算法等。在此情况下，攻击者一般通过传入输入数据来观察输出、判断输出与目标模型进行交互。
对逃逸攻击而言，攻击者可不具备操纵目标模型、操纵目标模型的训练数据的能力。但是敌手能力必须包括可操纵目标模型的测试数据，即攻击者能够对用于测试模型的网络流量进行修改，这种修改可以在网络流(Flow)层进行也可以在数据包(Packet)层。对于逃逸攻击，敌手目的是影响目标机器学习模型的完整性(Integrity)。具体地讲，逃逸攻击的敌手目标包括以下几类：
(1)减小置信度：减小输入分类的置信度，从而引起歧义。
(2)无目标误分类：将输出分类更改为与原始类不同的任何类。
(3)有目标的误分类：强制将输出分类为特定的目标类。
(4)源到目的误分类：强制将特定的输入的输出分类为特定的目标类。
根据敌手知识和敌手目的将逃逸攻击的威胁模型进行整合，结果如图3所示。可以看出，黑盒模式下的有目标攻击将会极大地增加攻击难度。
图3 逃逸攻击的威胁模型分类
常见的攻击策略
逃逸攻击的核心在于如何构造能够使机器学习模型产生误分类的对抗样本。针对基于机器学习的网络入侵检测器，目前研究人员已提出多种生成对抗样本的方法，主要包括以下几类：
(1)基于梯度的方法。该类方法仅适用于白盒攻击。在图像识别领域，Goodfellow等人[15]提出了快速梯度符号(FGSM)法，该方法假设攻击者完全了解目标模型，通过在梯度的反方向上添加扰动增大样本与原始样本的决策距离，从而快速生成对抗样本。随后，改进的方法例如PGD、BIM、JSMA等相继被提出。在此基础上，研究工作[1]-[6]都采用了这类方法来对修改网络流层上特征，进而生成针对网络入侵检测器的对抗样本。
(2)基于优化的方法。该类方法即存在于白盒攻击又存在于黑盒攻击。Szegedy等人[16]首次将寻找最小可能的攻击扰动转化为一个优化问题，并提出使用L-BFGS来解决这个分析。这种方法攻击成功率高，但计算成本也高。Carlini等人[17]对其进行了改进，提出了攻击效果更好的目标函数，并通过改变变量解决边界约束问题，被称为C&W攻击。研究工作[4]-[6]都采用了这种方法来生成攻击NIDS的对抗样本。此外，文献[12][13]研究在黑盒模式下生成对抗样本的问题，同样将其转化为一种优化问题，并分别采用遗传算法和粒子群算法来解决，从而快速搜索出对抗样本。
(3)基于生成对抗网络的方法。该类方法常见于发动黑盒攻击。研究工作[7]-[9]均建立生成对抗网络(Generative Adversarial Network，GAN)来生成对抗样本。一般地，目标NIDS作为GAN的检测器，GAN的生成器则用于产生对抗扰动，并且GAN检测器对输入样本的预测得分将用来训练GAN的生成器。特别地，生成网络一旦训练完毕，就可以有效地为任何样本生成扰动而不需要向目标NIDS发送任何问询。
(3)基于决策的方法。该类方法适用于在黑盒模式下发动攻击。在真实的逃逸攻击中，攻击者很少能够获取目标模型的预测值，针对目标模型仅给出类别标签的情况，Peng等人[14]提出了改进的边界攻击方法来生成DDoS攻击的对抗样本。该方法的主要思想是通过迭代地修改输入样本来逼近目标模型的决策边界。此外，研究工作[10]同样采用基于决策的思想，借助有限的目标NIDS的反馈，不断的在数据包层次上或网络流层次上修改NIDS的原始输入样本，从而生成逃逸的变异样本。与其它方法相比，该类方法需要的模型信息更少、实用性更高，但是需要向目标NIDS发送大量的问询，需要更高的攻击代价。
表1 逃逸攻击的相关研究工作
小结：
机器学习为网络入侵检测提供了新的解决思路，同时也带来了新的安全隐患。在机器学习成为网络安全利器的道路上，攻击与防御之间博弈不断升级，“机器学习+网络安全”的研究依然任重道远。
参考文献
[1] Chi-Hsuan Huang, Tsung-Han Lee, Lin-huang Chang,等. Adversarial Attacks on SDN-Based Deep Learning IDS System[C]. International Conference on Mobile & Wireless Technology. Springer, Singapore, 2018.
[2] M. Rigaki. Adversarial Deep Learning Against Intrusion Detection Classifiers. Dissertation, 2017.
[3] Ibitoye O, Shafiq O, Matrawy A, et al. Analyzing Adversarial Attacks against Deep Learning for Intrusion Detection in IoT Networks[C]. Global communications conference, 2019.
[4] Clements J, Yang Y, Sharma A A, et al. Rallying Adversarial Techniques against Deep Learning for Network Security.[J]. arXiv: Cryptography and Security, 2019.
[5] Wang Z. Deep Learning-Based Intrusion Detection With Adversaries[J]. IEEE Access, 2018: 38367-38384.
[6] Hartl A, Bachl M, Fabini J, et al. Explainability and Adversarial Robustness for RNNs.[J]. arXiv: Learning, 2019.
[7] 潘一鸣, 林家骏. 基于生成对抗网络的恶意网络流生成及验证[J]. 华东理工大学学报(自然科学版), 2019, 45(02):165-171.
[8] Rigaki M, Garcia S. Bringing a GAN to a Knife-Fight: Adapting Malware Communication to Avoid Detection[C]. ieee symposium on security and privacy, 2018: 70-75.
[9] Usama M, Asim M, Latif S, et al. Generative Adversarial Networks For Launching and Thwarting Adversarial Attacks on Network Intrusion Detection Systems[C]. international conference on wireless communications and mobile computing, 2019: 78-83.
[10] Hashemi, M. J., Cusack, G, et al. Towards Evaluation of NIDSs in Adversarial Setting. the 3rd ACM CoNEXT Workshop on Big>
戳这里，看该作者更多好文
男生十大好就业专业有哪些？
男生十大好就业专业有：1、教育类专业；2、计算机类专业；3、通信类专业；4、临床医学专业；5、会计学专业；6、小语种专业；7、医学检验技术专业；8、机械类专业；9、网络与新媒体专业；10、物流管理专业。
俗话说，“男怕入错行,女怕嫁错郎”。 考大学选专业是一件非常重要且谨慎的事情，关乎未来的发展和选择，对毕业后工作影响甚远，但是很多人不知道自己适合什么样的，也不了解目前的就业市场和自己专业的发展前景，下面给大家介绍一下男生十大好就业专业。
1、教育类专业
教育行业一直是朝阳行业，人们永远都离不开教育。 尤其是全面放开二胎后，我国的幼儿教育、中小学教育等教育教学岗位不仅需求量上升，而且行业就业率和薪资水平都大大增加，对于男生来说，教育类专业也是很不错的选择。
2、计算机类专业
现在各行各业都离不开计算机，可以说计算机是很多行业生产力支柱，可想而知其行业前景，而2020年本科就业绿牌专业就包括很多计算机类专业。 总的来说，计算机专业就业前景广阔，就业率高，是很适合男生选择的专业。
3、通信类专业
随着5G时代的到来，通信行业又将得到很大的发展机会，这意味着行业前景会越来越好，就业机会也会越来越多，如果在大学里好好学习，想必未来的就业前景和薪资待遇都会很好。
4、临床医学专业
首先，随着经济水平的发展人们也更加注重医疗，我国的各类医疗机构数量是一直在增加，这说明岗位会很多，就业机会多。 而且医疗和教育一样都是不可或缺的，只要同学们好好学习，找到一个好工作肯定不成问题。
5、会计学专业
会计学专业更像是一个辅助类的专业，它和各行各业相互依存，各行各业都不能缺少会计进行工资管理、申报税务等重要任务，而这些岗位也不能脱离各行各业独立进行。 由此才会被认为是值得选择的专业。
6、小语种专业
语言类专业一直是热门专业，因为它于师范专业有着密切的联系，语言类专业既可以去当翻译、外交官，也可以去做教师，就业选择很多。 像是法语、西班牙语等小语种专业人才，社会上需求量很大，且薪资待遇都非常不错。
7、医学检验技术专业
医学检验工作主要是为医生做出治疗方案时提供依据。 可以说，任何医疗机构都不能缺少医学检验技术专业的人才。 而且随着人们生活水平的上升，对于自身的身体健康更加重视，这就是使得对医学检验技术专业人才的需求量在不断扩大，就业前景也是极为可观。
8、机械类专业
机械类专业的人才是我国工业发展的基础。 虽然目前正处于产业转型之中，但是机械类专业技术性很强，找工作比较容易，而且可替代性非常低，失业率低。
9、网络与新媒体专业
互联网时代，什么产品都离不开网络推广，网络与新媒体专业正好赶在了风口上，无论是帮公司运营微博、公众号等账号，还是做自媒体都是前景广阔的选择。 据数据统计，新媒体专业学生就业率超过92%。
10、物流管理专业
物流行业前景十分广阔，尤其是在电商行业兴起以后，市场不断扩大，对于管理人才的需求也在不断增加，就业机会很多。
社交零售会难做吗？
新零售是2016年马云在杭州的云栖大会上提出的新零售概念出以来，新零售所提倡的线上+线下相结合，消费场景就是线下的体现，弥补线上消费带来的体验感不足带来的劣势，同时将线下的资源带到线上。 与此同时，将线上的资源向线下引导，形成线上与线下资源的互补。 目前社交新零售的应用十分广泛，特别在零售社区团购，同城配送，生鲜板块。 目前新零售主要用线上商城、小程序、app等这些工具来实现线上+线下的互通，实现转型。 如果你是零售店家，利用线上的商城以满足展示，选购，筛选，扫货购物等需求与浏览购买、结算、收藏、分享、物流查询、门店自提、线上客服等在线服务，成为方便满足客户在线上发起到结算一系列流程，之后便可以使用进销存系统对新的出入库商品进行扫描，日常仓库的入库、出库，到门店的入库、销售的整体流程通过小程序的方式转换为线上操作，实现了仓库扫码出/入库，门店下单进货，门店扫码销售，将繁琐的流程便捷化。 省去了之前繁琐盘点核实库存，补货盘货的大量时间，同时可以根据云客系统将客户录入、客户标签化管理、订单跟踪、绩效管理整合到云端，在互联网大数据的精确计算分析下，给店主和企业主们提供了清晰的数据体现，方便店主在经营的同时更好的进货，铺货，销售高峰期，减少不必要的货物积存，为企业的发展减轻了压力，也可以了解一下龙屹科技的新零售解决方案。 目前这种线上线下新零售的方式已经被无数的商家企业证明了成功，帮助越来越多的传统企业实现了转型，让越来越多的中小企业享受到互联网带来的商业红利期。 小程序作为一个应用场景多，用户使用方便，接入端口丰富的平台，很好的起到了作为一个中间载体的功能，承接了线下到线上的渠道，搭建起了桥梁。 且相较于传统软件app，小程序的造价成本和制作周期有比较大的优势，加快了企业公司的铺排进度，在一些中小企业主眼中，是一个很好的试金石，深得他们的心。 如有进一步的需求，可以继续提问。 望采纳。
孩子初中毕业了考不上高中可以上什么职业学校？
考不上高中的话有以下几点建议：一】如果成绩不是差的太多，就做好复读的准备，在好好努力复读一年争取上个好的高中。 只有上了好的高中才有机会参加高考上个好的大学。 二】有很多家长会选择让孩子上职高，或者是中专，认为可以对口升学上大专。 但是这条路是需要慎重选择的。 很多职高和中专受到国家制度的弊病，教学质量实训设备都是很滞后的，需要靠自己强大的天赋和自制力。 三】现在的社会学历和技能一样重要，所以国家大力鼓励职业教育的发展，考不上高中选择一个好的技校也是不错的选择，但是一定要从就业、口碑、师资、环境等多个方面仔细考察。 选择好的技能拥有一技之长。 国家需要的是高素质的知识分子----初中成绩好上个好的高中然后考好的大学，和高水平的技术人才-------初中成绩不好上不了高中选个好的技校好好学习然后工作中磨炼。
发表评论