基于特征显著性感知的双流生成对抗网络攻击算法研究
这是一篇关于对抗攻击,对抗样本,双流生成对抗网络,显著性特征,卷积神经网络的论文, 主要内容为近年来,深度神经网络在图像识别、目标检测等计算机视觉任务中取得了突出表现。尽管如此,现有研究表明深度神经网络模型具有一定脆弱性,即在面对人眼难以察觉扰动的对抗样本时无法给出正确的预测输出。因此,研究对抗攻击过程有助于掌握对抗样本的特性,促进深度神经网络模型进行有针对性防御,从而为未来深度学习模型的安全防护提供指导。传统的对抗攻击方法通常基于梯度优化生成扰动,具有较大的时间复杂度,且生成的对抗样本图像质量不高。基于生成对抗网络的对抗攻击方法作为一种学习型方法,能够通过生成模型和对抗损失优化学习快速生成样本扰动。尽管如此,现有的对抗攻击方法仍需要对图像全局进行无差别扰动,没有考虑图片中目标的内在特性,仍然面临扰动量大、迁移性弱两个问题。为解决上述两个问题,提出一种基于特征显著性感知的双流生成对抗网络攻击算法Fads GAN。具体来说,为解决全局无差别扰动带来的扰动量大的问题,提出基于掩码的双流生成对抗网络,通过设计扰动生成器和掩码生成器,在快速完成对抗样本生成的同时,进一步约束扰动范围,优化对抗样本质量;为解决对图像目标内在特征关注度不足带来的迁移性弱的问题,提出基于聚合梯度的特征显著性感知方法,利用聚合梯度捕捉目标相关的重要性特征,通过特征显著性相关的损失优化扰动生成,增强对抗样本的迁移性和鲁棒性,提高对抗样本在黑盒攻击场景下的攻击成功率。在CIFAR-10和Image Net子集上进行了实验,结果表明提出的Fads GAN算法与目前主流的攻击方法相比取得了更优的性能,其中在Image Net子集上以Mobile Ne V2为源模型进行黑盒攻击时较基线算法攻击成功率分别提升了3.52%和28.8%。进一步的实验分析表明,Fads GAN能够捕捉目标相关的重要性特征,在保证攻击成功率的情况下快速生成高质量的对抗样本。
面向恶意软件检测模型的对抗攻击与防御研究
这是一篇关于深度学习,对抗样本,恶意软件对抗样本,对抗攻击,对抗防御的论文, 主要内容为随着互联网技术的快速发展,恶意软件在网络空间中的传播成本降低,网络空间中大量的恶意软件给社会安全带来极大挑战。深度学习技术已经在图像分类、目标检测、语音识别、推荐系统等任务中取得显著进展,结合深度学习技术进行恶意软件检测已经成为重要研究方向。然而,最近的研究表明深度学习模型存在鲁棒性不足的问题,容易受到对抗样本的对抗攻击。攻击者可以通过生成对抗样本欺骗深度学习模型。以深度学习恶意软件检测模型为例,攻击者可以生成与恶意软件具有相同恶意功能的恶意软件对抗样本,令检测模型将恶意软件对抗样本分类为良性软件,实现恶意软件检测逃逸。目前,恶意软件对抗样本的研究主要从攻击方角度和防御方角度展开。在攻击方角度,面向恶意软件检测模型的对抗攻击研究仍存在一些待解决的问题。第一,在黑盒场景下实现对抗攻击时,现有方法生成的恶意软件对抗样本丧失了功能性,且注入的扰动量过高、攻击成功率低。第二,在白盒场景下实现对抗攻击时,由于恶意软件存在离散性,导致现有方法生成的恶意软件对抗样本攻击成功率不高,且生成过程耗时过长。在防御方角度,面向恶意软件检测模型的对抗防御研究仍存在一些局限性。现有的对抗防御研究主要基于图像、文本领域展开,导致现有的对抗防御方法不能直接应用于恶意软件对抗样本防御。为解决上述问题,本文针对深度学习恶意软件端到端检测模型,提出两种对抗攻击方法,分别应用于黑盒和白盒场景。另外,提出一种对抗防御方法,防御恶意软件对抗样本黑盒、白盒攻击。主要工作如下:1.针对黑盒攻击中存在的恶意软件对抗样本功能性无法保留、注入扰动量高、对抗攻击成功率低等问题,提出基于遗传算法的恶意软件对抗样本黑盒攻击方法。该方法将恶意软件对抗样本生成问题描述为最优化问题,通过遗传算法增强扰动的对抗性,并结合功能性保留操作注入扰动,生成恶意软件对抗样本。扰动的对抗性增强,降低了扰动注入量,提高了对抗样本攻击成功率。实验表明,该方法可以在黑盒场景下,生成扰动量低、功能性保留的恶意软件对抗样本,且与现有方法相比,该方法的对抗攻击成功率平均提高了56.4%。2.针对白盒攻击中存在恶意软件对抗样本攻击成功率低、生成过程耗时长等问题,提出基于梯度的恶意软件对抗样本白盒攻击框架。该框架通过反向梯度下降法迭代更新输入端扰动,并使用功能性保留操作注入扰动,生成恶意软件对抗样本。反向梯度下降法是一种高效的扰动增强思路,可以缩短生成对抗样本的时间。除此之外,将该框架应用于恶意软件灰度图检测模型和Mal Conv模型,分别提出FGAM(Fast Generate Adversarial Malware)和GAMBD(Generating Adversarial Malware Based on Gradient),实现恶意软件对抗样本白盒攻击。实验表明,该方法可以在白盒场景下,高效、快速的生成恶意软件对抗样本。FGAM与现有方法相比,对抗攻击成功率平均提高84%。GAMBD与现有方法相比,对抗攻击成功率可以达到100%,且生成恶意软件对抗样本的平均时间缩短了30倍。3.针对现有对抗防御研究无法直接应用于恶意软件对抗样本防御的问题,提出基于对抗训练的恶意软件对抗样本防御方法ATWM(Adversarial Training for Windows Malware)。首先通过预处理过滤简单扰动,防御简单对抗样本攻击,避免对抗训练导致的精度下降。其次结合恶意软件结构特点,使用多样化对抗样本进行对抗训练,提高恶意软件检测模型的对抗防御能力。实验表明,ATWM提高了模型的对抗防御能力,在模型精度未出现下降的前提下,模型对抗防御能力平均提高16.7%。
深度神经网络对抗样本生成方法研究
这是一篇关于深度神经网络,对抗样本,目标攻击,生成对抗网络,多尺度梯度的论文, 主要内容为对抗样本指的是向模型输入样本添加一些精心设计的微小扰动后,视觉上跟干净样本无法区分的样本,会导致深度学习模型输出错误的结果。深度学习模型容易受到对抗样本攻击的影响,随着深度学习的不断发展,对抗样本成为一个热点研究问题。对抗样本涉及到神经网络的安全和鲁棒性问题,是深度学习与计算机安全的结合,是一个新兴的研究领域。研究对抗样本的生成有助于帮助发现模型的盲区,检测网络模型的鲁棒性。本文主要针对深度神经网络对抗样本生成方法进行研究,主要工作包括以下几个方面:(1)研究了对抗样本对基于深度神经网络的图像分类模型的影响,提出一种在白盒场景下基于生成对抗网络(Generative Adversarial Network,GAN)生成对抗样本的方法,能够对图像分类模型进行目标攻击。GAN的生成器的输入为原始数据,输出为对抗扰动,对抗扰动加到原始数据上形成对抗样本′,即′=+。使用GAN损失、对抗攻击分类损失、像素损失和循环一致损失四种损失函数对生成的对抗样本进行约束。(2)证明了医学图像分割模型会受到对抗样本的影响。现有的针对语义分割模型的攻击方法都是基于最后一层损失函数的梯度反向传播进行扰动。本文提出了一种在白盒场景下基于多尺度损失函数的梯度生成目标分割掩码攻击医学图像分割模型的方法,计算多个中间层特征的损失和最后一层损失函数,研究了医学图像分割模型的脆弱性。使用目标攻击损失,特征激活损失,分割二值交叉熵损失和像素级损失用于目标对抗样本的生成。(3)最后,在MNIST,CIFAR-10和Image Net等基准分类数据集的大量实验结果表明,本文提出的基于GAN生成的对抗样本提高了对抗样本的攻击强度,提高了对有防御和无防御的两种情况下的目标分类模型的攻击成功率。此外,在ISIC皮肤病变分割数据集和青光眼视盘分割数据集上的实验证明,本文提出的基于多尺度梯度方法生成的对抗样本的预测掩码跟目标掩码之间具有很高的Io U并且具有较高的像素准确率,并且降低了对抗样本和干净样本之间的2和∞距离,减少了攻击成功所需要的扰动。
文本分类场景下的对抗样本生成技术研究
这是一篇关于对抗样本,文本分类,机器学习,深度学习的论文, 主要内容为人工智能模型因其优异的表现,被广泛应用于机器翻译、数据挖掘、推荐系统等自然语言处理领域。文本分类作为上述任务的核心技术,因人工智能相关技术的突飞猛进得到更广泛的使用,已经渗透于人们日常生活的方方面面。虽然机器学习模型在分类等任务中的准确率非常高,但是最新研究表明,对抗样本可显著降低分类模型的准确率,机器学习模型的安全性问题也逐渐引发社会的高度关注。为了进一步探究机器学习模型在文本分类任务中的脆弱性,深入理解深度学习模型的内部机理,本文从对抗样本生成技术的角度进行研究,在文本分类任务中实现了对抗样本的生成,期望以攻促防,为未来构建一个更强大、安全性更高的文本分类系统提供思路。本文着眼于文本分类场景,提出三种文本对抗样本生成技术以解决文本对抗样本生成中的难点:还原问题(对抗向量无法还原为一个合法单词)、可察觉问题(对抗样本易引发人类的察觉)和实用性问题(对抗样本生成的前提假设过多),具体如下:针对朴素贝叶斯算法的对抗样本生成技术(Bayes-based Attack),该攻击属于白盒策略下的单词级攻击。Bayes-based Attack利用朴素贝叶斯的算法原理获取有效的攻击词汇,并通过四种扰动方法对原始样本进行修改,从而生成对抗样本。本文通过大量实验表明,Bayes-based Attack可对基于朴素贝叶斯算法的文本分类模型实现有效攻击,导致模型的准确率由95%下降至30%以下。同时,Bayes-based Attack生成的对抗样本不易被人察觉,在多个可用性评估指标上表现良好。最后,Bayes-based Attack可有效解决还原问题。针对白盒深度神经网络的对抗样本生成技术(DNN-white Attack),该攻击方法属于白盒策略下的单词级攻击。DNN-white Attack的目标模型主要是深度神经网络,该攻击使用计数匹配(Counter-fitting)后的词嵌入模型,提高对抗样本的攻击效果。本文通过大量实验表明,DNN-white Attack可攻击大多数深度学习模型,实现70%以上的攻击成功率,并且对抗样本和原始样本之间的语义相似度高达80%以上,故DNN-white Attack生成的对抗样本具有良好的攻击性和可用性。最后,DNN-white Attack很大程度上可解决还原问题和可察觉问题。针对黑盒深度神经网络的对抗样本生成技术(DNN-black Attack),该攻击方法属于黑盒策略下的句子级攻击。DNN-black Attack借鉴集成学习思想,能提高对抗样本的攻击性;同时,该方法使用基于规则的文本生成技术,大大增强对抗样本的实用性。本文通过大量实验表明,DNN-black Attack可将目标模型的准确率由90%以上降低至20%以下,最高可实现95%的攻击成功率。同时,DNN-black Attack生成的对抗样本不包含非法字符和语法错误,不易被人和机器察觉,具有极大的现实应用场景和研究意义。最后,DNN-black Attack基本解决了还原问题、可察觉问题和实用性问题。综上,针对文本对抗样本生成过程中的难点:还原问题、可察觉问题和实用性问题,本文提出了三种文本领域的对抗样本生成技术——Bayes-based Attack、DNN-white Attack和DNN-black Attack。本文通过大量实验证明,上述三种方法生成的对抗样本均具备良好的攻击性和可用性。
基于知识图谱的持续学习的问答系统研究
这是一篇关于持续学习,问答系统,关系抽取,对抗样本的论文, 主要内容为问答系统在生活与工业中有着广泛的应用,比如智能客服、智能音箱等。但目前的问答系统大都是静态的,一旦训练并部署后,无法再进行知识更新,用户与问答系统的交互语料也没有得到充分利用。即使获得了交互预料,但由于深度神经网络的灾难性遗忘特性,直接使用获取的新交互语料数据训练模型,会导致模型在之前数据上的表现变差。针对以上问题,本文构建了持续学习问答系统框架,处理并存储用户交互信息,并提出了持续学习的关系抽取算法解决灾难性遗忘问题,同时提出对抗样本搜方法增强模型鲁棒性。本文的主要工作如下:从问答系统整体框架结构入手,本文提出了一种基于知识库的持续学习的问答系统框架。在问答系统中增加输入文本分类、问题生成等与用户反馈相关的模块,问答系统能适时向用户询问,并对用户的反馈进行处理,从用户答案中构建三元组和样本,三元组存入知识库,样本供训练模型使用。实验结果表明本文提出的持续学习问答系统可以通过交互信息提高系统表现,具有持续学习效果。问答系统要实现持续学习能力,除了需要持续学习的框架外,还需要组成问答系统的模型也具有持续学习能力。因为系统部署后会持续产生新的语料数据,系统中如关系预测模型等需要不断从新数据上学习以适应新的数据。如果在新数据上直接训练模型,模型会发生灾难性遗忘问题。针对该问题,本文提出了基于模型参数线性联通性的持续学习关系抽取算法。该算法在新任务数据上训练模型时,通过优化参数保证最终模型参数与训练前模型参数的线性路径上损失不增加,从而保证模型不会遗忘已学习的任务知识,实现持续学习。该算法另外使用回放样本与新任务数据一起间隔交替训练模型,巩固模型知识,减缓模型遗忘。在多个数据集上的实验结果表明,本文的持续学习关系抽取算法相比于其他持续学习关系抽取算法有更好的持续学习效果。部署后的持续学习问答系统虽然能持续获取语料数据,但单个任务对应的数据较为稀少。针对单个任务样本较少、训练模型不鲁棒的问题,本文提出了基于量子行为粒子群优化算法的对抗样本搜索算法。相比于其他对抗样本搜索算法,本文使用的量子行为粒子群优化算法有更好的全局搜索能力。本文算法先基于义原找到文本中每个词的替代词组成样本搜索空间。然后针对文本空间的离散性,对量子行为粒子群优化算法进行改进,使用改进的算法搜索样本,同时结合了变异操作引入随机性。多个数据集上的实验结果证明了本文算法在搜索对抗样本上的有效性,具体的案例分析直观地说明了本文算法得到的对抗样本有更好的质量。本文从持续学习问答系统结构框架、关系抽取模型算法、模型鲁棒性三个方面对持续学习的问答系统进行了研究。同时在相应的数据集上通过实验验证了有效性。本文的研究对问答系统的在真实场景下的应用有一定意义,但还需更多相关研究推动问答系统的进一步落地。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：毕设驿站 ，原文地址：https://m.bishedaima.com/lunwen/47771.html
