基于轻量级深度学习架构的光学零件表面缺陷识别方法研究
这是一篇关于光学零件,表面缺陷识别,卷积神经网络,结构重参数化,剪枝的论文, 主要内容为表面缺陷的准确识别在光学工业领域瑕疵零件快速筛选中起着至关重要的作用。传统的表面缺陷识别算法大多依赖人工来构造有限数量的代表性缺陷特征,但光学零件表面缺陷本征的复杂性(表现为缺陷类内和类间的多变尺度与不规则形状)和微弱性(表现为亚微米级的超浅深度),使得人工构造特征很难区分这种微弱而复杂的缺陷。近年来,深度学习技术凭借自动特征提取和端到端架构逐渐成为光学工业缺陷检测的研究重点。然而,现有的基于深度学习的光学表面缺陷识别算法仍然存在两个问题:首先,大多数算法只关注划痕、麻点等少量制造缺陷,忽略残痕、指印等非制造缺陷;其次,现有算法难以在精度和速度之间取得良好平衡,而这对于瑕疵零件的快速筛选至关重要。鉴于此,本文基于深度神经网络,构建轻量化的光学零件表面缺陷分类模型,实现对光学零件4种制造缺陷和2种非制造缺陷的精准识别。主要研究内容如下:(1)建立光学零件表面缺陷数据库:采集光学零件表面缺陷数据,并对数据进行预处理,共计8500张缺陷图像。后续实验中按照3:1:1的比例,作为训练集、验证集和测试集,为光学零件表面缺陷识别模型提供训练、验证和测试数据。(2)提出适用于光学零件表面缺陷图像分类任务的基于深度学习架构的光学零件表面缺陷分类方法:为提升卷积神经网络聚焦关键缺陷信息的能力,设计了多尺度混合卷积核和非对称混合卷积核,以两种混合核为基础构建了面向光学表面缺陷分类任务的M2-Net模型,实现了6种制造/非制造缺陷和无缺陷情况的精细甄别。(3)为进一步提升模型的实际推理效率,本文引入结构重参数化思想,提出了轻量级的M2Rep-Net模型,将M2-Net的多尺度混合卷积核与非对称混合卷积核的分支分别进行结构重参数化,等效转化为单分支结构,在保持识别性能不变的基础上直接加快实际推理速度。(4)为进一步提高模型的识别效率,本文引入L1范式剪枝策略对M2Rep-Net模型进行优化,将模型中对光学表面缺陷检测重要程度较小的冗余卷积滤波器进行剔除,压缩模型大小、加速模型运算,同时保证模型的精度损失在可接受范围内。
大规模知识图谱的分布式存储与检索技术研究
这是一篇关于知识图谱,分布式,子图检索,词汇语义相似度,剪枝的论文, 主要内容为分布式存储是应对数据集合快速增长采用的一种方式,社会的发展伴随着数据的快速增长,也必然面临数据集合的存储问题。本课题在关系型数据集合分布式的基础上,按照知识图谱数据构造的特性,采用基于词汇语义平均相似度及节点平均度数的方法来分割数据集合,不仅考虑了服务器负载上限还考虑了跨越不同服务器的节点关系的冗余。子图检索结合此数据结构分割的特点,采用节点度数递减剪枝的方式,把查询子图剪枝成多个高度为2的子树,最后以子树的形式进行查询比对。系统结构设计分为两部分:分布式存储、子图检索。分布式存储部分主要是按照此文提出的拆分方法来对数据集合进行分割;子图检索的主要步骤为:先对待查询的子图根据数据集合分布的特点分割成只包含根节点及叶子节点高度为2的子树,接着对所有子树的根节点进行查询,得到包含与此根节点并与其有关系的所有节点组成的树,然后与查询的2级图比较且得出结果。此系统子图检索实验结果显示,在此课题中提出的数据集合分割方法下,分布式存储的子图检索所用的时间要少于哈希分布式存储方法;在节点关系冗余的情况下,结合子图查询的特点,冗余时的查询时间要小于非冗余情况;哈希分布式方法的冗余大于此课题采用的数据集分割方法,冗余数据量更多,需要更多的存储空间,子图查询时也需要更多的时间消耗。
关联分类算法及其在电子商务推荐系统中的应用研究
这是一篇关于数据挖掘,关联分类,兴趣度,剪枝,推荐系统的论文, 主要内容为分类和关联规则挖掘是数据挖掘领域的两个重要研究方向,二者都已经取得了比较完善的研究成果。关联分类作为一个较新的数据挖掘课题使用关联规则挖掘构建分类系统。关联分类算法使用规则发现方法从分类数据集中抽取分类规则,并通过一定的剪枝手段对规则进行剪枝,然后按照一定的规则形成分类器。 由于挖掘出了数据属性和类标签之间的强关联,关联分类器往往可以达到很高的分类精确度。然而,在规则产生阶段,关联分类算法会产生大量的规则,在对规则的处理过程中,算法会需要极大的系统开销。因此,小规模的规则集以及有效的规则剪枝方法对于关联分类算法十分必要。本文提出的基于ECLAT的关联分类算法结合了压缩规则集的性质和ECLAT方法自身的特点,在挖掘类关联规则的同时引入剪枝策略,在产生规则的过程中对新产生的规则项进行置信度检测,及时删除冗余的规则和等价类,然后再对产生的规则集进行覆盖剪枝。实验表明,这种方式可以在极大地压缩初始规则集的规则数量,极大地缩短了算法运行时间并且降低了系统开销。 在关联规则挖掘和关联分类算法中,兴趣度被引入用来提取规则以降低规则的数量。本文对目前比较常见的兴趣度进行了总结,并通过实验比较了不同兴趣度对于不同数据集的分类效果。实验结果表明兴趣度可减少规则的数量但没有一个兴趣度对于所有数据集都能够达到最优的分类效果。 最后,本文将关联分类应用于电子商务推荐系统中。在P2P站点北洋园PT中,推荐算法使用关联分类技术,从用户的下载记录中学习分类模型,构建关联分类器,并将生成的关联分类器用于对新用户的分类中。推荐算法依据用户的分类向用户推荐与该类型相匹配的资源。关联分类在推荐系统中的应用体现了数据挖掘技术的实际意义。
大规模知识图谱的分布式存储与检索技术研究
这是一篇关于知识图谱,分布式,子图检索,词汇语义相似度,剪枝的论文, 主要内容为分布式存储是应对数据集合快速增长采用的一种方式,社会的发展伴随着数据的快速增长,也必然面临数据集合的存储问题。本课题在关系型数据集合分布式的基础上,按照知识图谱数据构造的特性,采用基于词汇语义平均相似度及节点平均度数的方法来分割数据集合,不仅考虑了服务器负载上限还考虑了跨越不同服务器的节点关系的冗余。子图检索结合此数据结构分割的特点,采用节点度数递减剪枝的方式,把查询子图剪枝成多个高度为2的子树,最后以子树的形式进行查询比对。系统结构设计分为两部分:分布式存储、子图检索。分布式存储部分主要是按照此文提出的拆分方法来对数据集合进行分割;子图检索的主要步骤为:先对待查询的子图根据数据集合分布的特点分割成只包含根节点及叶子节点高度为2的子树,接着对所有子树的根节点进行查询,得到包含与此根节点并与其有关系的所有节点组成的树,然后与查询的2级图比较且得出结果。此系统子图检索实验结果显示,在此课题中提出的数据集合分割方法下,分布式存储的子图检索所用的时间要少于哈希分布式存储方法;在节点关系冗余的情况下,结合子图查询的特点,冗余时的查询时间要小于非冗余情况;哈希分布式方法的冗余大于此课题采用的数据集分割方法,冗余数据量更多,需要更多的存储空间,子图查询时也需要更多的时间消耗。
基于模型压缩的棉花病害识别方法研究
这是一篇关于卷积神经网络,病害识别,模型压缩,剪枝,知识蒸馏,迁移学习,Android的论文, 主要内容为棉花是一种重要的经济作物,但其生长经常受到各种病害的影响。棉花病害是导致棉花产量和质量下降的主要原因之一,因此棉花病害的识别与防治尤为重要。目前,在田间的识别方式主要依靠人眼观察,其主观性强、效率低。近年来,深度神经网络在植物病害识别应用中表现出了极高的准确率,但其卓越的性能是以高存储和高计算成本为代价的,训练这些深度学习网络需要使用图形处理单元专用硬件。而随着深度学习和智能设备的发展,在移动/边缘设备上部署深度学习模型,实现田间病害的智能化识别已成为一种趋势。基于手机的移动应用程序将更方便农民在病害识别中使用,但是手机的计算资源和存储空间有限,难以部署这些庞大的深度学习网络。为了解决这个问题,本文提出使用剪枝和知识蒸馏两种算法压缩基于深度卷积神经网络的棉花病害识别模型,在确保模型准确率的前提下降低卷积神经网络的模型复杂度和参数量,以满足在移动/边缘设备上部署的条件,从而提高深度学习模型的实用性。本文完成的主要工作如下:(1)基于剪枝的简单背景图像的植物病害识别。针对植物病害识别模型参数量大和计算复杂的问题,本文利用BN层中的γ系数进行通道剪枝,实现对VGG16、Res Net164和Dense Net40三种病害识别网络的压缩。在Plant Village数据集上的实验结果表明,将剪枝率设为80%时压缩的三个模型中,Dense Net40-80%准确率最高,达到99.68%,且模型的参数量最少,仅为0.27M。VGG16-80%的压缩效果最明显,与其基准网络VGG16相比,剪掉了97.83%的参数和96.77%的FLOPs。以上实验结果证明了该算法在植物病害识别领域的有效性。(2)基于迁移学习和剪枝的自然场景图像的棉花病害识别。首先,针对棉花病害样本公开资源稀少的情况,本文收集了8种棉花病害图像,总计2151张。为了解决该数据集类别样本数量分布不平衡的问题,采用数据增强的方式扩充了数量较少的三类病害样本,扩充后总计2723张。然后,针对棉花数据集小、数据集品质差、剪枝会损失准确率等问题,结合迁移学习提出了两种基于棉花数据集的压缩策略。具体而言,第一种是迁移学习后的压缩。该方法首先使用原始模型在Plant Village数据集上进行训练,然后将训练好的模型作为预训练模型,通过迁移学习在棉花数据集上微调,最后通过通道剪枝来压缩棉花病害识别模型。第二种是压缩后的迁移学习。该方法是先在Plant Village数据集上对原始的三种网络进行模型剪枝,然后再将剪枝后的紧凑模型作为预训练模型在棉花数据集上进行微调,以得到棉花病害识别紧凑模型。实验结果表明,采用第二种策略压缩的三种模型的准确率分别为90.77%、96.31%和97.23%,参数量和FLOPs与第一种几乎一致。对比得出,应用第二种策略压缩的模型的准确率略好于第一种策略。此外,将压缩后的模型与一些著名的轻量级网络进行了对比实验,得出压缩模型更胜一筹。(3)基于知识蒸馏的自然场景图像的棉花病害识别。针对深度卷积神经网络规模大但准确率高,而轻量级网络结构精简但准确率较低的问题,提出了一种基于知识蒸馏的棉花病害识别方法。该方法采用添加了点自适应的知识蒸馏算法对三种深度卷积神经网络进行了压缩。具体而言,将VGG16、Res Net164和Dense Net40作为教师网络,Mobile Net V2和Shuffle Net V2轻量级网络以及与教师网络同结构的三种小网络作为学生网络进行知识蒸馏。实验结果表明,比较9种知识蒸馏算法下的蒸馏效果,添加了点自适应的NST算法在本文数据集和网络下表现出了更好的鲁棒性。综合分析,结合迁移学习和剪枝的压缩策略比知识蒸馏方法表现更优。(4)棉花病害识别模型的部署。本文选择准确率最高的Dense Net40-80%-T作为移动端的部署模型,并基于Android平台开发出一款棉花病害识别APP。该APP通过调用手机摄像头或相册获取待识别的图像,并将识别后结果返回到手机界面。在OPPO A5手机上的测试结果表明,识别一张图片的平均时间仅为87ms。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：毕设驿站 ，原文地址：https://m.bishedaima.com/lunwen/54365.html
