5个研究背景和意义示例,教你写计算机激活函数论文

今天分享的是关于激活函数的5篇计算机毕业论文范文, 如果你的论文涉及到激活函数等主题,本文能够帮助到你

基于卷积神经网络的含水饱和度分类及优化研究

这是一篇关于激活函数,含水饱和度,卷积神经网络,分布参数系统的论文, 主要内容为本文将石油开采过程中涉及到的含水饱和度作为研究对象。含水饱和度能够反映当前阶段的石油获取情况和对当前油藏的开发程度,明确含水饱和度对制定注采策略及总结分析具有重要意义。含水饱和度的传统分类方式是人为分类,该方式效率低下且含水饱和度具有变化不显著和难以统计分析的问题。并且,本研究是卷积神经网络在含水饱和度分类领域的首次尝试。本研究以某油田数据为基础,本研究致力于建立基于卷积神经网络的含水饱和度分类模型,旨在实现含水饱和度更加高效的分类工作,并搭建在线分类系统。本文主要研究内容如下:1)针对含水饱和度变化不显著和难以统计分析的问题,本文提出了融合改进Elman神经网络的卷积神经网络分类模型。基于含水饱和度数据集,以卷积神经网络的结构变化作为对照组验证所提出模型的有效性,通过混淆矩阵评价模型,本文提出模型在测试集中达到91.27%的准确率。在确定模型具备可用性后,进一步探究随机舍弃神经元与批量归一化对网络模型性能的影响。研究发现以20%比例随机舍弃训练神经元与添加批量归一化操作能有效提高模型性能。2)结合现有激活函数的利弊,本文提出了新的激活函数Sunken Linear Unit(SnLU)用以提高卷积神经网络性能。新函数避免了输出饱和性,从而减少对训练产生的负面影响。与现有激活函数相比,新函数呈现平滑且不单调的分布特点,在负数域上的软饱和性可以提高模型处理信息的能力。通过对含水饱和度数据集、MINIST数据集和CIFAR-10数据集的研究,验证了本文所提出的激活函数具有提高模型准确率的作用。3)本研究有针对性地开发了含水饱和度智能分类系统。本研究使用Java开发语言基于SpringBoot框架完成了 B/S架构的含水饱和度智能分类系统。该系统实现了对含水饱和度样本的可视化在线管理,浓度等级的逐一分类和批量分类,对生产一线中的含水饱和度分析具有重要意义。

基于CNN的图像分类及在电商图片分类中的应用研究

这是一篇关于卷积神经网络,商品图片分类,激活函数,Dropout方法的论文, 主要内容为随着互联网的推进和发展,人们越来越倾向于通过网络购物方式购买商品。在过去几年里,商品种类急剧增加,如何在海量的商品信息中方便快捷地找到想要购买的商品是一个急需解决的难题。传统的基于文本关键字的商品分类方法虽然方便快捷,但由于文本标注信息的片面性,容易出现错误分类。而商品图像蕴含丰富的信息与数据,且能够直观地展现商品的大部分特征。基于卷积神经网络的商品图片自动分类能够给顾客和商家提供更好的商品查询和检索体验,并有助于电商平台推荐商品。本文的主要研究内容如下:(1)针对常用激活函数relu在x负半轴的导数恒为零,导致训练过程中容易造成神经元“坏死”以及现有组合激活函数relu-softplus在模型收敛情况下学习率过小导致收敛速度慢的问题,设计并实现了一种新的组合激活函数relusoftsign。详细分析激活函数在训练过程中的作用,给出激活函数在设计时需要考虑的要点;根据这些要点,将relu和softsign函数于x轴正、负半轴进行分段组合,使其x负半轴导数不再恒为零。在MNIST、PI100、CIFAR-100和Caltech256数据集上的实验结果表明,使用relu-softsign组合激活函数提高了模型分类准确率,简单有效地缓解了神经元不可逆“坏死”现象;同时,加快了模型收敛速度,且在复杂数据集上,该组合函数的收敛性能更好。(2)Dropout是防止过拟合的一种有效方法,其设置的丢弃概率对该层所有神经元均起作用,使得部分有用信息被抛弃,导致模型的平均训练精度降低。针对该问题,本文提出了Sep-Dropout方法。首先对神经元进行重要度划分,分别存放在两个矩阵中,然后对重要神经元矩阵以较低概率置零,对不重要神经元矩阵以较高概率置零,最后对两个矩阵进行整合,有效地减少了重要神经元被丢弃的可能,从而提高分类准确率。在MNIST、PI100、CIFAR-100和Caltech256数据集上的实验结果表明,使用Sep-Dropout方法在防止过拟合的同时,与Dropout方法相比,具有更高的分类准确率。(3)在电商图片数据集上应用本文提出的relu-softsign函数和Sep-Dropout方法进行综合实验。首先分析电商分类领域的权威数据集图片特点,仿照其结构分别建立常见商品分类自建数据集和商品精细分类自建数据集,并做图像预处理。然后在PI100和两个本文自建商品数据集上进行实验,实验结果表明,在电商图片数据集上,使用relu-softsign函数提高了模型在训练集和测试集上的分类准确率,使用Sep-Dropout方法在达到防止过拟合目的的同时保证了训练集精度,使用结合relu-softsign函数和Sep-Dropout方法的模型在训练集和测试集上都获得了更高的分类准确率。最后,在PI100数据集上将结合了relu-softsign函数和Sep-Dropout方法的最终模型与其他研究者的电商图片分类方法进行对比实验,实验结果表明,本文方法的分类准确率更高,分类效果更好。

面向信号的对抗性防御算法研究

这是一篇关于信号调制样式,对抗攻击,对抗防御,数据重构,激活函数的论文, 主要内容为近年来,基于深度学习的信号调制样式识别比传统方式下的信号识别在性能和准确率有较大的提升。但是,在电子对抗应用场景中,若面对对抗攻击不能正确分析和处理敌方的信号,则会产生不可估量的后果,同时对抗性防御的研究在信号领域还不太成熟。因此,为了研究针对信号调制样式识别的对抗性攻击防御方法,本文从以下几个方面开展工作。首先,提出了基于数据重构的对抗性防御算法,针对信号数据尺寸特点,采用缝合技术使用补丁对信号数据进行重构,从自建的补丁数据集中,计算欧式距离来选择合适的补丁块替换原始样本,来做到消除扰动。该算法在不同对抗攻击面对不同扰动前后的模型识别率,经过信号数据重构防御后,添加的扰动被重构后消除,模型识别率在面对不同合理扰动依然能保持较为稳定的值。当面对不同攻击方式前后时,经过信号数据重构后的防御样本与最初的原始样本幅度图和星座图均可以很好的拟合。实验验证本文提出的方案具有较好的防御能力和迁移性。其次,提出了基于改进激活函数的对抗性防御算法,分析ReLU函数特性,设计一个有界C0不连续函数,结合了 K-WTA模糊并破坏梯度和LReLU解决神经元死亡来提高深度学习模型识别准确率两种激活函数不同的特点,将两者进行拼接。从而保证在不损失模型识别准确率的条件下,有着较好的对抗性防御效果。最后,本文设计并实现了信号对抗性防御系统,该系统采用SpringBoot框架进行后台开发,React框架进行前端展示。系统的主要模块包括用户管理模块,数据重构模块,激活函数修改模块和数据管理模块。本文对该系统各个模块功能进行了详细介绍。通过对信号对抗性防御系统的测试,验证该系统可以有效抵御对抗攻击,证明了系统的可用性和有效性。

U型神经网络激活函数研究及在医学影像中的应用

这是一篇关于U-net,医学图像,深度神经网络,激活函数的论文, 主要内容为近年来,随着人工智能理论与技术的迅猛发展,以深度神经网络为代表的深度学习方法受到了极大的关注,取得了长足的进步。其中的代表之一,在医学图像智能识别和辅助诊断领域,由全卷积网络发展而来的U-net网络发挥了重要作用,成为医学图像识别与分割的最基础和重要的工具之一。目前,医学图像领域所使用的深度神经网络,包括U-net在内,采用的激活函数基本都默认是Re LU。而激活函数作为神经网络中重要的组成部分,其在处理和传递图像特征之间复杂非线性关系的过程中,起到了至关重要的作用。相比于损失函数及网络架构的研究成果,详细探究和比较激活函数在深度神经网络中的作用及表现的研究还比较缺乏。鉴于此,本文着重讨论U-net网络中各类激活函数的性能与表现。本文的主要工作之一是,针对病理图切片分类实验。首先,比较逻辑斯蒂模型、随机森林模型以及深度神经网络分类模型在医学图像分类的优劣。实验结果表明基于深度神经网络分类模型,五种评价指标提升范围在13.6%-31.8%之间。其次,针对医学图像分类模型,对比分析Re LU、Mish、Ge LU、ELU、SELU、Tanh六种单一形式激活函数及三种组合形式激活函数。实验结果表明三种组合激活函数比单一激活函数表现性能要优,在单一激活函数中Mish、Ge LU也比Re LU效果好。本文的主要工作之二是,基于四个医学图像数据集进行实验,研究如下问题:一,激活函数对眼底血管数据集的分割所起的作用和影响是什么?二,饱和与非饱和激活函数的各类评价指标在不同数据集上的表现与差异情况如何?三,基于胸部X光图像数据集、直肠CT图像数据集及脑胶质瘤图像数据集,对比分析Re LU、Mish、Ge LU、ELU、SELU、Tanh、Softplus七种单一形式激活函数及三种组合形式激活函数。实验结果表明:不用激活函数几乎分割不出图像的纹路;非饱和激活函数优于饱和激活函数;三种组合激活函数相对于单一激活函数取得较好的结果,在单一激活函数中Mish、Ge LU也比Re LU效果好,Tanh、Softplus激活函数效果最差。