基于方面（aspect）级别的情感分析与研究
这是一篇关于方面级别情感分析,多头注意力机制,情感词典,位置融合的论文, 主要内容为随着电子商务的快速发展,越来越多的消费者将电商平台的评论信息作为消费选择的重要参考标准。据统计,评论信息的数量每天正以千万级的速率在增长,分析这些文本数据对消费者和平台都有极大的益处,同时也促进了方面(aspect)级别情感分析的发展。方面级别情感分析是情感分析中一项重要的任务,目的是通过学习文本的上下文信息来完成文本中多个方面词情感极性的判别。本文对现有基于注意力机制的方面级别情感分类算法进行深入分析后发现存在如下问题。首先,现存的注意力机制对上下文中的方面词与情感词权重分配缺少对整个语境的考虑。尤其是直接使用深度学习模型进行整个文本的分析,导致方面词与情感词权重分配不均衡。其次,现存的算法中不仅缺乏对先验知识的使用,且情感词一词多义的现象也尚未解决。针对上述问题,本文主要研究的内容如下:(1)提出多头注意力机制与情感词典结合的方面级别情感分析算法。该算法将深度学习模型与情感词典结合,分别提取方面词与情感词。在方面词提取中,利用多头注意力机制对方面词类别与上下文文本共同建模,用来捕获给定方面类别在上下文文本中的权重,形成方面词矩阵。在情感词提取和分类中,利用情感词典提取情感词。为了解决基础情感词典的宽泛性问题,提出使用短语结构文法提取文本中的情感词,来扩充传统的情感词典。采用卷积神经网络实现方面词与情感词之间的交互。该算法不仅能够直接提取情感词,且模型的运行速率也有提高。(2)提出基于交互注意力和位置感知融合的方面级别情感分析算法。该算法中主要包括了交互注意力和位置感知融合两个部分。交互注意力主要由全局注意力和局部注意力组成。全局注意力是提取整个文本的特征,局部注意力是结合给定的方面词类别调整文本中方面词的权重。位置感知融合机制是利用位置信息形成<方面词,情感词>二元组,解决了情感词一词多义的问题。该算法结合语境对情感词进行分类,情感词的分类精度有了极大的提升。
基于深度学习的渔船牌号检测与识别研究
这是一篇关于渔船牌号检测与识别,DBNet,CRNN,多头注意力机制,双路径网络的论文, 主要内容为渔船牌号的检测与识别是提高渔港科学智能化管理的重要技术手段之一,对于解决传统人工监管渔船方式中存在的耗时耗力问题具有重要意义。目前,渔船牌号检测与识别在应用过程中依然存在着各种各样的问题,例如与船牌相关的数据量少、船牌悬挂位置不统一、背景颜色和字符个数不一致以及船牌图片质量差等问题,这些因素很大程度上影响着渔船牌号检测与识别准确率的提升。随着人工智能的发展,深度学习技术不断进步,渔船牌号检测与识别所面临的问题在慢慢得到解决。深度学习具有较强的学习能力和泛化能力,可以提高监控视频中的渔船牌号检测与识别的精确度和鲁棒性。本文通过研究文字检测网络算法DBNet和文字识别算法CRNN,完成了渔船牌号检测数据集和渔船牌号文字识别数据集的制作、渔船牌号的检测和识别算法的改进等。本文的主要研究内容如下:(1)提出了一种融合双路径网络和卷积注意力模块的可微二值化网络(Differentiable Binarization network with Dual Path Networks and convolutional block attention module,DP-CBAM-DBNet)的渔船牌号文本检测方法,该方法是将卷积注意力模块(convolutional block attention module,CBAM)加入到双路径网络(Dual Path Networks,DPN)中并将其一同替换掉DBNet网络中原始的特征提取部分,通过改进后的特征提取层进行特征提取,获得更多渔船牌号的细节特征,从而提升总体渔船牌号文本检测准确率。针对自然场景下的渔船牌号图像存在位置变化不规律、颜色背景不统一、船牌图片边界不清晰等问题,本文在DBNet网络的基础上进行研究和改进,实现了基于上述问题情景下的渔船牌号图片的检测,提高了渔船牌号文本检测的精准率。DP-CBAM-DBNet模型与原始网络采用Res Net18和Res Net50网络的方法,在检测准确率有2.54%和1.49%的提升,并且模型参数量相比于Res Net18时模型参数量仅增加了1M,相比于Res Net50时减小了11.9M,由此可以得出,DP-CBAM-DBNet模型在检测渔船牌号方面有较好的性能。(2)提出了一种融合多头注意力机制的卷积循环神经网络(Convolutional Recurrent Neural Network with Multi-head-attention Mechanism,MHA-CRNN)的渔船牌号文字识别方法。该方法首先是对卷积层进行优化,将性能良好的Res Net网络替换掉模型参数较高且消耗更多计算资源的VGG16网络,同时将Res Net网络中的Re LU激活函数更新为Mish激活函数,从而使得更多的数据可以加入到网络的训练中,进而使得模型拥有更佳的精确度与泛化能力;其次对循环层进行优化,在循环层中融合了多头注意力机制(Multi-head-attention Mechanism,MHA),能更加有效的获取长文本字符之间的依赖关系,可以得到渔船牌号文字不同维度的特征。针对渔船牌号长度不一、渔船牌号图像不清晰等问题,本文在CRNN网络的基础上进行了研究和改进,提高了渔船牌号识别的准确率。MHA-CRNN网络与原始CRNN网络相比,在准确率方面综合提升了11.53%,因此,该模型在渔船牌号文字识别方面有较好的识别能力。(3)设计并实现了渔船牌号检测与识别系统。采用改进后的渔船牌号文本检测DP-CBAM-DBNet模型和改进后的渔船牌号文字识别MHA-CRNN模型,实现了一种两阶段双模型的渔船牌号检测和识别方法。基于渔港周围的高点视频监控数据,针对渔船禁渔期渔船违规出海捕捞、渔船不在规定母港停靠的现象,实现了对渔船的动态可视化智能监管,同时海上监管的滞后性得到有效解决,能够对违规渔船进行有效查处,辅助相关管理部门对渔港的科学智能化管理,降低相关部门在渔港监管方面各种资源的耗费。
结合社交网络的冷启动推荐方法研究
这是一篇关于推荐系统,图神经网络,社交网络,多头注意力机制,冷启动的论文, 主要内容为推荐方法是指电商平台依据用户历史行为信息为用户推荐所关心的信息及物品。它被广泛用于各种网站,包括电子商务、社交媒体、在线音乐和视频等多个领域。但对于新网站或网站的新用户来而言,其历史交互信息是不可知的,因此会产生数据稀疏问题,而且受冷启动问题的影响较大,进而影响最终的推荐结果。近期有研究表明,融入社交关系进行推荐可以解决以上问题,能有效利用用户本身具有的朋友关系来弥补用户对项目交互历史的缺失。然而,现有的社交推荐方法面临不易从多个空间维度提取用户社交关系,忽略物品之间存在的隐式社交关系等挑战。因此,开展新的社交推荐算法研究是非常有意义的。本文的主要研究工作如下:针对现有社交推荐方法不易从多个空间维度提取用户社交关系,无法捕捉用户对物品的不同偏好,本文提出了一种结合多头注意力和软注意力机制的社交推荐算法(Social Recommendation Algorithm Combining Multi-head Attention and Soft Attention Mechanism,SRMSA)。该算法针对信任式社交关系,通过改进的多头注意力机制使模型赋予给任务相关元素更大的权重。该机制具有空间和加权双重属性,对不同的输入数据,给予不同的权重,从多个空间维度上对用户的偏好进行提取,以关注当前推荐任务中最重要的信息。同时为了减少评分预测中有用信息的流失,通过计算用户和物品特征之间的相似度,增强节点的特征向量表示能力,从而提升模型的推荐性能。针对现有社交推荐方法仅考虑用户之间的社交关系,忽略物品之间存在的隐式社交关系的问题,本文提出了一种基于多维社交关系的图神经网络推荐算法(Graph Neural Network Recommendation Algorithm Based on Multi-dimensional Social Relationships,MSGNN)。该算法引入多维社交关系可以有效缓解数据稀疏问题,通过修正余弦相似度,利用用户对物品的评分挖掘物品间的相似性,并构建用户与用户、用户与物品、物品与物品之间的关系图。结合多头注意力机制,凭借多个特征表示来捕获用户的不同兴趣,并通过对不同特征表示赋予不同权重以减少输入信息的干扰,从而提高推荐的有效性。同时将特征相似度与神经网络相结合,以实现更好的评分预测,为用户推荐最能满足其当前所需的商品或服务,实现了社交推荐的可拓展性。本文在两个真实数据集Ciao、Epinions及冷启动专用数据集Film Trust上进行实验验证,结果表明在平均绝对误差(Mean Absolute Error,MAE)和均方根误差(Root Mean Square Error,RMSE)两种评价指标上与基线算法相比均有提升。SRMSA和MSGNN在Ciao数据集的MAE值相较于现有基准模型分别提升了1.67%和1.46%,验证了本文方法具有较好的推荐精度。
面向大规模软件系统的日志异常检测方法研究
这是一篇关于异常检测,生成对抗网络,卷积神经网络,多头注意力机制的论文, 主要内容为随着信息技术的高速发展,现代计算机系统的规模和复杂程度也逐渐增加。系统日志记录用户关键操作和系统运行时的状态信息,可以帮助技术人员解决问题,消除企业金融和安全方面的隐患。因此,系统日志的异常检测已成为一个具有实际意义的研究课题。传统的异常日志检测主要依赖人工检测或编写表达式的半自动化检测,但人工成本很高,检测准确率也受到人为主观影响。机器学习和深度学习的快速发展,让技术人员能够通过搭建检测模型,识别异常日志的特征,实现全自动化的日志异常检测。但当前的日志检测方法仍存在日志解析准确率低、日志特征提取不全、正负样本比例不均、异常反馈不及时、日志乱序等问题。本文针对上述问题,进行了相应的研究分析。针对日志解析准确率低、日志特征提取不全等问题,本文提出了基于Bi GRU-CNN模型的异常日志检测算法。该算法首先采用FT-Tree方法提取日志模板,提高日志解析的准确率。接着,根据日志参数的空间特性和日志模板的时序特性,将其分别输入到CNN和BiGRU模型中提取特征,最后将提取到的特征进行拼接组合,从而充分利用完整的日志信息进行异常检测。针对正负样本比例不均衡、异常反馈不及时等问题,本文还提出了基于生成对抗网络模型的异常日志检测算法。该算法利用生成器和判别器间的博弈,通过在生成器中使用Bi LSTM网络和多头注意力机制来模拟日志的分布特征,从而缓解正常和异常实例之间不平衡的影响。然后将生成器作为检测模型,当任一日志到来时,生成器便可进行判断,从而实现日志级别的细颗粒度的异常检测。最后,本文基于上述两个算法,按照软件工程要求设计并实现了一个异常日志检测系统。该系统采用B/S架构,满足用户在模型训练、异常检测和历史信息查阅等方面的功能需求和人机交互过程中的性能需求。通过相关测试验证,该系统在不同数据样本下都具备良好的检测性能。
基于深度学习的语音增强算法研究
这是一篇关于语音增强,深度学习,U-Net,多头注意力机制,多目标联合损失函数的论文, 主要内容为语音是人类交流和信息传递的主要方式,语音的质量和可懂度是衡量听觉体验好坏的关键指标,也直接影响着信息传达的准确性。然而在现实环境中,语音信号常常受到噪声的干扰,这对日常通信、科学研究和指令的准确传递都会产生负面影响。通过语音增强技术提高语音的质量和可懂度具有重要的现实意义和科学价值。单通道语音增强由于成本低、研究方便和应用广泛而成为了语音增强研究中一大热点。传统的语音增强方法在复杂噪声条件下增强效果不理想,而基于深度学习的方法可以处理复杂的语音信号,适用于各种不同的语音场景,在语音增强任务中具有一定的优势。基于卷积编解码结构的深度学习方法被广泛应用于语音增强任务中,但大多数方法使用语音时域信号作为输入,没有充分利用语音的时频信息;同时,卷积结构是在局部窗口内进行特征提取的,无法获取语音上下文特征信息;此外,这些方法只使用单一目标如语音频域信号来计算损失函数,没有最大化使用增强语音与纯净语音之间的差异信息。针对这些问题,我们将语音幅度谱作为模型输入,并对模型结构和损失函数进行了研究,主要工作如下:(1)提出一种联合时频注意力机制和U-Net的语音增强算法—AU-Net。该算法以幅度谱作为输入,能充分利用语音时频信息进行语音增强。在卷积编解码结构之间加入时频注意力模块,发挥编解码结构对语音特征多尺度融合优势的同时,能够通过注意力机制提升网络对上下文信息的获取能力,使网络获取到更加丰富的语音全局特征。实验结果显示,相比基线模型,AU-Net取得了更优的评价指标分数。(2)提出一种多目标联合损失函数。该损失函数是语音时域损失、频域损失和PESQ损失的线性组合,能够通过权重调整不同损失在模型训练过程中所起的作用。多个对比实验表明,时域损失、频域损失和PESQ损失在提升评价指标上各有偏重,而多目标联合损失函数能够结合三种损失的优势,显著提高AU-Net评价指标分数,且优于同类具有代表性的语音增强算法。研究工作表明时频注意力机制和多目标联合损失函数能够提升模型增强效果,我们的方法可以有效减少语音失真和背景噪声,提升语音质量和可懂度,增强效果优于目前大多数先进的模型。同时说明改进模型结构和优化损失函数可以作为提高模型语音增强性能的研究方向。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：毕设工坊 ，原文地址：https://m.bishedaima.com/lunwen/48646.html
