7篇关于注意力的计算机毕业论文

今天分享的是关于注意力的7篇计算机毕业论文范文, 如果你的论文涉及到注意力等主题,本文能够帮助到你

基于特定目标的情感分类模型研究与优化

这是一篇关于情感分类,特定目标,深度学习,知识图谱,注意力,自然语言处理的论文, 主要内容为特定目标情感分析是自然语言处理任务的重要分支。此类任务的传统方法大多数是基于机器学习和深度学习的有监督算法,模型在识别特定目标情感取得一定的效果。本文研究领域针对特定目标的情感分类,其内容更加细化,所以,训练数据规模受到限制,训练完成的模型适用领域单一。同时网络用语表达丰富多变,传统的方法解决特定目标情感分类任务越来越困难。因此,如何优化分类模型,提高特定目标情感分类的准确率是一项重要的研究任务。根据分析本文研究内容的特点,结合此领域中广泛应用的深度学习算法,本文重点研究结合递归神经网络的情感分类模型。主要工作如下:1)针对情感词语识别不精确导致分类准确率不佳的问题,本文提出以递归神经网络为基础,优化注意力机制的基于注意力矩阵的特定目标情感分析模型。该模型填充语料由人工标注完成,通过扩充语料库,利用Glove方法,学习词向量表示;其次,使用词向量作为网络输入,学习句子的表示。实验结果表明,在语料丰富的场景下,该模型取得优异的准确率。2)针对语义特征提取不充分导致句子向量表示不准确的问题,本文提出以标记标准权重为辅助,引入注意力函数的基于分层特征提取的特定目标情感分析模型。该模型通过调节注意力函数,根据特定目标灵活调整权重值。实验结果表明,在语料较少的情况下,训练适当权重,该模型分类的准确率优于传统研究方法。3)针对模型可扩展性不佳的问题,本文提出利用通用知识库的基于知识图谱的特定目标情感分析模型。该模型融入向量化的三元组,提供额外先验知识。实验结果表明该模型取得了较好的性能。

基于U-Net模型的医学图像分割方法的研究

这是一篇关于深度学习,图像分割,特征,U-Net模型,注意力的论文, 主要内容为随着医学工程技术的不断发展,医学图像分割在病理诊断、手术指导和术后恢复等阶段中承担着重要的责任。目前,基于深度学习的U-Net模型在医学图像自动化分割领域有着广泛的应用。本文通过结合U-Net模型和其他图像处理方法实现对医学图像的自动化分割,主要的研究内容如下:(1)针对传统二维卷积无法有效提取空间信息的问题,提出一种基于注意力机制的U-Net模型(Att-Dial Res Net3D)。Att-Dial Res Net3D模型在U-Net框架基础上进行改进,使用锯齿状的膨胀残差卷积块提取三维图像中片间和片内特征,减少空间信息的丢失,通过注意力的方法融合上下文信息。提出的模型在Li TS2017肝脏肿瘤分割数据集上验证,实验结果表明Att-Dial Res Net3D模型对肝脏和肿瘤图片的分割结果的平均dice分别达到0.958和0.666,全局dice分别达到0.962和0.800。(2)针对原始U-Net模型中过多的卷积层和池化层会造成梯度弥散和网络退化等问题,提出一种基于金字塔残差的U-Net模型。该模型利用金字塔残差得到不同尺度的图像特征,并将这些特征与卷积层提取的特征进行融合,在未增加网络参数的基础上得到更丰富的特征信息。提出的模型在ISIC 2018皮肤癌分割数据集上验证,实验结果表明基于金字塔残差的U-Net分割模型具有更高的精度和更好的鲁棒性。(3)针对U-Net模型中堆叠的局部操作无法高效获取全局信息的问题,提出一种基于多注意力的U-Net模型。该模型通过自注意力的方式建立全部特征之间的依赖关系,然后利用通道注意力与空间注意力减少池化过程中的信息损失。分割模型在MICCAI 2020新冠肺炎(COVID-19)分割数据集和SCUI 2020甲状腺结节分割数据集上验证,实验结果证明基于多注意力的U-Net模型实现了全局信息聚合和高效快速的分割。

基于深度学习和多兴趣感知的新闻推荐算法研究

这是一篇关于推荐算法,新闻建模,用户建模,注意力,图神经网络的论文, 主要内容为数字信息化时代,纷繁复杂的新闻资讯在满足人们日益增长的文化需求的同时,也给人们带了很大的筛选负担。新闻推荐系统应运而生,作为一种重要的信息过滤工具,不仅可以帮助用户快速准确地找到最感兴趣的新闻内容,提高用户体验和满意度,还可以通过个性化推荐机制帮助新闻媒体增加订阅量、用户活跃度和广告收入,提高媒体的商业价值和市场竞争力。研究新闻推荐助于促进信息交流与传播,推动社会进步和发展。新闻推荐研究主要涉及两大关键任务,一是新闻建模,旨在将原始的新闻信息转换为具有语义含义的向量表示;二是用户建模,旨在了解用户行为和需求,从而实现个性化推荐。目前,上述任务均存在表示能力不足问题,导致现有方法既难以充分利用新闻语义,也不能有效捕获用户动态偏好。针对上述问题,本文以进一步提高新闻推荐质量为目的,从(1)提高网络对新闻语义提取能力和(2)提高网络对用户兴趣挖掘能力等两个层面开展研究工作。(1)提出了一种基于异构建模的历史局部激活个性化新闻推荐方法。该方法的核心包括文本异构建模(Text Heterogeneous Modeling,THM)模块和用户历史局部激活(Historical Local Activation,HLA)模块。针对使用相同网络结构编码标题和内容文本导致语义理解不足问题,THM新闻编码模块网络结构设计充分考虑了标题和内容文本之间的差异性,根据语义特点使用不同的深度网络结构分别学习其表示向量,这种“量体裁衣”的方式提升了新闻表示效果。针对无法在历史中捕获细粒度兴趣问题,HLA用户编码模块将历史切片分区,分别学习不同时段内用户偏好表示向量,从而更加准确地描述用户的细粒度兴趣,然后将候选新闻融合到用户兴趣表达的过程中,区分用户不同偏好的活跃程度,激活与当前时刻相关的用户兴趣,最终提升了用户表示效果。在公开新闻数据集上开展多项对比实验,结果表明该方法各种性能指标均优于基线方法,实验分析进一步验证了设计的合理性。(2)提出了一种基于语义交互的多兴趣协同个性化新闻推荐方法。该方法的核心包括语义交互增强(Semantic Interaction Enhancement,SIE)模块和多兴趣协同(Multi-Interest Collaboration,MIC)模块。针对独立编码新闻标题和内容导致语义关联不足问题,SIE新闻编码模块通过词级和域级并行的语义交互网络加强了新闻标题和内容的结合关系,进一步设计了交叉选择网络,将标题引入到内容特征聚合过程中增强语义关联关系,从而提高了新闻内容表示效果。针对无法显式建模用户多兴趣表示问题,MIC用户编码模块根据主题标签将用户历史划分为多个兴趣簇,并通过簇向量表示用户在不同主题下的偏好。通过多个兴趣向量间交互协同,模拟兴趣间相互作用,以增强表达能力。最终结合用户自身和现实因素,自适应地将多个兴趣向量聚合为用户表示,从而提高了用户表示效果。在两个公开新闻数据集上开展多项对比实验,结果表明该方法各种性能指标均优于基线方法。同时,通过消融实验进一步证明了设计的各组件的有效性。

面向单语言和跨语言的多模态知识图谱实体对齐研究

这是一篇关于多模态知识图谱,单语言实体对齐,跨语言实体对齐,对比学习,注意力的论文, 主要内容为近年来,随着多模态知识图谱的不断发展和应用,越来越多的应用场景需要庞大且信息质量准确的多模态知识图谱来支撑应用程序的发展。因此,实体对齐技术成为当前研究的热点之一,以提高多模态知识图谱的精度和效率。通过实体对齐能够将不同类型的实体在对应的知识图谱中进行对齐以此来完善多模态知识图谱的各种实体信息。但是目前实体对齐技术存在着一些问题。本文的主要工作内容如下:针对单语言实体对齐中缺少辅助模态、忽略实体模态相互作用和特征融合方案缺失等问题,本文提出一种基于增强机制的单语言多模态实体对齐方法。该方法添加数值模态来辅助多模态实体对齐;利用编码后的视觉特征去增强实体关系表示以及辅助实体属性特征表示并进行对比学习;添加注意力层来动态分配模态注意力权重,形成新的特征联合嵌入进行实体对齐任务来解决上述问题。由于现实世界的知识呈现出多样性,并且以多种语言的形式表达,因此需要考虑不同语言之间存在的语法和表达方式等多方面差异。考虑到现有的跨语言实体对齐方法效率普遍低下,本文在单语言实体对齐方法的基础上,增加了跨语言实体描述模块,通过该模块可以提取实体描述语句中的核心信息,从而更准确地识别和匹配实体。同时,借鉴单语言实体对齐工作中提出的互模态增强方案,实现跨语言实体对齐中的模态特征增强和噪声减小,从而提高跨语言实体对齐效率。基于增强机制的单语言多模态实体对齐方法和基于描述信息的联合机制跨语言实体对齐方法分别在不同的标准数据集上进行了相关实验,并且与基线模型相比均有一定幅度的提升。实验结果也证明了本文提出的两种多模态实体对齐方法的可行性和有效性。

基于文本语义的高分辨率图像生成算法的研究与实现

这是一篇关于文本生成图像,生成对抗网络,注意力,自监督学习的论文, 主要内容为随着互联网技术的蓬勃发展,网络上存储的信息也越来越丰富。人们每天都会接触到海量的视觉信息,但通过搜索引擎很难搜索到自己真正需要的图像。文本生成图像系统允许用户通过输入文本描述信息,自动生成与之相符的图像并返回给用户。这样的搜索方式能更好地响应人类个性化品味的需求。2014年,生成对抗网络横空出世,开启了图像生成领域的新篇章。文本生成图像任务也受到越来越多研究人员的关注,其最大的挑战是生成真实、多样,且与文本语义一致的图像。近几年,文本生成图像的技术不断更新,但是生成的结果依然不尽如人意,仍有很大的改进空间。针对文本生成图像中的挑战和问题,本文主要研究成果如下:(1)针对现有的文本生成图像算法所生成的图像往往具有模糊不清、全局结构扭曲、细节语义不一致的问题,本文提出了一种新型的基于双注意力生成对抗网络的文本生成高分辨率图像算法。该算法包括两个核心的网络模块:基于双注意力模型的视觉特征重构网络,通过关注相关词语和不同视觉区域的特征来增强局部细节和全局结构;基于倒置残差结构的亚像素特征重构网络,通过扩宽残差结构中间层的视觉特征表达容量,提高非线性表达能力。此外,为了稳定生成对抗网络的训练,该算法在生成网络和判别网络中同时引入了谱归一化技术。在多个数据集上的实验结果表明,该算法能够生成更加多样的、真实的样本。(2)单个全局判别网络因过度强调某些有偏差的局部特征会导致图像整体失真。因此,本文提出了一种新型的基于图像质量感知的文本生成高质量图像算法,通过自监督学习方式来提高图像生成质量。在辅助任务中,本文提出了一个基于图像质量感知的排序网络,该网络采用孪生网络结构,对自主构造的不同程度的失真图像进行质量排序评估;在基于生成对抗网络的文本生成图像模型训练过程中,本文引入了一个新的感知排序损失函数,来优化生成网络生成图像的质量。在多个数据集上的实验结果表明,该算法能够生成质量更高、更真实的样本。(3)基于以上研究,本文设计并实现了基于文本语义的高分辨率图像生成系统,跨越“语义鸿沟”,实现个性化图像定制。该系统采用B/S架构实现,具有完备的图像定制、丰富的可视化和完善的交互功能。