面向变速箱液压模块的装配—测试质量预测与诊断方法研究及应用

这是一篇关于双离合自动变速箱液压模块,知识图谱,Transformer模型,质量预测与诊断系统的论文, 主要内容为液压模块作为双离合自动变速箱的“控制中心”,是变速箱最核心的部件之一,其质量关乎整个变速箱的性能可靠性。在液压模块装配完成之后,通常会对其进行系统的台架测试,以保证每个液压模块的内在质量。通过调查发现,当前对液压模块质量相关研究主要分为两点:一是针对装配过程通过保证过程质量实现液压模块的质量控制;二是优化液压模块测试台架以提高测试的全面性与准确性从而保证最终产品的质量。但是,针对液压模块从装配到测试的整个过程研究还比较少,鉴于这种情况,本文提出面向液压模块装配-测试过程的质量预测与诊断方法,将知识图谱技术运用于装配领域,构建台架测试预测诊断模型,最终建立液压模块质量预测与诊断系统实现将理论方法进行实际应用。本文以DCT液压模块作为研究对象,首先简单介绍其组成和装配工艺流程并分析其装配过程特点,以液压模块的主油路压力控制阀等为例分析液压模块台架测试的机制,阐述液压模块质量诊断、质量预测与数据采集的支撑技术。其次,确定知识图谱的构建流程与方式,基于改进的七步法实现液压模块本体的构建。分析数据源的特点,对非结构化数据使用Bi LSTM-CRF实体抽取模型和融合Attention机制的Bi LSTM关系抽取模型进行加工处理,对结构化数据使用D2R工具进行知识抽取。将RDF数据映射储存至Neo4j图数据库实现整个基于装配-测试液压模块知识图谱的构建,为系统的质量诊断做了底层铺垫。通过构建的知识图谱可以确定,液压模块台架测试结果与装配之间具有一定的关联性与耦合性。基于此,本文提出了一种基于改进的Dense Transformer模型的预测与诊断框架,以某发动机有限公司的实际生产数据为基础,分析数据的来源与特点并对其进行相应预处理和特征选择,最终通过结果对比验证了模型的可行性。最后,基于以上的理论与和方法设计系统的开发方案并确定软、硬件架构,以某发动机有限公司DCT液压模块生产车间为应用场景,设计开发了一套面向液压模块装配与测试过程的质量预测与诊断系统(Quality Prediction and Diagnosis System,QPDS),通过实测验证了系统的可行性与实用性。

改进的Transformer模型在关系抽取任务中的研究与应用

这是一篇关于关系抽取任务,Transformer模型,实体全局位置,预训练语言模型,实体关系抽取应用系统的论文, 主要内容为互联网上产生大量的非结构化文本数据,如何有效的从这些非结构化的文本数据中挖掘并抽取实体和关系信息就要涉及到实体关系抽取研究;这对知识图谱和自动问答等下游应用的构建具有较强的理论意义和实用价值。本文主要以Transformer特征提取模型为基础,通过对现有实体关系抽取模型的改进,提高实体关系抽取的性能。主要研究内容如下:(1)针对Transformer模型在实体关系抽取任务中性能不佳的问题,本文抛弃模型原始的位置编码方式,加入基于实体全局位置的编码,提取实体在文本序列中相对其它单词的距离和方向信息,可以较好融合自注意力机制且是可学习的;在模型输入向量生成阶段,把词性和命名实体特征融入到词向量中,使模型能够学习文本序列的主要特征;在数据预处理阶段将主副实体进行标签替换处理,有效防止过拟合问题。该模型在数据集上进行验证,结果表明改进的Transformer编码模型在评测指标上优于先前模型。(2)在基于跨度的实体关系联合抽取模型(SpERT)中,虽然把实体识别和关系抽取两者结合起来,但损失部分实体特征信息。本文在SpERT模型的输入阶段使用双向Transformer编码模型预训练的词向量来提高模型的泛化能力,并在输入向量中融入置信度较高的词性标注和句法依存关系特征;在模型的关系抽取层中重用输入信息为关系抽取任务提供更多的特征;在优化模型的损失函数中加入可训练的参数来自主学习两个子任务的损失占比权重。在三个公共的数据集上进行实验,结果表明改进的SpERT模型性能提升明显。(3)本文在实体关系抽取模型研究的基础上开发基于Web端的实体关系抽取应用管理平台和一个实体关系抽取移动平台。在Web端将论文中研究的模型和现有的通用模型经过模块化处理移植到系统平台上,并通过Web Service技术封装成接口供Web服务端调用。在移动端结合实体关系抽取模型完成文本序列的实体识别和关系抽取,并结合ECharts插件对得到的实体关系数据构建知识图谱。综上,本文以Transformer模型为基础,研究其在不同方式下的实体关系抽取任务中的应用。最后根据所研究的实体关系抽取模型,建立一套完整的实体关系抽取应用系统,为知识图谱的构建提供有效支撑。

基于轨迹预测的船舶监管系统的设计与实现

这是一篇关于轨迹预测,Transformer模型,三维可视化的论文, 主要内容为海运是最主要的国际贸易运输方式,随着海运船舶密度的不断增加,船舶航行环境愈发复杂。目前,船员主要依靠个人经验驾驶船舶,缺乏及时、有效、直观的信息辅助,这对船舶航行效率的提高及安全性的增强造成巨大阻碍。为应对该问题,本文对船舶轨迹预测技术展开研究、进行改进,并基于此设计了完备的船舶监管系统。本文主要贡献如下:针对海洋环境干扰下的船舶航行轨迹预测问题,提出了基于DWFormer的轨迹预测方法。该方法在Transformer结构的基础上,将船舶自动识别系统(Automatic Identification System,AIS)数据与海洋环境因素结合,并通过分层数据嵌入的方式引入海洋环境因素,增强了模型的表达能力。基于多头自注意力机制提出了考虑海洋环境因素的动态感知自注意力机制,提高了模型的训练效率。此外,结合误差绝对值与误差平衡两方面的考量,提出了一种新颖的混合损失函数。实验结果表明,本文提出的轨迹预测方法具有较高的预测准确度。为提高船舶驾驶中船员从海量异构数据中提取有效信息的便捷性,设计并实现了基于轨迹预测的船舶监管系统。该系统利用远程字典服务(Remote Dictionary Server,Redis)及My SQL数据库存储数据,兼顾了数据的实时性及持久性,并设计数据调度模块以实现多种数据的统一调度及各模块间的协同合作。接着,引入本文提出的DWFormer模型,通过多线程的方式对船舶轨迹进行实时预测。此外,考虑船舶监管系统的平台兼容性及易操作性,本文基于React框架及Web3D技术开发了以用户船舶为视角的可视化平台。该平台针对船舶数据,以雷达俯视图、三维渲染图等不同形式提供了多艘船舶同台呈现的可视化方案。其中,基于3D绘图协议(Web Graphics Library,Web GL)实现的三维渲染图以贴近真实世界的立体效果呈现,使用户能够直观地观察海上交通状况与各船舶未来轨迹。此外,平台还提供了包括船舶过滤、视角转换等多种交互方式,满足船员不同航行情境下的需求。综上所述,本文构建了一个完整的基于轨迹预测的船舶监管系统,并进行了全方位的功能测试,证实了本系统的功能有效性。

基于轨迹预测的船舶监管系统的设计与实现

这是一篇关于轨迹预测,Transformer模型,三维可视化的论文, 主要内容为海运是最主要的国际贸易运输方式,随着海运船舶密度的不断增加,船舶航行环境愈发复杂。目前,船员主要依靠个人经验驾驶船舶,缺乏及时、有效、直观的信息辅助,这对船舶航行效率的提高及安全性的增强造成巨大阻碍。为应对该问题,本文对船舶轨迹预测技术展开研究、进行改进,并基于此设计了完备的船舶监管系统。本文主要贡献如下:针对海洋环境干扰下的船舶航行轨迹预测问题,提出了基于DWFormer的轨迹预测方法。该方法在Transformer结构的基础上,将船舶自动识别系统(Automatic Identification System,AIS)数据与海洋环境因素结合,并通过分层数据嵌入的方式引入海洋环境因素,增强了模型的表达能力。基于多头自注意力机制提出了考虑海洋环境因素的动态感知自注意力机制,提高了模型的训练效率。此外,结合误差绝对值与误差平衡两方面的考量,提出了一种新颖的混合损失函数。实验结果表明,本文提出的轨迹预测方法具有较高的预测准确度。为提高船舶驾驶中船员从海量异构数据中提取有效信息的便捷性,设计并实现了基于轨迹预测的船舶监管系统。该系统利用远程字典服务(Remote Dictionary Server,Redis)及My SQL数据库存储数据,兼顾了数据的实时性及持久性,并设计数据调度模块以实现多种数据的统一调度及各模块间的协同合作。接着,引入本文提出的DWFormer模型,通过多线程的方式对船舶轨迹进行实时预测。此外,考虑船舶监管系统的平台兼容性及易操作性,本文基于React框架及Web3D技术开发了以用户船舶为视角的可视化平台。该平台针对船舶数据,以雷达俯视图、三维渲染图等不同形式提供了多艘船舶同台呈现的可视化方案。其中,基于3D绘图协议(Web Graphics Library,Web GL)实现的三维渲染图以贴近真实世界的立体效果呈现,使用户能够直观地观察海上交通状况与各船舶未来轨迹。此外,平台还提供了包括船舶过滤、视角转换等多种交互方式,满足船员不同航行情境下的需求。综上所述,本文构建了一个完整的基于轨迹预测的船舶监管系统,并进行了全方位的功能测试,证实了本系统的功能有效性。

基于Transformer改进模型的商品营销文案生成研究

这是一篇关于商品营销文案生成,Seq2Seq模型,指针生成网络,ROUGE,Transformer模型的论文, 主要内容为随着电子商务的快速发展和人们生活水平的提高,选择线上购物的人也越来越多。在电子商务平台上,消费者无法实际接触到商品,高质量的商品营销文案不仅可以展现商家自己的文化和商品,还能更好地吸引消费者进行购买。对于京东、淘宝等拥有大量商品数据的电商平台来说,手工创建商品营销文案是一项耗时、低效的工作。因此,研究商品营销文案自动生成是很有必要的。在文本生成领域中,Transformer能够更好地理解和处理上下文信息,具有较高的准确性和泛化能力。因此,本文以Transformer模型为基本模型进行商品营销文案生成相关研究。其次,本文在Transformer模型上添加指针网络构建了 TP模型,使模型在保留通过生成器产生新单词的能力的同时有助于准确地复制信息,从而解决未登录词的问题。然后,将TP模型的自注意层和前馈全连接层合并成一个统一的全注意力层,从而简化了模型结构,构建了自动生成商品营销文案的AATP模型。最后,本文以京东电商平台发现好货栏目的商品标题、属性、图片文字和参考商品营销文案数据进行实验,将ROUGE准则作为模型生成商品营销文案的主要评判指标,然后与添加注意力机制的Seq2Seq、指针生成网络、Transformer、TP等模型进行对比,结果显示本文提出的AATP模型优于其它模型。融合了指针网络和全注意力机制的Transformer改进模型,不仅提升了商品营销文案生成效率,节省了人力成本,满足快速迭代的需求。还为文本生成在其他任务奠定了理论基础和借鉴意义。

融合先验知识的胸部X光影像报告自动生成

这是一篇关于医学图像报告生成,长短时记忆网络,Transformer模型,图卷积网络的论文, 主要内容为胸部X光影像被广泛应用于胸部疾病的诊断与治疗。根据病人的胸部X光影像,医生需要通过影像中的表现给出细致的描述与诊断意见,最终形成一份诊断报告。随着影像技术的发展,影像科医生每天需要审阅大量的影像数据并为每一份影像撰写诊断报告,这占据了影像科医生的绝大部分工作时间。因此开展能够自动生成诊断报告方法的相关研究显得尤为迫切。大多数现有的医学影像报告自动生成的方法是先根据病人影像检测出疾病异常,然后根据检测得到的疾病异常生成文字报告。然而现有的这些方法存在一些问题:首先这些方法忽略了诊断报告中蕴含的丰富先验知识,在疾病预测过程中没有考虑到疾病标签之间的关联性。另外,现有方法中大多使用公开的英文影像报告数据集,鲜有方法使用中文影像报告数据集。为解决上述问题,本文提出了两种胸部X光影像报告自动生成的模型,分别是融合先验知识的双长短时记忆网络和融合先验知识的Transformer模型,并构造了一个全新的中文胸部X光影像报告数据集。第一种模型使用了知识图谱表示诊断报告中丰富的先验知识,知识图谱能够考虑到疾病之间的关系并能为影像报告的生成提供丰富的知识表示。模型首先利用卷积神经网络对图像进行特征提取,然后融合知识图谱提供的语义信息对疾病进行检测,之后将检测到疾病的语义特征与图像特征进行融合,最终通过双长短时记忆网络生成诊断报告。第二种模型在第一种模型的基础上,使用引入多模态融合模块的Transformer模型进行诊断报告自动生成。多模态融合模块能够更好的将视觉信息和知识图谱的语义信息进行交互融合。虽然双长短时记忆网络在一定程度上提高了诊断报告生成的效果,但由于长短时记忆网络存在固有的缺陷,对影像报告这种长文本并不能很好地进行建模。而Transformer模型更适合对长文本进行建模。本文提出的两种模型分别在公开的英文影像报告数据集IU X-Ray和手动构造的中文影像报告数据集CX-Ray上进行实验。实验结果表明,本文提出的方法不仅可以提升疾病检测的效果,还可以有效提高胸部X光影像报告生成的质量。

基于知识的问答系统的设计与实现

这是一篇关于问答系统,知识检索,自然语言处理,Transformer模型的论文, 主要内容为随着计算机技术的快速发展和互联网的日渐普及,问答系统凭借其回复简洁精确、实用度高的特性,受到人们的广泛认可,在实际生活中的使用越来越频繁。传统的问答系统忽略了借助知识对问题本身进行深入的语义理解,而且对于具有明确指令的专业领域缺乏针对性回复,整体的交互能力有限,回复的丰富性欠佳。基于以上现状,本文设计实现了基于知识的问答系统,依靠相关知识对问题进行深度语义理解,根据用户问题、用户属性、所属知识领域及相关候选知识集生成回复。系统包括协调模块、指令模板回复模块、深度学习回复模块、默认回复模块、问答交互模块共五部分。协调模块负责合理调用指令模板回复模块、深度学习回复模块、默认回复模块,以响应不同情况下的用户问题,返回系统回复。指令模板回复模块用于具有明确指令的领域,通过检索获取回复模板集,填充模板生成系统回复。深度学习回复模块包括以下六部分:(1)通过规则化处理从用户问题中提取出对应实体;(2)采用Pylucene搜索引擎对标注数据集和百科知识数据集构建知识索引库,根据规则化后的用户问题和所属知识领域检索出对应知识集;(3)知识筛选单元对检索出的知识集进行筛选,将筛选合格的知识集作为基于知识的回复生成模型的候选知识集;(4)依据Transformer结构设计基于知识的回复生成模型,将规则化后的用户问题、用户年龄属性、所属知识领域以及通过筛选的候选知识集作为模型输入,使用模型生成回复语句;(5)回复质量检测单元负责评测模型生成回复的合理性和困惑度,将检测合格的回复作为深度学习回复模块的回复语句输出;(6)使用MySQL数据库建立缓存单元,初始化时预存储由模型生成且质量检测合格的回复。在获取到规则化后的用户问题后,先在缓存中查询该实体是否已有对应的回复集,如果有则从回复集中随机选择一条作为系统回复,提高回复效率;若没有对应的缓存回复集,再根据前述五部分的流程生成回复并更新缓存。默认回复模块随机选取默认语句作为系统回复,保障在指令模板回复和深度学习回复都没有生成合格回复时系统的及时响应。问答交互模块采用B/S架构和前后端分离模式,使用Vue.js框架和Python-Flask框架搭建问答交互平台,通过交互界面获取用户问题、年龄属性、所属知识领域,访问服务器以获取对应的系统回复等数据,实现问答交互。

面向变速箱液压模块的装配—测试质量预测与诊断方法研究及应用

这是一篇关于双离合自动变速箱液压模块,知识图谱,Transformer模型,质量预测与诊断系统的论文, 主要内容为液压模块作为双离合自动变速箱的“控制中心”,是变速箱最核心的部件之一,其质量关乎整个变速箱的性能可靠性。在液压模块装配完成之后,通常会对其进行系统的台架测试,以保证每个液压模块的内在质量。通过调查发现,当前对液压模块质量相关研究主要分为两点:一是针对装配过程通过保证过程质量实现液压模块的质量控制;二是优化液压模块测试台架以提高测试的全面性与准确性从而保证最终产品的质量。但是,针对液压模块从装配到测试的整个过程研究还比较少,鉴于这种情况,本文提出面向液压模块装配-测试过程的质量预测与诊断方法,将知识图谱技术运用于装配领域,构建台架测试预测诊断模型,最终建立液压模块质量预测与诊断系统实现将理论方法进行实际应用。本文以DCT液压模块作为研究对象,首先简单介绍其组成和装配工艺流程并分析其装配过程特点,以液压模块的主油路压力控制阀等为例分析液压模块台架测试的机制,阐述液压模块质量诊断、质量预测与数据采集的支撑技术。其次,确定知识图谱的构建流程与方式,基于改进的七步法实现液压模块本体的构建。分析数据源的特点,对非结构化数据使用Bi LSTM-CRF实体抽取模型和融合Attention机制的Bi LSTM关系抽取模型进行加工处理,对结构化数据使用D2R工具进行知识抽取。将RDF数据映射储存至Neo4j图数据库实现整个基于装配-测试液压模块知识图谱的构建,为系统的质量诊断做了底层铺垫。通过构建的知识图谱可以确定,液压模块台架测试结果与装配之间具有一定的关联性与耦合性。基于此,本文提出了一种基于改进的Dense Transformer模型的预测与诊断框架,以某发动机有限公司的实际生产数据为基础,分析数据的来源与特点并对其进行相应预处理和特征选择,最终通过结果对比验证了模型的可行性。最后,基于以上的理论与和方法设计系统的开发方案并确定软、硬件架构,以某发动机有限公司DCT液压模块生产车间为应用场景,设计开发了一套面向液压模块装配与测试过程的质量预测与诊断系统(Quality Prediction and Diagnosis System,QPDS),通过实测验证了系统的可行性与实用性。

基于Transformer模型的粮食产量预测研究与可视化分析平台设计

这是一篇关于粮食产量,机器学习技术,Transformer模型,预测可视化平台的论文, 主要内容为我国是一个农业大国,粮食的稳定生产是农业发展的关键驱动力,关系到社会的稳定和国家经济的增长。粮食产量的精准预测可为农民和企业提供决策参考,为政府制定相应政策提供建议,对农产品收获管理及农业市场规划具有重要意义。受农业、气象、自然灾害等多种因素影响,粮食产量相关数据随时间变化呈现出波动性、随机性、不确定性等特点,属于复杂时间序列范畴。因此,掌握我国粮食产量的影响因素及发展动态,采用合理的数据处理方法和模型预测粮食产量变化趋势,可有效预防及规避粮食生产过程出现的问题。本研究利用机器学习模型实现了粮食产量的精准预测,为农业工作者提供了决策意见和建议,具有重要的现实意义。对我国13个粮食主产区1978-2020年粮食产量及相关数据进行统计和汇总,通过阅读相关权威资料和参考文献,筛选出与粮食产量相关的22个影响因素。利用临近点均值填补缺失值和数据归一化方法对数据进行预处理,降低因数据缺失或量纲不同对预测结果造成的误差。为进一步提高预测准确率,利用皮尔逊相关性分析方法和灰色关联分析方法剔除变量间的多重共线性,筛选出与粮食产量相关性较强的因素,为粮食产量的精准预测提供了较有利的数据基础。本文运用机器学习算法中与时间序列相关的GRNN模型、ARIMA-GRNN组合模型、RNN模型、LSTM模型和Transformer模型对粮食产量进行预测。根据1978-2020年河北省粮食产量相关数据,运用上述5种模型进行试验,分析各模型在粮食产量预测中的可行性和预测效果。结果表明Transformer模型预测效果最优,其测试集的R2、RMSE和MAE分别为0.91、124.53和109.35,平均相对误差为3.02%、训练时间为80 s。而GRNN模型测试集的R2、RMSE和MAE分别为0.81、208.98和181.87,平均相对误差为4.96%、训练时间为132 s。ARIMA-GRNN组合模型测试集的R2、RMSE和MAE分别为0.81、195.18和178.36,平均相对误差为4.98%、训练时间为160 s。RNN模型测试集的R2、RMSE和MAE分别为0.83、172.37和152.26,平均相对误差为4.17%、训练时间为130 s。LSTM模型测试集的R2、RMSE和MAE分别为0.85、166.08和132.86,平均相对误差为3.73%、训练时间为155 s。为测试模型的泛化能力,另选取我国除河北省外其余12个粮食主产区的相关数据进行测试,结果表明Transformer模型在多数省份中预测效果较佳。因此,本文将Transformer模型作为粮食产量精准预测核心算法。便捷的农业数据分析可视化系统可作为农业用户数据记录、决策支持、智慧服务的有效载体。因此,本文设计开发了具有数据预测及可视化功能的粮食产量预测可视化平台。平台以Transformer模型为预测核心算法,实现粮食产量的精准预测,并对预测结果进行可视化展示,方便用户查询与粮食产量相关的更多数据,提供了更加科学可靠的粮食产量预测结果。本平台对农业信息化大数据平台的开发及建设,具有重要的参考价值和推动作用。