7个研究背景和意义示例,教你写计算机槽位填充论文

今天分享的是关于槽位填充的7篇计算机毕业论文范文, 如果你的论文涉及到槽位填充等主题,本文能够帮助到你

基于知识图谱的三国问答系统研究与应用

这是一篇关于知识图谱,远程监督,意图识别,槽位填充,多轮对话系统的论文, 主要内容为中华文明上下五千年历史,文化博大精深,三国时期作为漫长历史长河中一个群雄并起、最有魅力的时代,出现了一大批经典英雄人物,有其丰富的历史文化内涵,受到大众的喜爱,考虑到之前知识图谱工作在三国历史方面的空白,本研究构建了三国人物知识图谱,设计了12种本体,30种关系,有三元组11600条,并针对知识图谱的关键问题设计了模型。本文分析了现有知识抽取模型的模型架构和意图识别槽位填充模型存在的问题,在减弱噪声数据影响的同时充分利用数据集信息,设计效果更佳的方法。在此基础上,进一步应用在三国智能问答机器人的构建上,最终构建具有实用价值的多轮对话问答机器人,帮助人们更好地了解、梳理三国知识,同时能够为后续的中文历史文本研究提供一定的参考价值。本文研究了一种基于双粒度注意力和对抗训练的远程监督关系抽取方法,采用包内句子级注意力机制和组内包级别注意力机制将训练注意力逐渐集中到高质量的样本数据上,减少了远程监督标注带来的噪声数据的影响,并通过对抗训练来提高数据利用率。具体包括:数据预处理、句子编码、双粒度注意力的多示例学习、实例级对抗训练、模型迭代训练等步骤。在纽约时报数据集和自建的三国关系抽取数据集上通过模型效果的一系列对比实验证明了本方法的有效性。本文研究了一种基于双向交互注意力的意图识别和槽位填充联合方法,涉及口语理解领域,采用卷积和双向长短时记忆网络对用户提问进行句子表征,通过提出一种双向交互注意力机制,考虑两个任务之间的交叉影响,令槽位填充和意图识别可以加入相互的信息,其过程中使用了多头注意力,有效地实现了意图识别与槽位填充任务之间的信息补充。模型在SNIPS、ATIS数据集和自建的三国数据集上与现有5种技术相比有效地提升了意图识别、槽位填充各自任务的效果,具有一定的实用价值。最后,构建了可以令用户访问的基于知识图谱数据库的三国知识问答机器人,该问答机器人具有闲聊功能和意图继承、槽位继承模块,实现了简单的多轮对话。现将本文的核心贡献概括为以下四点:(1)针对远程监督关系抽取中的训练数据利用不充分的问题,本文采用包内句子级注意力机制和组间包级别注意力机制将训练注意力逐渐集中到高质量的样本数据上,减少远程监督标注的噪声数据的影响,通过提出对抗训练来提高数据利用率。与现有技术相比有效地降低了噪声句子和噪声包的影响,解决了训练不充分、数据利用率低的问题,增加了模型的鲁棒性,提升了关系抽取的效果。(2)针对意图识别和槽位填充中单方向交互问题,提出一种双向交互注意力机制,令槽位填充和意图识别可以参照相互的信息,过程中使用了多头注意力。与现有技术相比改进了之前模型隐式共享参数的方式,实现两任务共同训练;改进了之前模型显式训练仅仅使用意图识别来提高槽位预测的方式;改进了显式训练模型两个任务不同步的问题。(3)构建了三国语料,包含一个三国人物知识图谱和两个模型训练数据集。三国知识图谱数据集融合了百度百科、维基百科等关于三国人物、地点、事迹的一系列数据,包含12种本体、30种关系;实体6388个、三元组11600个。三国人物关系抽取数据集使用远程监督的方法生成,并在保障数据质量上充分考虑了头尾实体距离限制。开展意图识别和槽位填充实验所用的三国数据由手工编写并标注的数据和模板批量产生数据混合构成,设计中充分考虑了语言表达的丰富性和用户表达的口语化,数据集已经公开在github网站(https://github.com/Ruiqing Gao/sanguo)。(4)开放智能问答机器人应用,可以实现多轮对话。人机交互以微信公众号为基础,按照语义解析式的任务型问答技术路线(意图识别、槽位填充、语义槽模板设计)设计出三国知识问答机器人,提供微信公众号(公众号名称:Nexus7Rachael)服务公开访问。

自然语言理解模型训练系统的设计与实现

这是一篇关于对话系统,自然语言理解,意图识别,槽位填充的论文, 主要内容为随着人工智能技术的发展,对话系统的应用越来越广泛。任务型对话系统作为对话系统的一个重要分支,可以完成许多基本任务,为企业节省人力成本。自然语言理解(NLU)是任务型对话系统必不可少的核心模块,包括意图识别和槽位填充两个关键子任务,通常基于神经网络模型实现。鉴于任务型对话系统广泛的应用价值以及自然语言理解在任务型对话系统中的不可或缺性,提出了一个自然语言理解模型训练系统,以提高自然语言理解模型的开发效率。系统基于B/S结构,供单个NLU开发者使用。每个开发者将系统部署到自己的开发主机上,即可通过可视化的操作进行NLU模型的训练。首先经过需求分析,明确了系统所应具备的功能,并进行系统的总体设计。然后将系统划分为领域设置、数据资源管理、模型训练和模型部署测试四个主要模块,并进行了各模块的详细设计,包括UML类图设计和功能流程图设计等。系统服务端使用Python语言,基于Flask框架和Tensorflow框架实现,前端页面基于Vue.js框架实现。系统内置了多种模型供开发者选择,并提供基于规则和词典的数据增强功能,还引入了拼音特征以缓解语音交互下可能存在的语音识别问题。系统将模型训练流程模块化,通过Web页面屏蔽了具体的代码实现,使不同代码风格的NLU开发者之间的工作交接更加方便,并大大提高了开发者的模型开发效率。

基于医疗知识图谱的智能导诊系统研究与实现

这是一篇关于医疗知识图谱,实体识别,意图分类,实体链指,槽位填充的论文, 主要内容为随着医疗数据的急速增长,传统的搜索引擎已经不能够满足人们检索医疗信息的需求,当人们使用搜索引擎进行检索时,返回的往往是一些网页链接,这些信息通常杂乱无章,需要人为去筛选。此外,医学知识的复杂多样以及用户医疗知识的匮乏都使得检索变得非常困难。问答系统的诞生给问题的解决带来了契机。将问答系统应用于医疗咨询领域形成医疗导诊系统,可以快速了解用户意图,为用户提供高质量的导诊服务。传统的导诊系统都是基于规则模板的方式去解析用户问题,面对日益增长的信息,需要大量的人力物力去构建模板库以及关键词库,受限于模板库以及关键词库的大小,此类方法对于用户问题的解析能力往往较差,查询效率不高。针对上述情况,本文利用医疗知识图谱来研究与实现智能导诊系统,通过此系统为用户提供诸如疾病查询、科室查询、鉴别诊断等医疗导诊服务,利用深度学习技术对用户问题进行智能化的解析,极大提高了问题解答的能力。本文主要包含以下几个方面的工作:1.构建一种基于医疗知识图谱的智能导诊系统模型。该模型由医疗知识图谱模块、用户交互模块、问题理解模块、问题解答模块、测试模块共五个模块构成。2.给出医疗知识图谱的构建方法。使用爬虫技术从医疗网站上爬取信息,并将其保存到数据库中,接着根据医疗知识图谱的概念层设计,将爬取的医疗数据以“实体-关系-实体”或“实体-属性-属性值”的三元组的形式存储到图数据库中,从而实现医疗知识图谱的构建。3.给出医疗问题智能理解方法。用户问题的理解包含医疗实体识别和意图分类两个任务。在医疗实体识别任务中,使用BERT-IDCNN-Attention-CRF算法去识别用户问题中是否包含疾病、症状、治疗方式等实体。在意图分类任务中,使用BERT+Bi LSTM+Multi Head-Attention算法来判断用户是否想要进行疾病查询、科室查询、鉴别诊断等医疗服务。本文通过这两个任务实现了对用户问题的智能化解析。通过对比实验可以看出本文使用的医疗实体识别算法相较于经典算法BERT-Bi LSTM-CRF,在查准率、召回率、F1值上分别提高了0.51%、2.08%、1.29%。使用的意图分类算法与经典算法BERT-Text CNN相比,在查准率、召回率、F1值上分别提高了0.21%、3.08%、1.86%。同时,本文还对问题理解的准确率进行了实验,将本文给出的两个算法作用于同一个问题上时,能够同时抽取正确实体和正确意图的准确率为89%,进一步表明了本文所给的医疗问题智能理解方法的有效性。4.给出医疗问题解答导诊方法。首先通过Sentencetransformers库函数将识别出的实体映射到医疗知识图谱对应的实体上,根据回复策略、链指后的实体以及用户意图生成对应的Cypher语句去知识图谱中进行答案的查询,最后将匹配的最佳结果通过网页形式反馈给用户。5.实现并运行测试智能导诊系统。首先对系统的各个功能进行了编码实现,然后对整个导诊系统进行了运行测试。运行测试结果表明,在共270个医疗相关问题上,本系统在疾病查询、科室查询、鉴别诊断等9个方面都可以做出很好的回答。通过对本文构建的医疗知识图谱智能导诊系统进行的测试以及系统的整体运行情况可以看出,一方面通过本文给出的问题理解方法提高了对用户问题理解的准确率,另一方面在问题解答时,使用实体链指、槽位填充、知识图谱查询技术的确能够得到高效、准确的导诊答案。因此,本文构建的医疗知识图谱智能导诊系统能够很好地帮助用户进行科室查询、自我诊察等导诊服务,减轻了医院医生的工作量,方便了用户的就诊。

基于知识图谱的智能对话系统的研究与应用

这是一篇关于任务型对话系统,知识图谱,意图识别,槽位填充,监督对比学习的论文, 主要内容为智能对话系统已经被广泛应用于生活中,尤其是面向任务的人机对话系统,其主要被用于帮助用户完成任务。但目前的智能对话系统往往都只针对于特定领域,由于缺乏大规模的标注数据,导致此类对话系统仅仅依靠模型学习到的知识通常都难以反馈给用户有效的信息。因此,引入外部知识库来帮助对话系统完成特定任务就成了必要,同时也是一个较优的解决方案。本文主要涉及故障维修领域,旨在建立一个面向智能维修场景的任务型对话系统。目前,针对特定领域的任务型对话系统一般都基于管道式方法来搭建,即主要包括自然语言理解、对话管理、自然语言生成三个模块。在自然语言理解模块中,本文提出了一个基于特征交互的意图识别和槽位填充联合学习模型,该模型以意图识别和槽位填充两个任务的隐藏特征和后验概率交叉式的特征交互方式联合建模,有效地提升了模型在意图识别和槽位填充任务上的性能,有利于系统更好地理解用户意图。在对话管理模块中,本文提出了一个基于监督对比学习的分类模型,该模型通过尽可能地最小化类内方差、最大化类间方差有效地区分所查询的句子对是否匹配,从查询知识库返回的topk个候选答案中选出最优答案。上述知识库即为本文所构建的故障维修知识图谱,用以辅助对话管理模块输出正确响应,帮助用户解决故障维修问题。基于上述模型,本文设计并实现了面向智能维修场景的任务型对话系统。该系统以自然语言的形式和用户交流,帮助用户维修故障设备。

意图识别与槽位填充关键技术研究

这是一篇关于意图识别,槽位填充,知识图谱,深度学习的论文, 主要内容为意图识别任务与槽位填充任务是自然语言理解领域的基础任务。意图识别要求识别出文本序列的意图类别,而槽位填充则要求根据意图类别从文本序列中提取槽位值,以进一步明确文本序列的意图具体内容。一方面对意图识别任务与槽位填充任务的研究可以有效促进自然语言理解的发展;另一方面,意图识别任务与槽位填充任务对下游具体任务如对话系统等任务的研究具有重要意义。目前的深度学习模型在意图识别与槽位填充领域均取得了较好的成绩,但是对于省略了许多关键语义信息的口语化短句的识别效果仍有待提升。本文将外部信息引入意图识别模型以进一步增强模型对短句的语义建模效果,同时向意图识别与槽位填充联合模型中增加了语义增强模块,以进一步提升联合模型的性能。本文主要进行了以下三项研究工作:(1)标注了中文意图识别与槽位填充数据集,同时构建了与数据集内容高度相关的知识图谱。针对目前学术界所使用的中文意图识别与槽位填充数据集较少的问题,本文完成了对收集于各大论坛社区的短问句语料进行意图识别与槽位信息标注的工作;同时,还基于相关知识库构建出了与数据集内容高度相关的知识图谱。(2)将外部信息引入意图识别模型。由于短问句数据集存在关键信息省略、口语化等特点,深度学习模型的表现效果有待提高。本文将知识图谱作为外部信息引入到预训练语言模型中,提升了预训练语言模型在短问句数据集上的表现效果。(3)向意图识别与槽位填充联合模型中引入指示信息。本文首先将知识图谱中实体之间的语义关系融入到意图识别与槽位填充联合模型中,在实验数据集上取得了较好的表现效果;最后通过对错误样例的分析,对融入实体语义关系的联合模型作出进一步修改,加入了语义强化模块,并通过对比实验证明了引入指示信息可以进一步提升联合模型的表现效果。