基于领域知识图谱的任务型对话理解方法研究
这是一篇关于深度学习,任务型对话,自然语言理解,意图识别,槽填充的论文, 主要内容为在人工智能兴起的浪潮中,模拟人类交流能力的智能对话系统因其广泛的应用场景一直受到工业界的重点关注,同时也是国内外研究学者的热门研究方向之一。在对话系统类别中,任务导向型对话系统能够通过多轮对话的形式收集用户需求信息,提供符合用户描述要求的服务。普遍面向垂直领域的任务型对话系统在为人们生活提供更高效更优质服务的同时,也为企业节省大量人力成本,具有巨大的商业应用价值。基于管道方式开发实现的任务型对话系统通常由三个关键模块(自然语言理解模块、对话管理模块、自然语言生成模块)和一个后端数据库组成。自然语言理解模块对用户语义解析的准确程度直接限制系统的性能,因此,本文面向解决垂直领域任务的对话系统,重点对于其中自然语言理解部分展开研究。自然语言理解可以拆分成两个子任务:意图识别和语义槽填充,尽管国内外关于这两个任务已经展开了大量研究工作,但较少工作关注于系统的多轮交互特性,并且尚未有效整合领域知识来提升语言解析效果。本文针对上述问题,基于深度学习模型,开展了结合语境的意图识别方法和融合领域知识的槽填充方法研究。针对多轮对话数据的时序性,提出基于上下文信息的意图识别模型。对于单一对话中的多种意图采取多标签分类方法进行识别,分别在当前对话和历史对话层级对语义信息建模,发挥卷积神经网络和双向循环神经网络的互补优势。在微软发布的领域任务型对话数据上进行测试,实验结果表明,相较于基准算法,所提出的模型在意图识别任务上的准确性有明显提升。针对系统面向垂直领域的特性,提出基于领域知识的语义槽标注模型。嵌入层整合领域知识和用户意图,使用注意力机制让模型自主学习相关信息对当前任务的贡献程度,采用条件随机场优化语义槽序列标注结果。和基准序列标注方案进行对比实验,实验结果证明融合领域知识和用户意图能够提升槽位标识准确性,同时模型具备捕捉有效信息的能力。综合本文研究工作,将所提出的模型应用于电影票预订业务场景,设计并搭建基于领域知识图谱的电影票预订任务对话系统。构建电影领域知识图谱作为系统数据支撑,对话管理使用策略驱动,自然语言回复选用模板生成,实现系统内完整的数据传递流程。
基于特定领域知识图谱的智能问答新系统
这是一篇关于知识图谱,问答系统,任务型对话,Rasa的论文, 主要内容为随着互联网产业的快速发展,传统的搜索引擎仅仅基于关键字进行匹配,忽略了用户的语义意图,难以准确的返回有效信息,已经无法满足人们快速搜索的需求。问答系统能够利用神经网络理解用户输入的文字中隐含的语义与意图,准确的给出用户想要的内容。问答系统分为任务型问答系统与非任务型问答系统。非任务型问答系统主要基于开放域知识完成与用户的闲聊功能。而任务型问答系统则是基于特定的领域知识完成用户给出的任务、回答用户问题的功能,广泛应用于客服领域、专业领域。知识图谱是一种结构化表示知识的技术,相比传统的关系型数据库,能够更好的存储领域相关知识,极大的提高用户对知识的检索效率。因此,基于知识图谱的任务型问答系统具有更广阔的前景。本文以医疗领域为例,研究并实现通过爬取半结构化数据快速创建特定领域知识图谱的方法。通过爬取Web网页数据,得到半结构化数据,对半结构化数据进行数据清洗、实体识别与关系提取,并永久存储于图数据库中。研究当前主流意图识别、对话管理技术与开源框架,研究并实现通过Rasa框架搭建意图识别服务、对话管理服务,从意图识别准确度、问答准确度对Bert模型与Mitie模型进行评价。并根据医疗领域业务逻辑,设计训练数据、对话模型,设计动作函数,以槽填充的方式实现多轮对话管理。为保证系统功能的完整性,该系统通过会话管理服务完成对用户请求的处理,通过账户管理模块记录用户的病历与问答历史,并通过Docker以微服务形式将会话管理模块、对话管理模块、账户管理模块进行分布式部署。为保证系统性能,通过Nginx实现系统负载均衡,并通过改进的负载均衡算法维护用户问答过程的专注度。
基于领域知识图谱的任务型对话理解方法研究
这是一篇关于深度学习,任务型对话,自然语言理解,意图识别,槽填充的论文, 主要内容为在人工智能兴起的浪潮中,模拟人类交流能力的智能对话系统因其广泛的应用场景一直受到工业界的重点关注,同时也是国内外研究学者的热门研究方向之一。在对话系统类别中,任务导向型对话系统能够通过多轮对话的形式收集用户需求信息,提供符合用户描述要求的服务。普遍面向垂直领域的任务型对话系统在为人们生活提供更高效更优质服务的同时,也为企业节省大量人力成本,具有巨大的商业应用价值。基于管道方式开发实现的任务型对话系统通常由三个关键模块(自然语言理解模块、对话管理模块、自然语言生成模块)和一个后端数据库组成。自然语言理解模块对用户语义解析的准确程度直接限制系统的性能,因此,本文面向解决垂直领域任务的对话系统,重点对于其中自然语言理解部分展开研究。自然语言理解可以拆分成两个子任务:意图识别和语义槽填充,尽管国内外关于这两个任务已经展开了大量研究工作,但较少工作关注于系统的多轮交互特性,并且尚未有效整合领域知识来提升语言解析效果。本文针对上述问题,基于深度学习模型,开展了结合语境的意图识别方法和融合领域知识的槽填充方法研究。针对多轮对话数据的时序性,提出基于上下文信息的意图识别模型。对于单一对话中的多种意图采取多标签分类方法进行识别,分别在当前对话和历史对话层级对语义信息建模,发挥卷积神经网络和双向循环神经网络的互补优势。在微软发布的领域任务型对话数据上进行测试,实验结果表明,相较于基准算法,所提出的模型在意图识别任务上的准确性有明显提升。针对系统面向垂直领域的特性,提出基于领域知识的语义槽标注模型。嵌入层整合领域知识和用户意图,使用注意力机制让模型自主学习相关信息对当前任务的贡献程度,采用条件随机场优化语义槽序列标注结果。和基准序列标注方案进行对比实验,实验结果证明融合领域知识和用户意图能够提升槽位标识准确性,同时模型具备捕捉有效信息的能力。综合本文研究工作,将所提出的模型应用于电影票预订业务场景,设计并搭建基于领域知识图谱的电影票预订任务对话系统。构建电影领域知识图谱作为系统数据支撑,对话管理使用策略驱动,自然语言回复选用模板生成,实现系统内完整的数据传递流程。
基于特定领域知识图谱的智能问答新系统
这是一篇关于知识图谱,问答系统,任务型对话,Rasa的论文, 主要内容为随着互联网产业的快速发展,传统的搜索引擎仅仅基于关键字进行匹配,忽略了用户的语义意图,难以准确的返回有效信息,已经无法满足人们快速搜索的需求。问答系统能够利用神经网络理解用户输入的文字中隐含的语义与意图,准确的给出用户想要的内容。问答系统分为任务型问答系统与非任务型问答系统。非任务型问答系统主要基于开放域知识完成与用户的闲聊功能。而任务型问答系统则是基于特定的领域知识完成用户给出的任务、回答用户问题的功能,广泛应用于客服领域、专业领域。知识图谱是一种结构化表示知识的技术,相比传统的关系型数据库,能够更好的存储领域相关知识,极大的提高用户对知识的检索效率。因此,基于知识图谱的任务型问答系统具有更广阔的前景。本文以医疗领域为例,研究并实现通过爬取半结构化数据快速创建特定领域知识图谱的方法。通过爬取Web网页数据,得到半结构化数据,对半结构化数据进行数据清洗、实体识别与关系提取,并永久存储于图数据库中。研究当前主流意图识别、对话管理技术与开源框架,研究并实现通过Rasa框架搭建意图识别服务、对话管理服务,从意图识别准确度、问答准确度对Bert模型与Mitie模型进行评价。并根据医疗领域业务逻辑,设计训练数据、对话模型,设计动作函数,以槽填充的方式实现多轮对话管理。为保证系统功能的完整性,该系统通过会话管理服务完成对用户请求的处理,通过账户管理模块记录用户的病历与问答历史,并通过Docker以微服务形式将会话管理模块、对话管理模块、账户管理模块进行分布式部署。为保证系统性能,通过Nginx实现系统负载均衡,并通过改进的负载均衡算法维护用户问答过程的专注度。
基于任务型对话的政务智能客服系统的建模与实现
这是一篇关于自然语言处理,任务型对话,强化学习,深度强化学习的论文, 主要内容为智能客服系统是任务型对话中的一个重要应用。智能客服系统相比人工客服而言,解决问题能力更加高效,而且成本更低,因此受到了工业界大量企业的亲睐。比如在电商领域,阿里小蜜、京东小咚等产品都是典型的智能客服系统。在政务客服领域,同样需要智能客服助力。目前,很多政府部门都提供了智能客服系统,比如北京政府的智能咨询机器人“京京”、上海政府的智能客服“小申”等。这些政务智能客服系统可以为公众提供权威的政策咨询服务,大大提升了公众的使用体验,提高了政府网站的在线服务能力和水平。本文基于任务型对话,将深度强化学习技术应用于政务智能客服系统的实现中,以改进当前政务智能客服系统存在的问题,从而使政务服务更加智慧化,进一步提高我国政务平台服务水平。当前的政务智能客服系统通常存在如下问题:1)基于向导的咨询系统:通过向导程序实现办理业务定位然后进行信息反馈。其流程复杂,每次交互咨询人只能输入很少信息,导致花费大量时间用于逐步完成信息输入与判断。2)基于检索的咨询系统:没有真正的咨询系统,通常利用文件检索系统替代咨询系统。3)提供基于对话的咨询系统,总体上仍然是向导程序的自然语言版本而已。本文的创新点是基于深度Q网络技术,构建一个DQN Agent对话策略学习模型,并把它应用于政务智能客服系统的对话策略模块。与传统的基于FAQ检索或者基于规则的对话系统相比,本文构建的基于DQN智能体的政务智能客服系统更具有灵活性和智能性。本文致力于实现一个服务于电子政务咨询领域的智能客服系统,提出使用深度强化学习方法,去解决智能客服系统对话策略的学习问题。基于深度强化学习方法的对话策略学习模型可以使得智能客服系统能够在更多的任务领域中应用,帮助用户完成更多的任务。结合电子政务咨询领域中的业务诊断任务,本文对基于深度强化学习的对话策略学习模型的设计、构建、实现以及这种方法实现的性能质量、优缺点等方面进行了研究。并详细介绍了基于任务型对话的政务智能客服系统的实现过程以及DQN Agent模型是如何指导该智能客服系统进行对话决策。本文主要包括如下内容:(1)基于深度Q网络方法构建政务智能客服系统的对话策略学习模型。该对话策略学习模型使用深度强化学习算法——深度Q网络DQN算法来构造一个智能体DQN Agent。本文在训练DQN Agent时,采用了强化学习中著名的ε贪婪搜索(ε-greedy exploration)策略,从而可以尽量多地探索到不同对话状态下的奖励值Reward情况。相比于其他对话策略学习模型,本文基于深度Q网络方法构造的对话策略学习模型完成任务所需要的对话轮数更少,并且在策略探索上更具有个性化。(2)构造电子政务咨询领域的对话数据集。由于目前政府的政务电子化在全国各级政府中的覆盖率并不高,并且由于政府事务具有保密性等原因,政务咨询领域内目前还没有高质量的对话语料公开发表。因此本文结合电子政务咨询领域的实际应用场景,比如首次办理护照、养狗登记、补办港澳台通行证等任务场景,构造了上千段不同对话场景的中文数据集。除此之外,本文还将已经构造好的语料进行分词和标记,处理成槽值对信息的格式,以便用于对话策略学习模型的训练。
基于领域知识图谱的任务型对话理解方法研究
这是一篇关于深度学习,任务型对话,自然语言理解,意图识别,槽填充的论文, 主要内容为在人工智能兴起的浪潮中,模拟人类交流能力的智能对话系统因其广泛的应用场景一直受到工业界的重点关注,同时也是国内外研究学者的热门研究方向之一。在对话系统类别中,任务导向型对话系统能够通过多轮对话的形式收集用户需求信息,提供符合用户描述要求的服务。普遍面向垂直领域的任务型对话系统在为人们生活提供更高效更优质服务的同时,也为企业节省大量人力成本,具有巨大的商业应用价值。基于管道方式开发实现的任务型对话系统通常由三个关键模块(自然语言理解模块、对话管理模块、自然语言生成模块)和一个后端数据库组成。自然语言理解模块对用户语义解析的准确程度直接限制系统的性能,因此,本文面向解决垂直领域任务的对话系统,重点对于其中自然语言理解部分展开研究。自然语言理解可以拆分成两个子任务:意图识别和语义槽填充,尽管国内外关于这两个任务已经展开了大量研究工作,但较少工作关注于系统的多轮交互特性,并且尚未有效整合领域知识来提升语言解析效果。本文针对上述问题,基于深度学习模型,开展了结合语境的意图识别方法和融合领域知识的槽填充方法研究。针对多轮对话数据的时序性,提出基于上下文信息的意图识别模型。对于单一对话中的多种意图采取多标签分类方法进行识别,分别在当前对话和历史对话层级对语义信息建模,发挥卷积神经网络和双向循环神经网络的互补优势。在微软发布的领域任务型对话数据上进行测试,实验结果表明,相较于基准算法,所提出的模型在意图识别任务上的准确性有明显提升。针对系统面向垂直领域的特性,提出基于领域知识的语义槽标注模型。嵌入层整合领域知识和用户意图,使用注意力机制让模型自主学习相关信息对当前任务的贡献程度,采用条件随机场优化语义槽序列标注结果。和基准序列标注方案进行对比实验,实验结果证明融合领域知识和用户意图能够提升槽位标识准确性,同时模型具备捕捉有效信息的能力。综合本文研究工作,将所提出的模型应用于电影票预订业务场景,设计并搭建基于领域知识图谱的电影票预订任务对话系统。构建电影领域知识图谱作为系统数据支撑,对话管理使用策略驱动,自然语言回复选用模板生成,实现系统内完整的数据传递流程。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：代码助手 ，原文地址：https://m.bishedaima.com/lunwen/50036.html
