基于图神经网络的知识推理研究与应用
这是一篇关于知识图谱推理,图神经网络,关系推理,稀疏知识图谱,信息增强的论文, 主要内容为随着互联的发展,网络上的信息呈爆发式的增长,其中许多知识以文本的方式存储在知识图谱中。知识图谱广泛应用于网页搜索优化、推荐系统、商业分析、风险评估、自动化处理等领域。然而除了大型商业知识图谱外,现有的知识图谱完整度都不高,稀疏度较大,影响着知识图谱应用系统的准确性。针对以上问题,知识图谱推理算法,又称知识推理,可以对知识图谱中缺失的关系进行推理补全。1、现有的知识图谱推理算法在进行知识图谱补全时对实体和关系信息获取不够完善,存在未获取到图谱中的结构信息的问题。因此,本文在收集图谱语义信息的图卷积神经网络(Graph Convolutional Network,GCN)知识图谱推理算法中增加知识图谱结构信息的收集;具体在使用GCN网络对获取语义信息,同时通过改进图表示学习(Graph SAGE,GS)框架的目标节点采样方法,进行邻居节点结构信息收集;利用多头注意力机制将结构和语义信息的评分结果进行融合;最后在公开的数据集上进行了实验分析。改进的算法在NELL-995数据集上评价指标MRR、Hits@1、Hits@3分别上涨了1.1%,2.9%,2.8%,在Open Bio Link数据集上评价指标MRR、Hits@10分别上涨了1.3%,2.7%。2、本文针对知识图谱推理算法在关于信息量较少的稀疏知识图谱推理时存在的问题进行了分析,提出使用外部信息对稀疏知识图谱实体特征进行增强,利用基于GCN网络和外部知识库的特征信息增强方法来改进算法。具体采用EncoderDecoder框架和长短记忆网络(Long Short Term Memory Network,LSTM)对目标头尾实体进行特征抽取;利用实体链接算法在外部知识库中定位目标实体,将GCN网络对知识库中聚合获得的额外信息作为外部特征;利用双注意力机制融合得到增强特征;最后在短文本数据上验证了信息增强模块的可行性,实验了不同稀疏度下知识图谱推理算法的结果。改进的方法在FB15K-237数据集稀疏度为10%的情况取得最好的效果,评价指标MRR增长了2.2%。3、本文利用知识推理对石墨烯制备专利的知识图谱进行完善,进而借助知识图谱对石墨烯专利文本进行应用分析。首先利用知识图谱构建方法对每篇石墨烯专利进行知识图谱构建,结合第三章和第四章模型推理补全石墨烯制备专利知识图谱。在获得完善的知识图谱条件下,结合石墨烯制备领域的关键材料和工艺流程,对石墨烯制备专利进行创新性分析和趋势分析。
基于深度强化学习的知识图谱推理研究
这是一篇关于关系推理,关系路径,知识图谱补全,深度强化学习的论文, 主要内容为知识图谱近年来越发引人关注,在智能搜索、问答和推荐系统等领域广泛应用。作为其中的重点研究方向,知识图谱推理是根据目前知识图谱中已有信息进行推断,既可以推理出知识图谱中不存在的事实,也可以判断现有事实的正确性,有很大的研究意义和应用价值。目前主要的知识图谱推理模型中,基于翻译表示的模型无法很好地解决语义多样性地问题,基于随机游走的模型又在时间和空间上开销较大。论文提出了基于深度强化学习的多元奖励结构推理模型,根据知识图谱推理主要与序列决策有关的特点,将推理问题转化为强化学习问题,将知识图谱看作外部环境,以五元组形式表示,并将推理过程建模为马尔可夫决策过程;问题查询这一行为则看作为智能体,动作选择由策略网络来指导。策略网络主要包括长短期记忆网络层和多头自注意力网络层,对查询过程的历史状态进行编码,指导下一步的动作选择。模型中的奖励函数设置为多元结构,根据智能体在知识图谱上游走到达停止状态时所找到的当前实体与目标实体的不同关系,给出不同的奖励值,最终计算累积奖励。模型的目标函数即为最大化累积奖励,训练方法采用策略梯度方法。论文在NELL-995、FB15K-237和WN18RR数据集进行了链接预测和事实预测等知识图谱推理实验,并与基于翻译表示的方法和基于随机游走的方法进行比较,结果表明论文提出的方法效果更好。
基于知识图谱的智能问答技术研究与应用
这是一篇关于问答系统,知识图谱,关系推理的论文, 主要内容为随着互联网的高速发展和医疗设施的进一步完善,人们对在线医疗资源的需求程度也越来越高。但互联网的数据尤其是医疗相关的知识有很大的不确定性,智能问答系统正成为辅助医疗与搜索的一个重要手段。目前医疗领域也正不断信息化,但医疗领域下的智能问答系统仍不完善,如何合理构建医疗知识库并解决智能问答的关键技术难点成为本文的主要研究方向。本文构建了中文医疗知识图谱作为问答知识库,并解决了智能问答的问题分析及答案生成阶段的关键技术难点。首先,将互联网中海量的半结构化、非结构化的医疗数据进行知识抽取与知识融合等,构建了一个中文医疗领域下具有疾病、症状、检查等多维度数据的知识图谱;然后,为扩充知识图谱本文研究关系推理技术,研究Trans E及其衍生模型,结合实体间的路径信息提出PTrans H模型,取得了较传统模型更好的效果,本文进一步结合实体与关系的类型信息,提出ZPTrans H模型,并应用于中文医疗知识图谱的关系推理中,得到了优于其他Trans系列算法的效果;同时,本文以知识图谱为知识库,研究智能问答技术,提出结合TF-IDF与词向量的主题词抽取模型,并在答案生成阶段提出多轮问答场景下的句向量模型,利用知识图谱实体间的路径信息,自生成相关实体的问句再进行句向量匹配,提高了问答准确率。本文最后结合以上研究成果,设计了一个基于知识图谱的智能问答系统,验证了以上研究的可行性。
基于深度学习的知识图谱关系预测与推荐算法研究
这是一篇关于知识图谱,推荐系统,网络表述学习,关系推理,深度学习的论文, 主要内容为对基于深度学习的知识图谱关系预测方法进行研究能够对节点间关系的推理与隐含信息挖掘产生较大现实应用价值。其可用于犯罪预测、推荐系统、自然语言推理等系统及方法中。本文对基于知识图谱的关系预测方法进行研究,并将其应用于推荐系统中以提升准确率。本文主要解决由于图谱信息挖掘不充分而导致的推荐不准确问题。首先,为了更好地利用并挖掘图谱信息,得到更加准确的图谱关系表述,本文提出了一种基于RNN网络和Rotat E策略的关系预测方法。其次,为了解决知识图谱信息表述不充分而引起的推荐不准确问题,本文提出了一种基于极化关系表述的推荐方法。最后,为了捕获图谱中的全局信息,进一步提升推荐准确率,本文提出了一种基于强化学习的自适应奖励采样方法。本文的主要工作如下:1、针对基于知识图谱的关系预测方法通常使用路径导向的策略而忽略了节点邻域关系的差异,导致过多的路径冗余信息,使得预测准确率降低的问题。本文提出了一种基于RNN网络和Rotat E策略的方法,通过对节点邻域关系进行嵌入学习和准确表述提升了关系预测的准确性。首先通过RNN网络有效学习不同节点邻域的数据关联特性,使得参数中包含邻域节点信息;然后采用Rotat E分数策略去描述节点关系的差异,使得编码端节点关系得到更加明显的区分。为了充分利用上述方法,解决图谱信息在传统推荐算法中表述不充分问题,本文进行了如下工作。2、在推荐系统中,针对传统方法对于节点间的关系表述不够准确,同时往往忽略了节点间低维数据所隐藏的关系特征的问题。为了提升推荐准确性,本文提出了一种新的基于极化关系的表述方法,将节点间的表述映射到酉空间,丰富了节点间关系表述的有效信息;此外,设计了一种对知识图谱嵌入和推荐过程低维数据进行关联学习的方法,深入挖掘其所隐藏的丰富与细致关系,从而提升了推荐的准确率。为了进一步提升推荐准确率,解决图谱全局信息在推荐过程中挖掘不充分问题,本文进行了如下工作。3、在推荐系统中,针对传统基于强化学习采样不够准确问题。本文提出了一种新的融合了采样点正负样本状态及购买行为的自适应权重分配奖励函数,解决了由于权重分配不均匀导致的目标转移不准确问题。同时,本文通过融合图聚合及图卷积的策略网络,降低采样点对邻居节点的依赖,解决了图网络中结构及属性信息未充分学习的问题,并提升了推荐准确率。在上述工作中,本文提出的基于极化关系的知识图谱表述方法是最重要的贡献。其解决了由于图谱信息表述不充分而导致的关系预测及推荐不准确问题。同时,在基于深度学习的知识图谱关系推理应用研究中,本文所提方法能够更加合理且有效地挖掘知识图谱中的有效信息,从而提升准确率。通过将向量映射到酉空间,能够在推荐应用中更加准确的对节点间关系进行表述进而提升推荐准确率。最后,本文通过引入强化学习的自适应采样方法充分挖掘图谱中的全局信息,使得图谱信息得到更好的利用,进而提升推荐准确率。
基于深度学习的知识图谱关系预测与推荐算法研究
这是一篇关于知识图谱,推荐系统,网络表述学习,关系推理,深度学习的论文, 主要内容为对基于深度学习的知识图谱关系预测方法进行研究能够对节点间关系的推理与隐含信息挖掘产生较大现实应用价值。其可用于犯罪预测、推荐系统、自然语言推理等系统及方法中。本文对基于知识图谱的关系预测方法进行研究,并将其应用于推荐系统中以提升准确率。本文主要解决由于图谱信息挖掘不充分而导致的推荐不准确问题。首先,为了更好地利用并挖掘图谱信息,得到更加准确的图谱关系表述,本文提出了一种基于RNN网络和Rotat E策略的关系预测方法。其次,为了解决知识图谱信息表述不充分而引起的推荐不准确问题,本文提出了一种基于极化关系表述的推荐方法。最后,为了捕获图谱中的全局信息,进一步提升推荐准确率,本文提出了一种基于强化学习的自适应奖励采样方法。本文的主要工作如下:1、针对基于知识图谱的关系预测方法通常使用路径导向的策略而忽略了节点邻域关系的差异,导致过多的路径冗余信息,使得预测准确率降低的问题。本文提出了一种基于RNN网络和Rotat E策略的方法,通过对节点邻域关系进行嵌入学习和准确表述提升了关系预测的准确性。首先通过RNN网络有效学习不同节点邻域的数据关联特性,使得参数中包含邻域节点信息;然后采用Rotat E分数策略去描述节点关系的差异,使得编码端节点关系得到更加明显的区分。为了充分利用上述方法,解决图谱信息在传统推荐算法中表述不充分问题,本文进行了如下工作。2、在推荐系统中,针对传统方法对于节点间的关系表述不够准确,同时往往忽略了节点间低维数据所隐藏的关系特征的问题。为了提升推荐准确性,本文提出了一种新的基于极化关系的表述方法,将节点间的表述映射到酉空间,丰富了节点间关系表述的有效信息;此外,设计了一种对知识图谱嵌入和推荐过程低维数据进行关联学习的方法,深入挖掘其所隐藏的丰富与细致关系,从而提升了推荐的准确率。为了进一步提升推荐准确率,解决图谱全局信息在推荐过程中挖掘不充分问题,本文进行了如下工作。3、在推荐系统中,针对传统基于强化学习采样不够准确问题。本文提出了一种新的融合了采样点正负样本状态及购买行为的自适应权重分配奖励函数,解决了由于权重分配不均匀导致的目标转移不准确问题。同时,本文通过融合图聚合及图卷积的策略网络,降低采样点对邻居节点的依赖,解决了图网络中结构及属性信息未充分学习的问题,并提升了推荐准确率。在上述工作中,本文提出的基于极化关系的知识图谱表述方法是最重要的贡献。其解决了由于图谱信息表述不充分而导致的关系预测及推荐不准确问题。同时,在基于深度学习的知识图谱关系推理应用研究中,本文所提方法能够更加合理且有效地挖掘知识图谱中的有效信息,从而提升准确率。通过将向量映射到酉空间,能够在推荐应用中更加准确的对节点间关系进行表述进而提升推荐准确率。最后,本文通过引入强化学习的自适应采样方法充分挖掘图谱中的全局信息,使得图谱信息得到更好的利用,进而提升推荐准确率。
基于图的关系推理算法研究与实现
这是一篇关于知识图谱,关系推理,特征路径,知识库扩容的论文, 主要内容为伴随着信息技术及互联网的快速发展,传统基于文本的的信息检索方法已经难以满足用户的需求,迫切需要一种更加高效的信息处理方法。知识图谱研究就是在此背景下产生和发展起来的,知识图谱对非结构的文本信息进行处理,抽取获得包含其中的结构化知识,最终构建成为一张巨大的知识网络,相关的应用基于这一网络为用户提供更加快速和准确的服务。关系推理技术是组成整个知识图谱系统的核心模块之一,其主要任务是:在不添加额外知识的情况下,使用知识图谱中已经存在的知识,通过加工推理获得新的知识。该技术对于知识图谱的扩充和完善,以及基于知识图谱的各类实际应用有着深刻的促进意义。本文通过对国内外关系推理领域的相关工作进行全面调研,并在此基础上提出了一种新的基于图的关系推理算法(Graph-based Relation Inferring Algorithm,GBRI),该算法主要包括两个部分:全局关系推理模块和局部关系推理模块。两个模块分别利用不同关系类型间的连通结构以及单一关系内的结构特征进行推理预测,并将两者进行融合获得最终的关系推理结果。本文的主要贡献如下:(1)提出了一种新的关系预处理方法,该方法将知识图谱中的同义关系进行合并,降低了关系特征空间的维度,使得模型学习过程中的训练数据更为充足,缓解了数据的稀疏性问题。(2)提出了全局关系推理算法,该算法首次将知识图谱以一张无向图进行建模,构造“实体-关系”图,并针对知识图谱中包含的每一种关系,在“实体-关系”图中寻找其特征路径,用于构造特征向量,最后,利用Logistic回归训练得到每类关系的预测模型。实验表明,无向图的建模方式能够有效增加所能获取到的特征路径数量,提高算法的预测准确率。(3)提出了局部关系推理算法,该算法首次考虑了不同关系类型的内部特征,在“实体-关系”图中提取每种关系的关系子图,并计算子图中不同实体间的转移概率,进而得到局部关系推理模型的预测结果。实验表明,该算法能够有效提高多对多关系数据上的预测性能。(4)本文对全局关系推理算法和局部关系推理算法的预测结果进行融合,得到了最终的GBRI。并在三个开源数据集WN18,FB15k以及FB40k上,对比了GBRI模型与其它代表性工作的预测性能,证明了GBRI模型的有效性。
基于深度强化学习的知识图谱推理研究
这是一篇关于关系推理,关系路径,知识图谱补全,深度强化学习的论文, 主要内容为知识图谱近年来越发引人关注,在智能搜索、问答和推荐系统等领域广泛应用。作为其中的重点研究方向,知识图谱推理是根据目前知识图谱中已有信息进行推断,既可以推理出知识图谱中不存在的事实,也可以判断现有事实的正确性,有很大的研究意义和应用价值。目前主要的知识图谱推理模型中,基于翻译表示的模型无法很好地解决语义多样性地问题,基于随机游走的模型又在时间和空间上开销较大。论文提出了基于深度强化学习的多元奖励结构推理模型,根据知识图谱推理主要与序列决策有关的特点,将推理问题转化为强化学习问题,将知识图谱看作外部环境,以五元组形式表示,并将推理过程建模为马尔可夫决策过程;问题查询这一行为则看作为智能体,动作选择由策略网络来指导。策略网络主要包括长短期记忆网络层和多头自注意力网络层,对查询过程的历史状态进行编码,指导下一步的动作选择。模型中的奖励函数设置为多元结构,根据智能体在知识图谱上游走到达停止状态时所找到的当前实体与目标实体的不同关系,给出不同的奖励值,最终计算累积奖励。模型的目标函数即为最大化累积奖励,训练方法采用策略梯度方法。论文在NELL-995、FB15K-237和WN18RR数据集进行了链接预测和事实预测等知识图谱推理实验,并与基于翻译表示的方法和基于随机游走的方法进行比较,结果表明论文提出的方法效果更好。
本文内容包括但不限于文字、数据、图表及超链接等)均来源于该信息及资料的相关主题。发布者:源码导航 ,原文地址:https://m.bishedaima.com/lunwen/49240.html