图卷积网络的知识表示学习研究
这是一篇关于知识图谱,知识表示学习,图卷积网络,结构信息,邻域信息的论文, 主要内容为知识图谱是知识库中大量三元组链接而成的数据库,广泛应用于搜索引擎、问答系统、推荐系统等知识驱动任务。知识图谱的不断扩充使得基于知识图谱的知识推理难以有效进行,因此,知识表示学习应运而生。知识表示学习在向量空间中学习实体和关系的低维稠密向量表示,从而对知识图谱进行建模以保存其本质的结构信息和语义信息。知识表示学习在很大程度上缓解了数据稀疏和传统方法面临的计算效率低下问题,进而提升了知识驱动任务的性能。因此,研究知识表示学习具有重要意义和应用价值。基于三元组的知识表示学习模型在建模知识图谱时总是独立地处理每个三元组,忽略了知识图谱的结构信息。知识图谱的结构信息充分的反映了实体和关系的邻域信息,进一步刻画了实体与关系之间和实体与实体之间的语义交互。因此,本文从知识图谱的结构信息入手,结合实体和关系所处的邻域,分别探索了融合部分邻域信息和融合全部邻域信息的知识表示学习方法。研究内容如下:(1)针对融合部分邻域信息,提出基于聚合的图卷积知识表示学习方法。首先,使用基于聚合的图卷积网络编码器聚合邻居实体及相连关系的信息;其次,将聚合的表示用于更新中心实体的表示,并且使关系表示进行自我更新。该方法极大缓解了大部分基于三元组的模型在知识表示学习过程中无法有效融入实体所在邻域的信息这一问题。(2)针对融合全部邻域信息,提出基于双注意力的图卷积知识表示学习方法。首先,在图卷积网络编码器中设计两个注意力机制同时评估邻域的重要性;其次,根据不同重要性融合邻域信息;最后,根据融合的邻域信息更新实体和关系的向量表示。该方法同时考虑了邻域对实体和关系的表示学习造成的影响,极大促进了实体与关系之间和实体与实体之间的语义交互。本文对基因本体数据进行建模,结合基因功能相似度分析任务,评估了基于聚合的图卷积知识表示学习方法的性能,同时在标准的链接预测数据集上测试了基于双注意力的图卷积知识表示学习方法的性能。实验结果表明,在知识表示学习中利用图卷积网络融入知识图谱的结构信息能充分地对知识图谱进行建模。
基于关联信息建模的实体对齐技术研究及应用
这是一篇关于知识图谱,实体对齐,图卷积网络,邻域信息,知识嵌入的论文, 主要内容为随着人工智能技术发展,众多具有社会价值的应用能够真正落地,比如人机对话、爱好推荐、人物画像等等,而知识图谱作为这些应用的底座,在高度智能化的社会服务中发挥着重要作用。实体对齐,作为知识图谱构建技术中的关键一环,其模型性能十分影响最终的应用表现,然而鲜有工作注意到感知粒度粗糙会导致模型遗漏重要邻域信息,此外,大部分工作提取邻域中的结构信息、属性信息进行实体语义表征时,忽略了邻域中的共有邻居信息(已对齐实体对)。针对以上问题,本文开展了基于关联信息建模的实体对齐技术研究。本文主要工作和贡献如下:(1)针对感知粒度粗糙问题,本文提出细粒度感知模块,利用该模块包含的注意力机制及控制信息流转的门控机制,细粒度区分邻域中各个邻居实体的重要性,通过相似性捕捉实现属性反射从而确定实体本身的属性特征。实验结果表明,改进后的模型在DBP15K中三组数据集上直接命中率Hits@1值比邻域匹配网络NMN最低提高0.38%,最高提高0.64%。(2)针对共有邻居信息被忽略导致在语义空间中实体对距离表达不准确的问题,本文提出共有邻居信息交互模块,通过对邻域中的共有邻居信息建模并与实体对距离进行交互,从而校正实体对在低维向量空间中的距离。实验结果表明,在ZH-EN(ZH→EN,即以中文数据里的实体作为源实体,英文数据里的实体作为候选实体)数据集上,改进后的模型比起邻域匹配网络NMN而言,其直接命中率Hits@1和前十命中率Hits@10分别提高2.06%、2.82%;在JA-EN(JA→EN)数据集上,Hits@1和Hits@10较NMN分别提高2.19%、2.94%;在FR-EN(FR→EN)数据集上,两个指标也有1.12%和1.45%的提升。(3)实现了基于可扩充知识图谱的问答系统。该系统包含图谱融合、智能问答、信息检索以及数据统计等功能。为了提高系统可用性,该系统采用线程池化技术进行优化,大大增加系统运行效率。
图卷积网络的知识表示学习研究
这是一篇关于知识图谱,知识表示学习,图卷积网络,结构信息,邻域信息的论文, 主要内容为知识图谱是知识库中大量三元组链接而成的数据库,广泛应用于搜索引擎、问答系统、推荐系统等知识驱动任务。知识图谱的不断扩充使得基于知识图谱的知识推理难以有效进行,因此,知识表示学习应运而生。知识表示学习在向量空间中学习实体和关系的低维稠密向量表示,从而对知识图谱进行建模以保存其本质的结构信息和语义信息。知识表示学习在很大程度上缓解了数据稀疏和传统方法面临的计算效率低下问题,进而提升了知识驱动任务的性能。因此,研究知识表示学习具有重要意义和应用价值。基于三元组的知识表示学习模型在建模知识图谱时总是独立地处理每个三元组,忽略了知识图谱的结构信息。知识图谱的结构信息充分的反映了实体和关系的邻域信息,进一步刻画了实体与关系之间和实体与实体之间的语义交互。因此,本文从知识图谱的结构信息入手,结合实体和关系所处的邻域,分别探索了融合部分邻域信息和融合全部邻域信息的知识表示学习方法。研究内容如下:(1)针对融合部分邻域信息,提出基于聚合的图卷积知识表示学习方法。首先,使用基于聚合的图卷积网络编码器聚合邻居实体及相连关系的信息;其次,将聚合的表示用于更新中心实体的表示,并且使关系表示进行自我更新。该方法极大缓解了大部分基于三元组的模型在知识表示学习过程中无法有效融入实体所在邻域的信息这一问题。(2)针对融合全部邻域信息,提出基于双注意力的图卷积知识表示学习方法。首先,在图卷积网络编码器中设计两个注意力机制同时评估邻域的重要性;其次,根据不同重要性融合邻域信息;最后,根据融合的邻域信息更新实体和关系的向量表示。该方法同时考虑了邻域对实体和关系的表示学习造成的影响,极大促进了实体与关系之间和实体与实体之间的语义交互。本文对基因本体数据进行建模,结合基因功能相似度分析任务,评估了基于聚合的图卷积知识表示学习方法的性能,同时在标准的链接预测数据集上测试了基于双注意力的图卷积知识表示学习方法的性能。实验结果表明,在知识表示学习中利用图卷积网络融入知识图谱的结构信息能充分地对知识图谱进行建模。
融合多因素信息的神经协同过滤推荐模型研究
这是一篇关于推荐系统,神经协同过滤,文本特征,标签信息,邻域信息的论文, 主要内容为推荐系统(Recommendation System,简称RS)利用用户-项目历史交互记录来学习用户潜在个性化偏好以及项目潜在属性特征,从而帮助用户准确快速地定位到目标内容信息。协同过滤是在推荐领域应用中应用最早、影响范围最广泛的方法,其中,矩阵分解算法是协同过滤推荐中最具有代表性的算法,矩阵分解技术将用户和项目的信息映射到同一维度的潜在因子向量空间中,通过内积的形式来结合用户以及项目的潜在特征,然而通过内积来拟合用户偏好与项目特征之间的关系在一定程度上限制了模型的表现力。神经协同过滤使用神经网络结构来建模用户和项目的潜在特征,神经网络结构代替内积,可以从数据之中学习任意函数,突破了内积所带来的限制,从而提高了模型的非线性建模能力。辅助信息在推荐系统完善用户-项目交互起着至关重要的作用,如能将更多的辅助信息引入到神经协同过滤模型中,则可以从更多的维度完善项目的属性特征,建立更具语义、更准确、更个性化、有效缓解冷启动问题的推荐模型。如,邻域信息在电影推荐中可以帮助用户发现新的题材或新演员及导演的电影,基于邻域信息的方法通常简单、有效,并且能够提供准确及个性化的推荐,而广泛用于协同过滤推荐中。因此,我们考虑将邻域信息融入到神经协同过滤系统中。标签信息既可以反映出用户的兴趣特征,又能够描述资源本身具备的特点。基于标签的算法会为推荐的物品提供标签说明来解释推荐行为,同时,项目自带的标签是对新项目内容属性的粗粒度描述,因此在一定程度上能够缓解模型的冷启动问题。因此,我们考虑将标签信息融合到神经协同过滤模型中。新项目附带的项目描述文本是对项目内容的概要说明,能够反映项目的内容特征,是对项目内容更细粒度的刻画。本文利用卷积神经网络来挖掘项目描述文本中的属性特征,并融入到神经协同过滤模型中,从而更进一步缓解模型地冷启动问题。在本文中,我们不仅考虑了邻域因素对结果的影响。还重点研究对项目辅助信息的挖掘,包括文本信息,标签信息等,旨在充分完善项目的属性特征。本论文主要的创新点及研究成果如下:(1)基于邻域的方法通过寻找用户或项目之间的相似性,挖掘出用户与用户、项目与项目之间的内在关联,从而完成推荐。基于邻域的方法已被广泛地应用于经典的协同过滤推荐方法中,然而在神经协同过滤模型中却鲜有应用,为了增强神经协同过滤模型的个性化和准确性推荐能力,我们开展的第一部分工作,是将邻域信息引入神经协同过滤模型中。(2)考虑到项目的标签信息能够粗粒度的描述项目内容特征,为推荐的物品做出标签说明来解释推荐行为,从而增强了模型的语义可解释性,同时标签的引入能够缓解模型的冷启动问题。为了有效提升神经协同过滤模型推荐结果的语义可解释性并缓解模型的冷启动问题,我们第二部分工作是将将标签信息引入神经协同过滤模型中。(3)一个新项目在进入多媒体资源平台时通常都会附带相关项目的描述文本,该文本主要是对项目内容的概括说明,能够反映项目的内容特征。我们第三部分工作将利用卷积神经网络对项目描述文本进行处理,并引入到神经协同过滤模型中。由于项目描述文本能够高度概述文本内容信息,因此可更细粒度的刻画项目内容属性特征,更进一步缓解项目冷启动问题。(4)基于上述三部分工作,最终我们提出了一个全新的推荐模型TTNNCF(Text,Tag,and Neighborhood-based Neural Collaborative Filtering Model),并针对不同的冷启动场景以及一般场景,在真实数据集上进行了多角度实验评估。实验结果表明,在不同的实验场景,对比现有的优秀模型,TTNNCF能够进行更有效的项目推荐,并能更有效缓解推荐所面临的冷启动问题。
图卷积网络的知识表示学习研究
这是一篇关于知识图谱,知识表示学习,图卷积网络,结构信息,邻域信息的论文, 主要内容为知识图谱是知识库中大量三元组链接而成的数据库,广泛应用于搜索引擎、问答系统、推荐系统等知识驱动任务。知识图谱的不断扩充使得基于知识图谱的知识推理难以有效进行,因此,知识表示学习应运而生。知识表示学习在向量空间中学习实体和关系的低维稠密向量表示,从而对知识图谱进行建模以保存其本质的结构信息和语义信息。知识表示学习在很大程度上缓解了数据稀疏和传统方法面临的计算效率低下问题,进而提升了知识驱动任务的性能。因此,研究知识表示学习具有重要意义和应用价值。基于三元组的知识表示学习模型在建模知识图谱时总是独立地处理每个三元组,忽略了知识图谱的结构信息。知识图谱的结构信息充分的反映了实体和关系的邻域信息,进一步刻画了实体与关系之间和实体与实体之间的语义交互。因此,本文从知识图谱的结构信息入手,结合实体和关系所处的邻域,分别探索了融合部分邻域信息和融合全部邻域信息的知识表示学习方法。研究内容如下:(1)针对融合部分邻域信息,提出基于聚合的图卷积知识表示学习方法。首先,使用基于聚合的图卷积网络编码器聚合邻居实体及相连关系的信息;其次,将聚合的表示用于更新中心实体的表示,并且使关系表示进行自我更新。该方法极大缓解了大部分基于三元组的模型在知识表示学习过程中无法有效融入实体所在邻域的信息这一问题。(2)针对融合全部邻域信息,提出基于双注意力的图卷积知识表示学习方法。首先,在图卷积网络编码器中设计两个注意力机制同时评估邻域的重要性;其次,根据不同重要性融合邻域信息;最后,根据融合的邻域信息更新实体和关系的向量表示。该方法同时考虑了邻域对实体和关系的表示学习造成的影响,极大促进了实体与关系之间和实体与实体之间的语义交互。本文对基因本体数据进行建模,结合基因功能相似度分析任务,评估了基于聚合的图卷积知识表示学习方法的性能,同时在标准的链接预测数据集上测试了基于双注意力的图卷积知识表示学习方法的性能。实验结果表明,在知识表示学习中利用图卷积网络融入知识图谱的结构信息能充分地对知识图谱进行建模。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：代码工坊 ，原文地址：https://m.bishedaima.com/lunwen/56299.html
