图神经网络可解释性关键技术研究
这是一篇关于图神经网络,公平性,动态图,可解释性的论文, 主要内容为图神经网络被广泛应用于社交网络分析,知识图谱,推荐系统等场景中并且表现出了极其优秀的性能。但由于图神经网络结构的高度不对称性和传播规则较为复杂等因素,使得研究图神经网络算法的可解释性方法面临重重挑战。现有的可解释性主要针对于静态图场景,但在现实场景中,图数据会发生变化。此外图神经网络可能从训练数据中学习到某些敏感信息(例如性别,年龄等),导致图神经网络失去了公平性,缺少可解释性和公平性等因素都将妨碍图神经网络在与公平、隐私和安全相关的关键应用领域中的使用。为了解决上述问题,本文提出了动态图场景下可解释性方法,该方法以微分几何的观点,将图神经网络的预测概率分布看作为低维流形,将其嵌入到高维的欧几里得空间中,并重新参数化了流形上的曲线,设计了凸函数作为目标函数,通过求解该凸优化问题来找到关键路径作为可解释性依据。在图神经网络的节点分类,链接预测和图分类任务上进行相关实验,实验结果表明本文中所提出的可解释性方法比现有的可解释性方法具有更好的稀疏性,忠诚度和直观性。此外,本文提出了公平性场景下的可解释性方法,首先定义了一个新的公平性损失函数,在不显著损害预测准确率的情况下优化邻接矩阵来实现模型的公平性。为了理解图神经网络公平性转变的原因,进一步提出了节点级别和路径级别的可解释性方法,通过分层抽样和线性规划来选择关键节点,解释图神经网络的公平性,通过求解凸优化方法来选择关键路径,解释关键节点预测概率变化的原因。在七个图数据集上进行相关实验,实验结果表明本文中所提出的方法可以实现更有效的公平性,并且解释方法可以直观的指出图神经网络公平性转变的原因。
图神经网络可解释性关键技术研究
这是一篇关于图神经网络,公平性,动态图,可解释性的论文, 主要内容为图神经网络被广泛应用于社交网络分析,知识图谱,推荐系统等场景中并且表现出了极其优秀的性能。但由于图神经网络结构的高度不对称性和传播规则较为复杂等因素,使得研究图神经网络算法的可解释性方法面临重重挑战。现有的可解释性主要针对于静态图场景,但在现实场景中,图数据会发生变化。此外图神经网络可能从训练数据中学习到某些敏感信息(例如性别,年龄等),导致图神经网络失去了公平性,缺少可解释性和公平性等因素都将妨碍图神经网络在与公平、隐私和安全相关的关键应用领域中的使用。为了解决上述问题,本文提出了动态图场景下可解释性方法,该方法以微分几何的观点,将图神经网络的预测概率分布看作为低维流形,将其嵌入到高维的欧几里得空间中,并重新参数化了流形上的曲线,设计了凸函数作为目标函数,通过求解该凸优化问题来找到关键路径作为可解释性依据。在图神经网络的节点分类,链接预测和图分类任务上进行相关实验,实验结果表明本文中所提出的可解释性方法比现有的可解释性方法具有更好的稀疏性,忠诚度和直观性。此外,本文提出了公平性场景下的可解释性方法,首先定义了一个新的公平性损失函数,在不显著损害预测准确率的情况下优化邻接矩阵来实现模型的公平性。为了理解图神经网络公平性转变的原因,进一步提出了节点级别和路径级别的可解释性方法,通过分层抽样和线性规划来选择关键节点,解释图神经网络的公平性,通过求解凸优化方法来选择关键路径,解释关键节点预测概率变化的原因。在七个图数据集上进行相关实验,实验结果表明本文中所提出的方法可以实现更有效的公平性,并且解释方法可以直观的指出图神经网络公平性转变的原因。
动态异构图神经网络及其在推荐系统中的应用
这是一篇关于图神经网络,推荐系统,图表征,动态图,异构图的论文, 主要内容为随着互联网上信息量的飞速增加,推荐系统已经成为互联网中的一种不可或缺的基础设置。推荐系统中的数据具有海量、异质、非结构化、时效攸关等特点,并且推荐系统中的不同的数据点之间存在着广泛的动态变化的关联。因此,动态异构图是一种十分适合推荐系统的数据组织方式。图神经网络是一种新兴的图数据表征学习方法,已经被应用在了包括推荐系统在内的多个领域中。虽然目前针对多种类型图数据都有了较为成熟的表征学习算法,但是目前针对动态异构图的表征学习的研究相对较少。目前已经有了不少将图表征学习技术应用到推荐系统中的尝试,这些尝试也证明了图表征学习技术在推荐系统中的有效性。然而,将动态异构图表征学习方法应用到推荐系统中的尝试却相对缺乏。本文基于真实的推荐任务数据集,研究了如何借助动态异构图表征学习方法来改进推荐系统。在将动态异构图表征学习方法应用到推荐系统中时,我们需要解决三个核心问题:能精确反映动态异构图结构的图数据组织方法;动态异构图表征学习方法;合适的动态异构图上的邻居节点采样方法。针对这三个问题,本文进行了如下的探究:(1)提出了能够准确地描述动态异构图的数据表示方法。针对动态异构图的特点,我们提出了基于事件序列的表示方法。同时也展示了如何使用动态异构图的方式来组织推荐数据。相对于已有的基于图快照的动态图组织方法,我们提出的方法能够避免时间顺序的混乱,更好地保证数据的时效性。(2)提出了基于层级注意力机制的动态异构图表征方法。通过时序注意力机制对数据的时序特性进行学习;使用基于边类型的注意力机制应对数据的异构性。在不借助预定义的元路径(meta-path)的情况下高效地对异构图数据进行建模,解决了预定义的元路径可能在图表征学习中引入人为偏差的问题。(3)为了应对推荐系统中的海量数据,本文提出了一种基于预算的邻居节点采样方法。能够在尽可能多的保留重要信息的前提下,大幅降低图表征学习的计算复杂度。(4)本文在三个推荐任务数据集上进行了多组的实验,对比了现有的其他方法和本文提出的方法的表现,展现了本文提出的方法的优越性。此外,本文还通过控制变量实验证实了本文中提出的各项技术的有效性和必要性。
图神经网络可解释性关键技术研究
这是一篇关于图神经网络,公平性,动态图,可解释性的论文, 主要内容为图神经网络被广泛应用于社交网络分析,知识图谱,推荐系统等场景中并且表现出了极其优秀的性能。但由于图神经网络结构的高度不对称性和传播规则较为复杂等因素,使得研究图神经网络算法的可解释性方法面临重重挑战。现有的可解释性主要针对于静态图场景,但在现实场景中,图数据会发生变化。此外图神经网络可能从训练数据中学习到某些敏感信息(例如性别,年龄等),导致图神经网络失去了公平性,缺少可解释性和公平性等因素都将妨碍图神经网络在与公平、隐私和安全相关的关键应用领域中的使用。为了解决上述问题,本文提出了动态图场景下可解释性方法,该方法以微分几何的观点,将图神经网络的预测概率分布看作为低维流形,将其嵌入到高维的欧几里得空间中,并重新参数化了流形上的曲线,设计了凸函数作为目标函数,通过求解该凸优化问题来找到关键路径作为可解释性依据。在图神经网络的节点分类,链接预测和图分类任务上进行相关实验,实验结果表明本文中所提出的可解释性方法比现有的可解释性方法具有更好的稀疏性,忠诚度和直观性。此外,本文提出了公平性场景下的可解释性方法,首先定义了一个新的公平性损失函数,在不显著损害预测准确率的情况下优化邻接矩阵来实现模型的公平性。为了理解图神经网络公平性转变的原因,进一步提出了节点级别和路径级别的可解释性方法,通过分层抽样和线性规划来选择关键节点,解释图神经网络的公平性,通过求解凸优化方法来选择关键路径,解释关键节点预测概率变化的原因。在七个图数据集上进行相关实验,实验结果表明本文中所提出的方法可以实现更有效的公平性,并且解释方法可以直观的指出图神经网络公平性转变的原因。
基于用户长期偏好建模的推荐系统研究
这是一篇关于推荐系统,图卷积网络,异构图,动态图的论文, 主要内容为当今世界,海量信息充斥着每个人的生活,信息化时代的来临不仅使社会生产和人类生活速度有了飞速的提高,同时也产生了大量的信息,“信息过载”问题也由此加重。对广大用户来说,信息过载带来的一个主要问题是:巨量冗余的信息将极大干扰用户对其所需信息的准确选择。怎样从如此巨量的数据中快速获得更有用的信息是当前存在的一个主要问题。推荐系统技术应运而生,它可以预测用户的需求并推荐给用户其最可能喜欢的内容,有效降低了人们在互联网上寻找感兴趣的产品或信息的访问时间。推荐系统中对于用户偏好(兴趣点)捕捉方面的研究颇多,传统的基于图神经网络的推荐系统中,捕捉用户偏好的方法是将经典的图神经网络模型或者其变形作为学习图中节点表示的方式。其基本原理是将二部图输入到图卷积神经网络中,进行相邻节点间的消息传递,聚合节点邻域信息,捕捉用户-项目交互图中的深层的节点信息从而学习用户的偏好以及项目的节点特征。然而,现有的工作并没有充分考虑动态的用户-项目交互图中的异构性和动态性,或者没有将异构信息和动态信息同时应用到对用户长期偏好的学习中。基于上述考虑,我们基于图神经网络提出了在用户行为数据学习异构信息和动态信息的模型。本论文的主要工作如下:(1)本文针对用户与项目交互信息中的异构信息捕捉不充分的问题,设计了面向异构网络的图神经模型HGCN,使用图神经模型的信息传递机制对二部图中的潜在的异构信息进行挖掘,帮助用户节点和项目节点聚合其周围的其他类型的节点信息。在得到的节点特征的基础上,使用图注意力网络学习二部图中更深层的异构信息。通过以上方式,能够在抽取二部图内节点高阶邻域信息的同时结合异构信息。(2)本文以捕捉用户长期偏好为出发点,设计了针对用户-项目交互动态图的图神经网络:LPre(Long-term Preferences of Users)。该模型在使用多层HGCN和图注意力网络捕捉异构信息的同时,结合自注意力机制融入时序信息捕捉图的动态变化。接着我们基于对异构信息的考虑对LPre模型进行优化提出LPre+,同时学习用户长期偏好特征以及项目节点的长期演化特征。本文在三个用户行为数据集上对本文提出的LPre和LPre+模型进行用户-项目交互预测实验,并且与多个主流的基线方法作对比,结果表明本文模型在不同的数据集下都具有显著的优势。
基于用户长期偏好建模的推荐系统研究
这是一篇关于推荐系统,图卷积网络,异构图,动态图的论文, 主要内容为当今世界,海量信息充斥着每个人的生活,信息化时代的来临不仅使社会生产和人类生活速度有了飞速的提高,同时也产生了大量的信息,“信息过载”问题也由此加重。对广大用户来说,信息过载带来的一个主要问题是:巨量冗余的信息将极大干扰用户对其所需信息的准确选择。怎样从如此巨量的数据中快速获得更有用的信息是当前存在的一个主要问题。推荐系统技术应运而生,它可以预测用户的需求并推荐给用户其最可能喜欢的内容,有效降低了人们在互联网上寻找感兴趣的产品或信息的访问时间。推荐系统中对于用户偏好(兴趣点)捕捉方面的研究颇多,传统的基于图神经网络的推荐系统中,捕捉用户偏好的方法是将经典的图神经网络模型或者其变形作为学习图中节点表示的方式。其基本原理是将二部图输入到图卷积神经网络中,进行相邻节点间的消息传递,聚合节点邻域信息,捕捉用户-项目交互图中的深层的节点信息从而学习用户的偏好以及项目的节点特征。然而,现有的工作并没有充分考虑动态的用户-项目交互图中的异构性和动态性,或者没有将异构信息和动态信息同时应用到对用户长期偏好的学习中。基于上述考虑,我们基于图神经网络提出了在用户行为数据学习异构信息和动态信息的模型。本论文的主要工作如下:(1)本文针对用户与项目交互信息中的异构信息捕捉不充分的问题,设计了面向异构网络的图神经模型HGCN,使用图神经模型的信息传递机制对二部图中的潜在的异构信息进行挖掘,帮助用户节点和项目节点聚合其周围的其他类型的节点信息。在得到的节点特征的基础上,使用图注意力网络学习二部图中更深层的异构信息。通过以上方式,能够在抽取二部图内节点高阶邻域信息的同时结合异构信息。(2)本文以捕捉用户长期偏好为出发点,设计了针对用户-项目交互动态图的图神经网络:LPre(Long-term Preferences of Users)。该模型在使用多层HGCN和图注意力网络捕捉异构信息的同时,结合自注意力机制融入时序信息捕捉图的动态变化。接着我们基于对异构信息的考虑对LPre模型进行优化提出LPre+,同时学习用户长期偏好特征以及项目节点的长期演化特征。本文在三个用户行为数据集上对本文提出的LPre和LPre+模型进行用户-项目交互预测实验,并且与多个主流的基线方法作对比,结果表明本文模型在不同的数据集下都具有显著的优势。
本文内容包括但不限于文字、数据、图表及超链接等)均来源于该信息及资料的相关主题。发布者:代码向导 ,原文地址:https://m.bishedaima.com/lunwen/56220.html