基于网络日志的用户行为分析与研究

这是一篇关于Web日志,用户行为,会话,聚类算法,推荐模型,用户画像的论文, 主要内容为随着互联网的飞速发展,网络用户规模激增,其中网购用户占比不断增大,伴随着网络用户的行为也越来越复杂。尽管目前已有很多学者对Web挖掘技术和用户行为分析等方向展开了深入研究,但是仍然存在一些问题,特别是在电商垂直应用领域,会话识别作为用户分析的基础,目前仍采用的是静态、粗粒度、低准确率的识别方法,为后续分析造成较大的原始误差。此外,由于忽略对用户购买行为的考虑,各电商平台的推荐系统存在产生大量重复、不合时宜的物品推荐而造成用户体验不佳的问题。以上这些问题亟待解决,因此本文选取电商垂直领域,重点分析和研究电商用户行为,构建基于网络日志的用户行为分析系统。本文主要研究内容包括以下几点:第一、在深入理解Web日志的数据特征、表现形式的基础上,深入调研并理解互联网用户行为,总结出了互联网用户行为所具有的隐蔽性强、主动性强、复杂多样等主要特征,并总结出Web日志挖掘在电子商务、社交媒体、搜索引擎、游戏运营、02O、P2P六大行业领域的具体应用方向。第二、基于上述的调研结果,针对电商网站的具体应用场景,提出了一种基于时间阈值和站点首页识别的混合会话识别算法,提高了会话识别算法的灵活性和识别准确率。第三、以机器学习算法为基础,结合Kmeans和GMM两种聚类算法,实现了一种两阶段聚类算法,实验结果表明,该算法在聚类结果准确率上接近于GMM的结果,但算法用时较GMM缩短了 15%-18%,实现了上述两种算法的优势互补。第四,深入研究了协同过滤和基于内容的推荐算法,对比两者的优缺点,在分析淘宝用户行为的基础上,提出了一种引入商品购买周期的推荐系统模型,从最终得到的淘宝商品推荐备选集中可以直观看出该模型大大减少了重复推荐,同时实验结果也显示,该推荐模型的推荐结果准确率较目前的ItemCF推荐算法提高了10%-15%。基于上述研究内容和成果,本文构建并实现了基于网络日志的用户行为分析系统,该系统能够根据用户需求对日志记录进行标签标注,进而实现多维度统计分析和用户挖掘,输出用户画像,能够帮助电商商家、内容提供商等了解自己的用户,通过精准营销、精准推荐等方式获得更好的商业价值。

基于深度学习的协同会话推荐模型的研究

这是一篇关于推荐系统,会话,深度学习,注意力机制,协同建模的论文, 主要内容为近年来互联网技术的发展突飞猛进,社会信息的规模与类型日趋庞杂,数据无法得到及时有效地处理。在日常生活中,人们每天面对海量数据,想要从中选择合适的自身的产品和服务是十分困难的。于是,推荐系统应运而生。特别是在如今海量数据的时代,推荐系统起到了至关重要的作用,现已变成了人们工作、学习、娱乐、休闲所不可或缺的工具。借助推荐系统,用户可以更高效地获得信息,更准确地做出决策。传统的推荐系统方法大多依赖于用户与项目之间的显式偏好。然而,在许多实际情况下,推荐系统无法获得足够的信息。比如,用户在网上购物时以未登录的状态浏览网上购物商店。此时无法得知用户的历史行为,无法获得用户明确的偏好,只有显式的观察信息(例如点击)可用。为了解决这一问题,研究者们提出了基于会话的推荐系统。许多基于会话推荐的方法在近些年里被研究者们相继提出。在深度学习技术的快速发展下,基于循环神经网络的会话推荐模型得到了很好的应用。虽然目前基于深度学习的研究方法取得了一定的成果,但这些方法还存在着一些问题:(1)没有很好地考虑用户的长期偏好和短期偏好;(2)现存方法大多忽略了邻居会话的协同信息,建模时仅仅关注当前会话。本文对基于会话推荐的方法进行了深入研究,提出了三种有效的模型。首先,为解决用户长短期偏好的建模问题,本文提出了一种基于循环神经网络的模型。引入了改进的门控循环单元的模块,该模块是可解释的,并且依据课程学习的理论可以获得更好的学习能力。同时设计了一个注意力网络使得长期偏好与短期偏好可以进行交互。最后,通过建立一个完整的实验环境来检验所提网络的正确性。实验证明所提出方法在两个真实数据集上有一定的改进,提升了推荐效果。其次,为了捕获会话内相距较远项目的信息以及邻居会话提供的协同信息,本文将图卷积神经网络与注意力机制结合起来,提出了一个基于关键结点的图神经网络协同会话推荐模型。利用图卷积神经网络能够捕获高阶信息进行建模的特征设计了一个关键节点,同时采用注意力机制为当前会话中的不同物品分配相应的权重,以此来表示这个关键节点,同时在更新的过程中考虑到了来自邻居会话的协同信息。实验结果表明,本文所提出的模型具有较好的性能。最后,本文提出一个基于胶囊网络的协同注意力模型。虽然基于图卷积神经网络的会话模型利用注意力获得了良好的性能,然而由于会话中的项目会产生庞大的参数,导致构图体量较大,优化复杂,易产生过拟合现象。同时会话项目的序列信息尚未得到充分利用。由此,本文将胶囊网络结合循环神经网络进行有效建模。该模型采用传统的门控循环单元结合注意力机制来提取特征,同时考虑了邻居会话的协同信息并将放入胶囊网络中进行更新。通过相同实验环境的对比,本文提出的模型在各个性能指标上都获得了较大提升。

基于会话的图神经网络推荐算法研究

这是一篇关于会话,图神经网络,图转换器网络,知识图谱,推荐算法的论文, 主要内容为伴随着科学技术的发展,信息过载成为了数字化时代的一个难题。推荐系统(Recommendation System,RS)的出现巧妙地解决了这一难题,推荐系统帮助用户从种类繁多且与日俱增的商品中筛选出自己需求的产品。如今,推荐系统在用户的日常生活、服务和决策方面扮演着越来越重要的角色,已经被广泛应用于工作、商业、学习和娱乐等方面。推荐系统最直接的作用是能够在最短的时间内,匹配到用户需要的有效信息,帮助用户做出更行之有效的决策。推荐系统在电子商务方面的应用,为电子商务带来了巨大的经济效益。基于会话的推荐系统(Session-based Recommendation System,SBRS)根据用户短期内的动态偏好,预测用户接下来的交互序列,以此产生一个推荐列表。近年来,随着深度学习被应用于基于会话的推荐系统,明显的提升了推荐的精确性。本文通过对目前现有的基于会话的图神经网络推荐模型研究,把用户点击的项目作为节点,根据用户-项目交互的先后顺序构成交互序列,再构建成会话图,作为图神经网络的输入。这些现有模型构建会话图形式单一,也只考虑到用户的行为偏好,没有考虑到用户的语义知识偏好。基于这些现有模型,通过研究用户-项目之间的多行为交互关系和项目-项目之间的依赖关系,考虑把用户-项目的多行为关系和项目-项目之间的依赖关系融合在一起,同时还考虑到项目冷启动和数据稀疏性问题,提出了基于多行为和项目知识的图转换器网络会话推荐算法。主要工作内容分为两个方面:(1)针对会话序列构造成会话图,预处理形式单一问题,还有只根据用户的会话行为为其进行推荐,推荐过于片面,本文提出一种新的推荐算法基于语义知识和时间编码方案的图神经网络推荐算法(KT-GNN)。首先,引入停留时间到会话图中,对停留时间进行编码,解决构建会话图形式单一问题。同时,用户在项目上的停留时间反映了用户对此项目的喜爱程度,引入停留时间能提高推荐的效率。其次,利用Pair RE知识翻译模型对用户的语义知识进行处理,挖掘用户的语义偏好。通过实验证明,DT-GNN模型在Yoochoose和TFCD两个数据集上都具有优越性。(2)针对目前用户-项目多类型的会话推荐模型分析,发现这些模型只是单独的学习用户-项目多类型交互行为关系和项目-项目之间的依赖关系,也没有考虑项目冷启动和数据稀疏性问题。这些问题促使在本文中提出一种新的算法基于多行为和项目知识的图转换器网络会话推荐算法(MKGTN),将多类型的用户-项目交互行为和项目-项目依赖关系通过多层感知器(MLP)应用到会话推荐中。同时利用知识图谱Pair RE翻译模型学习项目知识嵌入,并将知识嵌入作为一种辅助任务来促进会话推荐(SR)的主要任务,同时将知识嵌入添加到多链路聚合(MLT)范式中,预测下一个交互的项目。在三个数据集上的评估表明,MKGTN优于最先进的多行为交互模型,证明了模型性能的优越性。

基于网络日志的用户行为分析与研究

这是一篇关于Web日志,用户行为,会话,聚类算法,推荐模型,用户画像的论文, 主要内容为随着互联网的飞速发展,网络用户规模激增,其中网购用户占比不断增大,伴随着网络用户的行为也越来越复杂。尽管目前已有很多学者对Web挖掘技术和用户行为分析等方向展开了深入研究,但是仍然存在一些问题,特别是在电商垂直应用领域,会话识别作为用户分析的基础,目前仍采用的是静态、粗粒度、低准确率的识别方法,为后续分析造成较大的原始误差。此外,由于忽略对用户购买行为的考虑,各电商平台的推荐系统存在产生大量重复、不合时宜的物品推荐而造成用户体验不佳的问题。以上这些问题亟待解决,因此本文选取电商垂直领域,重点分析和研究电商用户行为,构建基于网络日志的用户行为分析系统。本文主要研究内容包括以下几点:第一、在深入理解Web日志的数据特征、表现形式的基础上,深入调研并理解互联网用户行为,总结出了互联网用户行为所具有的隐蔽性强、主动性强、复杂多样等主要特征,并总结出Web日志挖掘在电子商务、社交媒体、搜索引擎、游戏运营、02O、P2P六大行业领域的具体应用方向。第二、基于上述的调研结果,针对电商网站的具体应用场景,提出了一种基于时间阈值和站点首页识别的混合会话识别算法,提高了会话识别算法的灵活性和识别准确率。第三、以机器学习算法为基础,结合Kmeans和GMM两种聚类算法,实现了一种两阶段聚类算法,实验结果表明,该算法在聚类结果准确率上接近于GMM的结果,但算法用时较GMM缩短了 15%-18%,实现了上述两种算法的优势互补。第四,深入研究了协同过滤和基于内容的推荐算法,对比两者的优缺点,在分析淘宝用户行为的基础上,提出了一种引入商品购买周期的推荐系统模型,从最终得到的淘宝商品推荐备选集中可以直观看出该模型大大减少了重复推荐,同时实验结果也显示,该推荐模型的推荐结果准确率较目前的ItemCF推荐算法提高了10%-15%。基于上述研究内容和成果,本文构建并实现了基于网络日志的用户行为分析系统,该系统能够根据用户需求对日志记录进行标签标注,进而实现多维度统计分析和用户挖掘,输出用户画像,能够帮助电商商家、内容提供商等了解自己的用户,通过精准营销、精准推荐等方式获得更好的商业价值。

基于时序信息的推荐系统研究

这是一篇关于时序信息,会话,自注意力机制,门控循环单元,注意力机制的论文, 主要内容为随着移动互联网的不断发展,如今越来越多的人可以很容易的在互联网中获取各种各样的服务如听音乐、网络社交、看电影等。但随着互联网上的信息越来越多,人们发现很难从这些大量的信息中选择自己感兴趣的内容,对信息的使用效率越来越低。推荐系统的出现很好的解决了这种信息超载的问题。推荐系统会利用用户的历史交互数据进行自动化的分析,为用户匹配符合自身喜好的内容,缓解了人们从大量信息中做出选择的烦恼。推荐系统的本质是通过用户、物品的属性信息和用户与物品之间的交互来对用户未来的行为进行预测。因此推荐系统必须具有识别用户偏好和预测用户对物品喜爱程度的能力,然后根据喜爱程度的高低来决定应该推荐的物品。根据实现这种能力方法的不同,我们可以将传统的推荐系统概括为以下的三种类别:基于内容匹配的推荐系统、基于协同过滤以及混合的推荐系统。这些方法通过对用户与用户,物品与物品之间的相似度计算,来理解用户偏好,预测用户的行为产生推荐,也取得了不错的推荐效果。但这些传统的推荐方法往往忽略了用户交互行为中的时序信息和因果联系,仅仅静态的构建用户的偏好和属性,随着推荐系统应用场景的多元化和复杂化,以上的这些方法显得有些“力不从心”。如今,随着大量先进的技术和算法被引入到推荐系统当中,挖掘用户行为序列中的时序信息,动态的构建用户的兴趣偏好已成为当前推荐系统中重要的研究方向。卷积神经网络、循环神经网络和注意力机制这些深度学习方法被广泛的应用到用户时序信息的建模当中,通过捕捉用户的长期兴趣和短期兴趣产生推荐,大大提高了推荐效果。然而,现有方法仅采用用户近期的行为来代表用户的短期兴趣,忽略了用户长期兴趣演化过程中也存在短期行为相似的特点,没能很好的捕捉用户的长短期偏好。为此,本文提出了一种新的基于时序信息的推荐系统,共采用两层结构:第一层,短期兴趣抽取层,将用户行为序列划分为不同的会话,利用自注意力机制来抽取用户会话中的短期兴趣特征,形成用户的兴趣演化序列;第二层,长期兴趣演化层,利用门控循环单元和注意力机制计算不同会话下用户的短期兴趣特征在用户长期兴趣演化过程中的贡献程度,输出用户当前兴趣特征表示。最后,采用隐语义模型的方法利用用户兴趣特征向量和商品向量相乘得出用户的兴趣得分,为用户推荐下一个商品。本文采用天猫平台真实的交互数据集进行实验,在Recall@20和MRR(Mean Reciprocal Rank)的评估指标上,本模型相比于表现第二好的模型分别提升了16.2%和11.6%,与其他现有的方法相比推荐效果更好。

基于时序信息的推荐系统研究

这是一篇关于时序信息,会话,自注意力机制,门控循环单元,注意力机制的论文, 主要内容为随着移动互联网的不断发展,如今越来越多的人可以很容易的在互联网中获取各种各样的服务如听音乐、网络社交、看电影等。但随着互联网上的信息越来越多,人们发现很难从这些大量的信息中选择自己感兴趣的内容,对信息的使用效率越来越低。推荐系统的出现很好的解决了这种信息超载的问题。推荐系统会利用用户的历史交互数据进行自动化的分析,为用户匹配符合自身喜好的内容,缓解了人们从大量信息中做出选择的烦恼。推荐系统的本质是通过用户、物品的属性信息和用户与物品之间的交互来对用户未来的行为进行预测。因此推荐系统必须具有识别用户偏好和预测用户对物品喜爱程度的能力,然后根据喜爱程度的高低来决定应该推荐的物品。根据实现这种能力方法的不同,我们可以将传统的推荐系统概括为以下的三种类别:基于内容匹配的推荐系统、基于协同过滤以及混合的推荐系统。这些方法通过对用户与用户,物品与物品之间的相似度计算,来理解用户偏好,预测用户的行为产生推荐,也取得了不错的推荐效果。但这些传统的推荐方法往往忽略了用户交互行为中的时序信息和因果联系,仅仅静态的构建用户的偏好和属性,随着推荐系统应用场景的多元化和复杂化,以上的这些方法显得有些“力不从心”。如今,随着大量先进的技术和算法被引入到推荐系统当中,挖掘用户行为序列中的时序信息,动态的构建用户的兴趣偏好已成为当前推荐系统中重要的研究方向。卷积神经网络、循环神经网络和注意力机制这些深度学习方法被广泛的应用到用户时序信息的建模当中,通过捕捉用户的长期兴趣和短期兴趣产生推荐,大大提高了推荐效果。然而,现有方法仅采用用户近期的行为来代表用户的短期兴趣,忽略了用户长期兴趣演化过程中也存在短期行为相似的特点,没能很好的捕捉用户的长短期偏好。为此,本文提出了一种新的基于时序信息的推荐系统,共采用两层结构:第一层,短期兴趣抽取层,将用户行为序列划分为不同的会话,利用自注意力机制来抽取用户会话中的短期兴趣特征,形成用户的兴趣演化序列;第二层,长期兴趣演化层,利用门控循环单元和注意力机制计算不同会话下用户的短期兴趣特征在用户长期兴趣演化过程中的贡献程度,输出用户当前兴趣特征表示。最后,采用隐语义模型的方法利用用户兴趣特征向量和商品向量相乘得出用户的兴趣得分,为用户推荐下一个商品。本文采用天猫平台真实的交互数据集进行实验,在Recall@20和MRR(Mean Reciprocal Rank)的评估指标上,本模型相比于表现第二好的模型分别提升了16.2%和11.6%,与其他现有的方法相比推荐效果更好。

基于网络日志的用户行为分析与研究

这是一篇关于Web日志,用户行为,会话,聚类算法,推荐模型,用户画像的论文, 主要内容为随着互联网的飞速发展,网络用户规模激增,其中网购用户占比不断增大,伴随着网络用户的行为也越来越复杂。尽管目前已有很多学者对Web挖掘技术和用户行为分析等方向展开了深入研究,但是仍然存在一些问题,特别是在电商垂直应用领域,会话识别作为用户分析的基础,目前仍采用的是静态、粗粒度、低准确率的识别方法,为后续分析造成较大的原始误差。此外,由于忽略对用户购买行为的考虑,各电商平台的推荐系统存在产生大量重复、不合时宜的物品推荐而造成用户体验不佳的问题。以上这些问题亟待解决,因此本文选取电商垂直领域,重点分析和研究电商用户行为,构建基于网络日志的用户行为分析系统。本文主要研究内容包括以下几点:第一、在深入理解Web日志的数据特征、表现形式的基础上,深入调研并理解互联网用户行为,总结出了互联网用户行为所具有的隐蔽性强、主动性强、复杂多样等主要特征,并总结出Web日志挖掘在电子商务、社交媒体、搜索引擎、游戏运营、02O、P2P六大行业领域的具体应用方向。第二、基于上述的调研结果,针对电商网站的具体应用场景,提出了一种基于时间阈值和站点首页识别的混合会话识别算法,提高了会话识别算法的灵活性和识别准确率。第三、以机器学习算法为基础,结合Kmeans和GMM两种聚类算法,实现了一种两阶段聚类算法,实验结果表明,该算法在聚类结果准确率上接近于GMM的结果,但算法用时较GMM缩短了 15%-18%,实现了上述两种算法的优势互补。第四,深入研究了协同过滤和基于内容的推荐算法,对比两者的优缺点,在分析淘宝用户行为的基础上,提出了一种引入商品购买周期的推荐系统模型,从最终得到的淘宝商品推荐备选集中可以直观看出该模型大大减少了重复推荐,同时实验结果也显示,该推荐模型的推荐结果准确率较目前的ItemCF推荐算法提高了10%-15%。基于上述研究内容和成果,本文构建并实现了基于网络日志的用户行为分析系统,该系统能够根据用户需求对日志记录进行标签标注,进而实现多维度统计分析和用户挖掘,输出用户画像,能够帮助电商商家、内容提供商等了解自己的用户,通过精准营销、精准推荐等方式获得更好的商业价值。

基于图神经网络的序列推荐

这是一篇关于序列推荐,图神经网络,多行为,会话的论文, 主要内容为与传统的协作过滤和基于内容的推荐不同,序列推荐通过对用户与项目之间顺序行为的建模,很好地捕捉到用户与项目之间的交互以及随时间变化的用户偏好。会话是对序列的更细粒度的划分,会话推荐可以更好地捕获用户的短期兴趣;图神经网络能对非欧式数据进行向量化表示,在推荐系统中,可以很好地捕获用户项目之间的关系,两者越来越受到业界广泛关注。在研读大量相关文献后,发现目前基于会话的序列推荐仍然存在以下问题:一是关注于下一项推荐的序列推荐通常只进行一次建模,不能很好地利用整个序列的信息;二是对同一用户有相同目的的多条序列,没有挖掘出序列间的关系和联系;三是大多数的序列推荐仅关注用户与项目间的单一行为,没有挖掘不同行为对于推荐的影响。对于上述问题,本文以电子商务平台为主要应用场景,重点对如下内容进行了研究:1、针对传统会话序列推荐仅使用一次建模难以同时兼顾整个序列的全面信息表达进而导致推荐准确率不高的问题,提出了一种基于会话的图神经网络序列推荐模型GNN-Bi GRU-TA。模型先将历史会话构建成有向会话图,用图神经网络学习会话图中节点信息表达,丰富节点嵌入;然后使用双向门控循环神经网络和注意力机制捕获会话序列中用户的全局和短期兴趣,最后生成推荐列表。Yoochoose、Diginetica两个公开数据集上的对比实验表明:模型提高了推荐准确率。2、为更好地利用同一用户的多条序列信息,同时也为了在模型中融入更多的信息表示,提出了一种基于用户多行为的图神经网络序列推荐模型MA-GNN-SR。通过图卷积神经网络对同一用户不同序列的项目进行聚合,挖掘不同序列间项目之间联系,丰富项目嵌入;而对于行为序列,即用户对商品进行不同操作的行为序列,则同样使用双向门控循环网络来学习,学习用户序列行为嵌入;最后,将学习得到的项目和用户行为嵌入进行拼接,通过软注意力机制生成用户偏好表达,进而进行预测推荐。京东JData公开数据集上的对比实验表明:模型性能指标有所提高。

基于图神经网络的序列推荐

这是一篇关于序列推荐,图神经网络,多行为,会话的论文, 主要内容为与传统的协作过滤和基于内容的推荐不同,序列推荐通过对用户与项目之间顺序行为的建模,很好地捕捉到用户与项目之间的交互以及随时间变化的用户偏好。会话是对序列的更细粒度的划分,会话推荐可以更好地捕获用户的短期兴趣;图神经网络能对非欧式数据进行向量化表示,在推荐系统中,可以很好地捕获用户项目之间的关系,两者越来越受到业界广泛关注。在研读大量相关文献后,发现目前基于会话的序列推荐仍然存在以下问题:一是关注于下一项推荐的序列推荐通常只进行一次建模,不能很好地利用整个序列的信息;二是对同一用户有相同目的的多条序列,没有挖掘出序列间的关系和联系;三是大多数的序列推荐仅关注用户与项目间的单一行为,没有挖掘不同行为对于推荐的影响。对于上述问题,本文以电子商务平台为主要应用场景,重点对如下内容进行了研究:1、针对传统会话序列推荐仅使用一次建模难以同时兼顾整个序列的全面信息表达进而导致推荐准确率不高的问题,提出了一种基于会话的图神经网络序列推荐模型GNN-Bi GRU-TA。模型先将历史会话构建成有向会话图,用图神经网络学习会话图中节点信息表达,丰富节点嵌入;然后使用双向门控循环神经网络和注意力机制捕获会话序列中用户的全局和短期兴趣,最后生成推荐列表。Yoochoose、Diginetica两个公开数据集上的对比实验表明:模型提高了推荐准确率。2、为更好地利用同一用户的多条序列信息,同时也为了在模型中融入更多的信息表示,提出了一种基于用户多行为的图神经网络序列推荐模型MA-GNN-SR。通过图卷积神经网络对同一用户不同序列的项目进行聚合,挖掘不同序列间项目之间联系,丰富项目嵌入;而对于行为序列,即用户对商品进行不同操作的行为序列,则同样使用双向门控循环网络来学习,学习用户序列行为嵌入;最后,将学习得到的项目和用户行为嵌入进行拼接,通过软注意力机制生成用户偏好表达,进而进行预测推荐。京东JData公开数据集上的对比实验表明:模型性能指标有所提高。