基于Transformer的序列推荐研究
这是一篇关于序列推荐,Transformer,注意力机制,时间间隔的论文, 主要内容为大数据时代,信息爆炸式增长,快速而准确的获取有效信息成为了新的挑战,为了解决这一难题,推荐系统应运而生。它作为一种有效的信息筛选工具,能够帮助人们从互联网中选择出符合自已意图的信息。从传统推荐模型到序列推荐模型的相关研究一直受研究者广泛关注。传统推荐方法对用户的历史行为进行静态建模,仅考虑用户的一般偏好。而序列推荐模型尝试对用户(user)和项目(item)的交互记录进行动态建模,该模型可通过构建一个序列模式实现精准且个性化的推荐。现有的推荐系统将用户与项目的历史交互顺序作为获取用户下一项行为的关键特征。在以往的研究中,马尔可夫链和循环神经网络是两个主要的应用方法,而这两种方法在处理不同稀疏度的数据集中都存在一定的缺陷。另外,由于序列推荐模型能够捕捉到顺序模式的动态变化,因此被广泛使用;然而这些模型将用户交互记录看作有顺序的序列,却忽略交互物品之间的时间间隔,没有对实际的时间戳进行建模。针对以上问题,基于Transformer模型对用户交互记录中的数据进行研究,本文主要研究工作如下:(1)马尔可夫链可根据用户最近的动作来预测下一个行为,在较稀疏的数据集中表现很好;而循环神经网络通过揭示用户交互记录中较长期的语义来预测用户下一个最可能交互的项目,在较密集的数据集中表现得更好。为平衡这两个方法,本文基于自注意力机制提出一种序列模型,结合项目自身特征信息,使其既能捕获长期语义,也能根据相对较少的交互记录进行预测。相同推荐指标下,本文模型在两个数据集上(景区数据和Hetrec2011)的推荐准确度比其它模型提高了2%。(2)针对交互物品之间的时间间隔问题,本文对交互中的时间戳进行建模,以探索不同时间间隔对用户下一行为的影响。为此提出基于时间间隔感知的序列推荐模型,它既对交互中项目的绝对位置进行建模,也对一个序列中的时间间隔进行建模。在两个真实数据集上(景区数据和Hetrec2011)的实验表明,相同推荐指标下,本文模型的推荐准确度比其它模型提高了1%。
基于Transformer的序列推荐研究
这是一篇关于序列推荐,Transformer,注意力机制,时间间隔的论文, 主要内容为大数据时代,信息爆炸式增长,快速而准确的获取有效信息成为了新的挑战,为了解决这一难题,推荐系统应运而生。它作为一种有效的信息筛选工具,能够帮助人们从互联网中选择出符合自已意图的信息。从传统推荐模型到序列推荐模型的相关研究一直受研究者广泛关注。传统推荐方法对用户的历史行为进行静态建模,仅考虑用户的一般偏好。而序列推荐模型尝试对用户(user)和项目(item)的交互记录进行动态建模,该模型可通过构建一个序列模式实现精准且个性化的推荐。现有的推荐系统将用户与项目的历史交互顺序作为获取用户下一项行为的关键特征。在以往的研究中,马尔可夫链和循环神经网络是两个主要的应用方法,而这两种方法在处理不同稀疏度的数据集中都存在一定的缺陷。另外,由于序列推荐模型能够捕捉到顺序模式的动态变化,因此被广泛使用;然而这些模型将用户交互记录看作有顺序的序列,却忽略交互物品之间的时间间隔,没有对实际的时间戳进行建模。针对以上问题,基于Transformer模型对用户交互记录中的数据进行研究,本文主要研究工作如下:(1)马尔可夫链可根据用户最近的动作来预测下一个行为,在较稀疏的数据集中表现很好;而循环神经网络通过揭示用户交互记录中较长期的语义来预测用户下一个最可能交互的项目,在较密集的数据集中表现得更好。为平衡这两个方法,本文基于自注意力机制提出一种序列模型,结合项目自身特征信息,使其既能捕获长期语义,也能根据相对较少的交互记录进行预测。相同推荐指标下,本文模型在两个数据集上(景区数据和Hetrec2011)的推荐准确度比其它模型提高了2%。(2)针对交互物品之间的时间间隔问题,本文对交互中的时间戳进行建模,以探索不同时间间隔对用户下一行为的影响。为此提出基于时间间隔感知的序列推荐模型,它既对交互中项目的绝对位置进行建模,也对一个序列中的时间间隔进行建模。在两个真实数据集上(景区数据和Hetrec2011)的实验表明,相同推荐指标下,本文模型的推荐准确度比其它模型提高了1%。
基于用户行为的会话型推荐方法研究
这是一篇关于会话型推荐方法,行为建模,时间间隔,用户意图,注意力机制的论文, 主要内容为在Web应用中,会话指的是一个终端用户与服务器端通讯的过程。基于会话的推荐系统的目的是利用会话中所包含的用户的点击序列记录建模用户的行为特征、挖掘用户随时间变化的兴趣偏好,为用户推荐其下一步可能感兴趣的物品。现有的基于会话的推荐方法可以分为基于传统方法的和基于循环神经网络的。虽然基于循环神经网络的较基于传统方法的会话型推荐方法在召回率和平均倒数排名上都有显著的提高,但是它们在建模时都没有同时考虑到会话的两个特征:一是用户行为之间的时间间隔,它对用户行为间的联系有非常重要的影响;二是用户行为序列中往往包含很多无目的的点击行为,这些行为有可能模糊用户的主要意图,从而影响推荐方法的性能。基于以上认识,在现有的基于注意力机制的会话型推荐系统和考虑用户行为时间间隔的Time-LSTM的深度学习模型的基础上提出了基于时间和注意力的会话型推荐方法(Time-Aware Attentive Session-based Recommendation,TASR)。TASR的基本思路是:利用Time-LSTM建模时间间隔对用户行为的影响,利用注意力机制捕获用户的主要意图。在两个数据集MovieLens和LastFM上的实验结果显示,较之其他推荐方法,TASR的Recall@10和MRR@10的值在这两个数据集中至少提高了0.01。这证明了同时建模用户意图和时间间隔的必要性。在TASR模型的基础上提出了基于短期注意力优先和时间的会话型推荐方法(ShortTerm Attention Priority and Time-Aware Attentive Session-based Recommendation,SAPTASR)。SAP-TASR采取短期用户意图优先的原则、降低了用户意图计算过程的参数规模。最后在MovieLens和Last FM数据集上,将SAP-TASR与TASR进行了比较。结果表明,SAP-TASR的Recall@10和MRR@10的值在较长序列长度下也能有微弱的提高,这说明用户短期意图在长序列中有重要作用。并且与TASR相比SAP-TASR模型的训练时间节约了至少30%。
基于大数据的社区团购个性化推荐算法研究
这是一篇关于社区团购,神经网络,时间间隔,社交网络,Spark,并行计算的论文, 主要内容为目前,个性化推荐系统无论是在电子商务领域还是社交网络方面都有非常重要的作用。社区团购模式与传统电子商务模式相比,其重点在于用户购买商品的时间与用户的社交关注关系。但传统的社区团购平台未采取有效方法分析挖掘时间与社交数据对于推荐的重要性;同时海量数据给传统的团购平台带来了存储与计算压力。本文在大数据背景下,开展了基于深度学习的社区团购个性化推荐研究。论文的主要内容如下:(1)提出了融合时序感知GRU和自注意力的团购推荐算法RTSA。首先,构建了时序感知的GRU模块,在团购推荐时融入时序信息;进一步地,考虑到用户-商品交互序列中噪声问题,采用自注意力网络,实现了对单个用户的推荐。在两个数据集上进行了大量实验,结果表明RTSA在四个指标上都优于FPMC、GRU4Rec等推荐算法,验证了RTSA推荐模型的有效性。(2)提出了融合社交网络和分层自注意力的团购推荐算法SSAGR。首先,采用循环神经网络,获取了用户随时间变化的潜在兴趣;然后,考虑到群组推荐中预定义的融合策略不能动态获取群组用户权重,利用分层自注意力网络,结合社交网络信息,实现了动态的群组偏好聚合策略;最后,针对群组-项目交互数据的稀疏性问题,利用神经协同过滤NCF,挖掘群组-项目交互,实现了对群组用户的推荐。在两个数据集上进行了大量实验,结果表明SSAGR在两个指标上都优于AGREE等群组推荐算法,验证了SSAGR推荐模型的有效性。(3)实现了RTSA和SSAGR推荐算法的并行化处理。首先,搭建了Spark大数据集群;然后,采用数据并行化的策略实现了RTSA和SSAGR模型的并行化;最后,在不同数据规模、不同节点个数上,使用加速比、可扩展性作为评价指标进行了对比实验,结果表明对于大规模数据集,并行化实现神经网络模型的效率更高,且具有良好的可扩展性。(4)搭建了社区团购推荐的原型系统。面向大数据背景下社区团购推荐的应用场景,本文基于已经实现的两个推荐算法RTSA和SSAGR,结合Pytorch深度学习框架,设计实现了社区团购推荐的原型系统。
基于Transformer的序列推荐研究
这是一篇关于序列推荐,Transformer,注意力机制,时间间隔的论文, 主要内容为大数据时代,信息爆炸式增长,快速而准确的获取有效信息成为了新的挑战,为了解决这一难题,推荐系统应运而生。它作为一种有效的信息筛选工具,能够帮助人们从互联网中选择出符合自已意图的信息。从传统推荐模型到序列推荐模型的相关研究一直受研究者广泛关注。传统推荐方法对用户的历史行为进行静态建模,仅考虑用户的一般偏好。而序列推荐模型尝试对用户(user)和项目(item)的交互记录进行动态建模,该模型可通过构建一个序列模式实现精准且个性化的推荐。现有的推荐系统将用户与项目的历史交互顺序作为获取用户下一项行为的关键特征。在以往的研究中,马尔可夫链和循环神经网络是两个主要的应用方法,而这两种方法在处理不同稀疏度的数据集中都存在一定的缺陷。另外,由于序列推荐模型能够捕捉到顺序模式的动态变化,因此被广泛使用;然而这些模型将用户交互记录看作有顺序的序列,却忽略交互物品之间的时间间隔,没有对实际的时间戳进行建模。针对以上问题,基于Transformer模型对用户交互记录中的数据进行研究,本文主要研究工作如下:(1)马尔可夫链可根据用户最近的动作来预测下一个行为,在较稀疏的数据集中表现很好;而循环神经网络通过揭示用户交互记录中较长期的语义来预测用户下一个最可能交互的项目,在较密集的数据集中表现得更好。为平衡这两个方法,本文基于自注意力机制提出一种序列模型,结合项目自身特征信息,使其既能捕获长期语义,也能根据相对较少的交互记录进行预测。相同推荐指标下,本文模型在两个数据集上(景区数据和Hetrec2011)的推荐准确度比其它模型提高了2%。(2)针对交互物品之间的时间间隔问题,本文对交互中的时间戳进行建模,以探索不同时间间隔对用户下一行为的影响。为此提出基于时间间隔感知的序列推荐模型,它既对交互中项目的绝对位置进行建模,也对一个序列中的时间间隔进行建模。在两个真实数据集上(景区数据和Hetrec2011)的实验表明,相同推荐指标下,本文模型的推荐准确度比其它模型提高了1%。
本文内容包括但不限于文字、数据、图表及超链接等)均来源于该信息及资料的相关主题。发布者:源码码头 ,原文地址:https://m.bishedaima.com/lunwen/56075.html