基于联邦学习的个性化服务推荐方法研究
这是一篇关于联邦学习,推荐系统,因子分解机,FNSFM,FFM的论文, 主要内容为随着互联网技术在近年来的迅速发展,越来越多的企业在其互联网产品中使用了个性化推荐技术。联邦学习技术是一种可以解决个性化推荐系统中隐私保护问题的有效方案,本文针对联邦学习个性化推荐领域中的纵向联邦因子分解机算法,聚焦于解决该算法当前因训练效率低与面对海量稀疏数据性能不佳而实际应用困难的问题。本文首先描述了个性化服务推荐中的一种实际场景,为提升该场景下非抽样传统纵向联邦因子分解机训练效率低的问题,提出了基于纵向联邦学习框架的高效非抽样因子分解机服务推荐算法Fed-ENSFM。另一方面,本文考虑了一种具体的CTR预估场景,为解决该场景下传统纵向联邦因子分解机面对海量稀疏数据性能不佳的问题,基于此场景提出了基于纵向联邦特征域感知因子分解机的个性化服务推荐算法Fed-FFM。最后根据相关研究内容,设计并实现了一种联邦学习电影推荐系统。本文具体研究内容如下:(1)本文将高效非抽样因子分解机(ENSFM)与纵向联邦学习相结合,提出了非抽样联邦推荐算法Fed-ENSFM,最后通过实验验证了该算法的执行效率显著快于Fed FM。(2)本文将场感知因子分解机(FFM)与纵向联邦学习相结合,提出了更加适合样本稀疏场景的纵向联邦CTR预估算法Fed-FFM,最后通过理论分析结合实验验证了该算法在样本稀疏的纵向联邦推荐场景下的准确性。(3)本文基于纵向联邦学习和Web前端相关技术,设计了一个纵向联邦场景下的电影推荐系统。该系统采用B/S架构,将纵向联邦推荐中参与者上传加密梯度、同态加密的加密与解密等进行封装,形成一个个具体的功能模块,并基于这些功能模块建立原型系统。实验表明,Fed-ENSFM在保证模型性能的前提下模型的训练效率明显优于传统的联邦因子分解机Fed FM,Fed-FFM与中心化FFM相比保护了用户个人隐私,与Fed FM相比提高了模型精度。本文还实现了一个基于B/S架构的纵向联邦学习电影推荐系统,用以直观地展示纵向联邦学习推荐系统在真实业务场景的应用流程。
基于深度神经网络的点击率预估模型
这是一篇关于点击率预估,FFM,注意力机制,深度学习的论文, 主要内容为大数据时代,我们生活中的方方面面都出现了信息过载的问题。用户从大量的信息中寻找对自己感兴趣的信息也随之变得困难;而对于信息生产者而言,让自己生产的信息在众多信息中脱颖而出也变得越来越难。推荐系统就是在这样的前提下产生的。推荐系统的主要目的是把合适的信息推荐给合适的人。对于用户而言,推荐系统能将用户感兴趣的内容推送给用户。对于商家而言,推荐系统可以给用户提供个性化服务,提高收入。在推荐系统中,点击率预估是非常重要的一个环节,判断一个商品是否进行推荐需要根据点击率预估的点击率来进行。论文主要研究基于深度神经网络的点击率预估模型的问题,聚焦当前火热和前沿的深度学习技术。论文针对当前存在的深度点击率预估模型,从低维特征的表达和组合特征的表达为切入点,对当前存在的深度点击率预估模型在低维特征表达与组合特征表达这两个层面做了改进工作,主要进行了将FFM中“域”思想引入深度点击率预估模型和将注意力机制引入深度点击率预估模型的两方面工作。本文的主要工作和创新点包括:1.提出了一种基于FFM深度神经网络的点击率预估模型。该方法的主要思想是通过将FFM模型中“域”的思想引入到深度点击率预估模型中,通过“域”的思想对低维输入特征进行多个维度的表达,使得模型可以更好地发现每个特征下包含的规律,最后利用深度神经网络技术进行点击率预估。相关工作已整理发表专利。2.提出了一种基于注意力机制的深度神经网络的点击率预估模型。该方法的主要思想是通过把在图像和自然语言处理领域取得良好效果的注意力机制引入到深度点击率预估模型中。通过注意力机制可以更好的表达特征与特征之间的交互关系,从而使得模型可以更好的表达特征之间存在的规律,最终实现模型性能的提升。本文的两项工作分别从低维特征表达层面和组合特征表达层面对现有的深度点击率预估模型做了改进,使得模型在参数相同的情况下获得了性能的提升。因此,本文方法具有广泛的应用前景。
基于流处理和深度学习的推荐系统研究
这是一篇关于推荐系统,Flink,注意力机制,FFM,Graph Embedding,FTRL的论文, 主要内容为近些年由于互联网的快速发展,其在为我们提供便利的同时也到导致了“信息过载”的问题,而推荐系统就是为了在海量数据的情况下将用户感兴趣的物品快速准确地推荐给用户。近些年深度学习与流处理框架在推荐领域被广泛应用,相比于传统推荐模型,深度学习推荐模型表达能力更强。相比于传统的大数据处理框架,流处理框架能够更加及时地获取用户兴趣的实时变化,提升推荐系统推荐的实时性与准确性。目前的推荐系统存在以下几点问题:(1)模型输出部分对交叉特征无差别求和,忽视了不同特征对结果影响的重要程度不同(2)深度学习模型难以有效地学习高阶的组合特征(3)传统Embedding编码方式难以对图结构候选集编码(4)目前大数据处理框架在用户数据收集上实时性不足。针对以上问题,本文主要工作如下:1.针对模型对输入特征无差别求和的问题本文提出了一种基于注意力机制的AFFM(Attentional Field-aware Factorization Macheine)模型。AFFM模型使用了线性与非线性双网络并行训练的结构,在模型中引入了注意力机制使得模型能够对不同特征计算出不同的权重,提升重要特征对推荐结果的影响。针对模型无法有效学习高阶特征的问题引入FFM(Field-aware Factorization Machines)作为AFFM模型的线性侧算法实现提升模型的特征交叉能力,FFM引入了特征域感知使模型能够更加有效的学习高阶组合特征,提高模型表达能力。2.针对传统Embedding无法很好的处理处理图结构特征数据的问题,本文引入了Graph Embedding的编码方式对图结构中的节点进行Embedding编码。通过Graph Embedding生成的节点Embedding包含了图中的关系信息以及邻近节点局部相似性特征,使得模型推荐结果更加准确。3.针对推荐系统实时性不高,用户兴趣无法实时反映到推荐结果的问题,本文使用流式计算框架Flink实时收集用户行为数据并更新模型,同时引入了FTRL(Follow The Regularized Lead)在线学习算法优化实时推荐,FTRL优化算法能够解决模型稀疏性的问题,提升模型推荐的实时性与精确性。4.对本文推荐系统进行需求分析,设计并实现基于流处理与深度学习的推荐系统,系统包含系统业务模块、推荐模块与数据收集模块,其中系统业务模块使用Spring Cloud实现,推荐模块使用Graph Embedding进行特征Embedding向量的生成与召回层实现,使用AFFM模型作为离线推荐排序层实现,并使用FTRL算法对实时推荐进行优化。
基于机器学习的新闻点击率预测研究
这是一篇关于点击率预测,新闻,梯度提升决策树,FFM的论文, 主要内容为随着信息技术的快速发展和优化创新,新闻行业呈现多元化发展形态,科技推动了新闻业的发展进程。从报纸、广播、电视等传统媒体,到现在的新媒体数字化平台,新媒体在资源、流量等方面有很大的优势,有利于信息的有效传播。数字科技在自身发展的同时也给人们的生活带来了影响。人们获取信息的途经越来越多,获取信息的方式也越来越科技化、智能化,这也使得网络媒体对新闻传播的作用更加突出。然而在信息技术和数字化平台快速发展的同时,也生成了大量数据,带来了海量的数据增长问题。面对日益产生的复杂数据,资讯过载问题增加了用户从海量数据中迅速精准地获取感兴趣信息的难度,同时在用户增多、数据增长的情况下,系统平台需要健康稳定运转并且带给用户良好的体验,这就需要系统平台有效地利用平台积累的海量的用户历史行为数据,积极主动地发掘用户的潜在价值,并根据用户的行为习惯分析用户的偏好,综合考虑不同用户的不同需求,以满足其需求为目标,针对不同用户实施高效准确、个性化的推荐,在提升用户体验感的同时也提高平台自身使用率和用户活跃度。要想实现个性化推荐,首先要实现精准化预测,预测是推荐的基础,准确的预测效果能够为合理有效的推荐提供信息支撑,所以本文针对数字化新闻发布平台的个性化推荐问题进行了新闻点击率预测研究。本文首先介绍了网络新闻用户规模及用户使用率的现状,然后对推荐系统算法和点击率预估模型的国内外研究现状进行了介绍,其中包括最早应用于推荐系统领域的协同过滤算法,这也是广泛应用的一种算法,在协同过滤的基础上产生的矩阵分解法,基于模型的推荐算法,基于内容的推荐算法,以及混合推荐算法,还包括可用于点击率预测的最基础的逻辑回归模型,Poly2模型,因子分解机模型,在因子分解机模型的基础上衍生出的基于域的因子分解机模型,以及FNN等,介绍了有关算法及模型的理论基础和模型框架,为后续的模型设计提供理论支撑。进一步选取了某新闻App平台的用户实际操作数据,首先对数据集进行了探索性分析,了解各个特征下用户的行为情况。深入研究数据预处理、特征编码以及特征工程相关的理论和技术,根据数据集中的特征情况和取值变量类型进行了缺失值分析和特征编码处理,在特征工程阶段,综合数据情况和实际背景构造了统计特征、历史点击率特征、曝光特征,为后续模型的建立提供数据支撑。最后构建新闻点击率预测模型,通过用户的基本信息和包含用户历史行为的数据,分析用户的行为偏好及行为习惯,预测用户对新闻是否产生点击行为,进而实现精准化推荐。本文通过构建GBDT+FFM的组合模型来实现预测,采用Embedding技术对数据集中的高维稀疏特征进行处理。在实验结果分析阶段,进行了不同实验的对比,其中包括实施了特征工程和未进行特征工程的模型预测结果对比,以及组合模型与其他的基础模型预测结果对比,实验结果表明,特征工程提升了新闻点击率预测的准确性,GBDT+FFM的组合模型在点击率预测上相较于其他基础模型算法有较好的预测性能。
基于联邦学习的个性化服务推荐方法研究
这是一篇关于联邦学习,推荐系统,因子分解机,FNSFM,FFM的论文, 主要内容为随着互联网技术在近年来的迅速发展,越来越多的企业在其互联网产品中使用了个性化推荐技术。联邦学习技术是一种可以解决个性化推荐系统中隐私保护问题的有效方案,本文针对联邦学习个性化推荐领域中的纵向联邦因子分解机算法,聚焦于解决该算法当前因训练效率低与面对海量稀疏数据性能不佳而实际应用困难的问题。本文首先描述了个性化服务推荐中的一种实际场景,为提升该场景下非抽样传统纵向联邦因子分解机训练效率低的问题,提出了基于纵向联邦学习框架的高效非抽样因子分解机服务推荐算法Fed-ENSFM。另一方面,本文考虑了一种具体的CTR预估场景,为解决该场景下传统纵向联邦因子分解机面对海量稀疏数据性能不佳的问题,基于此场景提出了基于纵向联邦特征域感知因子分解机的个性化服务推荐算法Fed-FFM。最后根据相关研究内容,设计并实现了一种联邦学习电影推荐系统。本文具体研究内容如下:(1)本文将高效非抽样因子分解机(ENSFM)与纵向联邦学习相结合,提出了非抽样联邦推荐算法Fed-ENSFM,最后通过实验验证了该算法的执行效率显著快于Fed FM。(2)本文将场感知因子分解机(FFM)与纵向联邦学习相结合,提出了更加适合样本稀疏场景的纵向联邦CTR预估算法Fed-FFM,最后通过理论分析结合实验验证了该算法在样本稀疏的纵向联邦推荐场景下的准确性。(3)本文基于纵向联邦学习和Web前端相关技术,设计了一个纵向联邦场景下的电影推荐系统。该系统采用B/S架构,将纵向联邦推荐中参与者上传加密梯度、同态加密的加密与解密等进行封装,形成一个个具体的功能模块,并基于这些功能模块建立原型系统。实验表明,Fed-ENSFM在保证模型性能的前提下模型的训练效率明显优于传统的联邦因子分解机Fed FM,Fed-FFM与中心化FFM相比保护了用户个人隐私,与Fed FM相比提高了模型精度。本文还实现了一个基于B/S架构的纵向联邦学习电影推荐系统,用以直观地展示纵向联邦学习推荐系统在真实业务场景的应用流程。
基于深度学习的水稻病害识别和严重程度估计研究
这是一篇关于水稻病害识别,AB-SE-DenseNet,DCABlock,FFM,Attention,DFFANet,病斑分割,病害严重程度估计的论文, 主要内容为水稻作为我国的主要粮食作物,在全国范围内广泛种植,但其在种植过程中容易受到病害侵染,影响其产量和品质,造成粮食安全和经济损失等问题。因此,快速、准确地识别出水稻病害的类别及严重程度对保障水稻产量具有重要意义。传统的识别以植保专家肉眼识别评估为主,具有一定的主观性,耗时耗力,不能满足水稻病害识别实时性的需求。在人工智能技术背景下,基于深度学习的农作物病害识别方法具有精度高、速度快等优点,为作物病害的科学防控提供了有效的技术手段。本文以水稻病害作为研究对象,采用基于深度学习的水稻病害识别与严重程度估计方法,为实现水稻病害的快速、准确的诊断识别提供技术支持。论文的主要研究内容和结果如下:(1)研究基于改进Dense Net的水稻病害识别方法。利用具有特征权重自适应优点的挤压和激励模块(SE)优化Dense Net网络结构,将SE模块计算出来的各通道输入特征的权重与原始特征图对应通道做乘法运算,将权重和原始特征融合,融合后的水稻病害特征作为网络的输入,从而增强有利特征,解决了特征利用率低以及特征冗余对网络的影响,提高了网络性能。同时利用Ada Bound优化器对学习率进行动态裁剪,提高了模型的学习率和训练效果,建立了基于改进Dense Net网络的水稻病害识别模型,并利用该模型对水稻病害进行了识别。实验结果表明AB-SEDense Net识别模型准确率为99.4%,与VGG、Res Net、Dense Net、Vision Transformer相比收敛速度更快,识别准确率有较大提升。(2)研究基于DFFANet的水稻病害严重程度估计方法。为了实现快速准确分割水稻病害病斑,准确的评估水稻病害严重程度,本文设计了特征提取(DCABlock)模块和特征融合(FFM)模块实现对水稻病害浅层和深层特征尽可能完整的提取;然后进一步设计了轻量级的注意力(Attention)模块指导特征学习,对提取后的不同尺度的特征进行有效融合,并利用上述模块构建了DFFANet轻量级网络模型。将此模型应用于水稻病斑分割,实现了平均交并比为96.15%,速度为188FPS,并且模型参数量只有1.4M。最后,将病斑分割结果用于水稻病害严重程度估计,评估的平均准确率达到96.5%。结果表明,与该领域现有其他方法进行比对,DFFANet模型能够在较小的模型参数量下取得较高的检测速度,达到分割精度和速度的有效平衡,为实现水稻病害快速检测提供技术支持。(3)基于深度学习的水稻病害识别系统设计与实现。基于改进Dense Net水稻病害识别网络和基于DFFANet的水稻病害严重程度估计方法,并结合利用Pycharm、Tkinter和Python语言开发了水稻病害识别系统,并测试验证了基于深度学习的水稻病害识别系统软件的可行性和本文所提算法的有效性,为实现实际背景下田间水稻病害种类的识别和病害严重程度有效评估提供了技术支撑。在系统中,用户只需要上传待检测的病害图像,就可以得到病害的类别以及严重程度。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：毕业设计客栈 ，原文地址：https://m.bishedaima.com/lunwen/54402.html
