推荐7篇关于随机梯度下降的计算机专业论文

今天分享的是关于随机梯度下降的7篇计算机毕业论文范文, 如果你的论文涉及到随机梯度下降等主题,本文能够帮助到你 基于人脸识别的垂直眼镜电商推荐方法的研究与系统实现 这是一篇关于遮挡人脸识别

今天分享的是关于随机梯度下降的7篇计算机毕业论文范文, 如果你的论文涉及到随机梯度下降等主题,本文能够帮助到你

基于人脸识别的垂直眼镜电商推荐方法的研究与系统实现

这是一篇关于遮挡人脸识别,树形结构范数,矩阵分解,随机梯度下降,电商推荐系统的论文, 主要内容为近视,被列为世界三大疾病之一,对于近视患者,眼镜是日常必需品。随着经济发展,人们既看中眼镜的光学作用,也强调其装饰功能。如今眼镜的样式种类繁多,干扰了用户的购物选择。另一方面,互联网电子商务发展迅猛,导致传统眼镜行业与新型商务模式结合,产生海量数据,这使得研究者可以通过机器学习等技术从中挖掘有用的信息,生成个性化推荐,帮助用户做出购物选择。本研究以眼镜电商推荐系统为主要研究对象,探讨新型推荐模型,结合用户人脸数据及购物行为数据,实现精准、实时的商品推荐。首先,本文采用结合小批量梯度下降算法MBGD的协同过滤模型,并对MBGD中学习率固定的问题进行改进,提出一种adapter-MBGD算法,提高推荐结果的准确性和实时性;然后引入基于相似人脸匹配的商品推荐方法,并针对近视人群佩戴眼镜这一特征,提出一种有遮挡人脸识别算法,降低遮挡物对人脸匹配的影响。基于相似人脸匹配的推荐方法提供另一维度的商品推荐,能够解决协同过滤推荐模型覆盖率低,发掘长尾商品能力弱的问题,打破热销更热销,冷门更冷门的僵局,提高推荐系统的鲁棒性;最后设计并实现眼镜电商推荐系统。具体工作如下:(1)在推荐系统中,SVD矩阵分解算法是普遍使用的算法之一。由于电商系统数据量大,SVD往往需要结合增量算法使用。本文根据实际情况选择小批量梯度下降算法MBGD配合SVD算法完成推荐。原始的MBGD算法的学习率是固定的,这使得学习率的选择困难。本文针对MBGD算法学习率固定的问题,提出一种adapter-MBGD算法,该算法引入二阶随机Heun数值方法来逼近最优解,利用随机Heun数值方法构造参数的近似,通过这种近似,推断函数在参数点附近的行为,从而为不同的参数设计独立的自适应性学习率,最后通过超参控制稳定学习率的衰减,从而实现学习率的自适应。算法保证学习率在加速前进的同时,仍保持稳定,有效解决了MBGD单一学习率的问题。并将该算法运用到SVD模型中,以优化推荐算法模型。实验结果表明,本文提出的算法表现出RMSA值为0.949的最佳结果,是用于矩阵分解的最佳选择。另外,本文提出的模型更新时间比现有更新最快的SGD算法提高15%,更具准确性和实时性。(2)在眼镜电商推荐系统中,用户上传的人脸图像中往往伴有混合噪声——由眼镜遮挡等引起的结构噪声和由图片拍摄质量等引起的稀疏噪声。混合噪声对人脸识别带来了很大干扰。本文提出一种基于加权Schatten-p范数和树形L∞范数的矩阵回归(WSTL∞MR)模型来处理人脸图像中的混合噪声,用分布模型分别对结构噪声和稀疏噪声进行表征。一方面,用广义矩阵变量slash(G.M.S.)分布表示结构噪声,并引入加权的Schatten-p范数来解决在使用最大后验概率估计(MAP)推导模型过程中出现的秩函数问题。该范数是对秩函数的现有最佳解,在处理实际问题时更具灵活性,同时更好地逼近原低秩假设。另一方面,用树形结构范数来约束稀疏噪声,树形L∞范数打破了L1范数对像素间独立性的假设,增强模型的普适性。并进一步基于交替方向乘子法(ADMM)给出所提模型的求解过程。实验结果表明,本模型的人脸重构错误率最低,为2.11%。即使对于眼镜和围巾这样的真实伪装,本模型也表现出较好的性能,识别率相对常用算法平均提高了3.25%,在此基础上叠加稀疏噪声后,识别率平均提高10.05%,可见本模型对混合噪声下的人脸识别具有很好的性能。(3)在上述研究的基础之上,本文还完成了基于人脸识别的垂直眼镜电商推荐系统的设计与实现,实现了眼镜试戴功能,并结合人脸识别和用户行为进行个性化产品推荐。

协同过滤在视频推荐中的应用及优化

这是一篇关于视频,协同过滤,隐反馈,偏好局部相似性,随机梯度下降,优化的论文, 主要内容为随着网络传输技术的快速发展以及移动设备的大量普及,视频流量呈现指数级增长。这种视频大数据给我们带来众多机遇,除了传统各类视频门户网站(如优酷、NetFlix),各类自媒体平台也大量涌现(如YouTube,用户同时作为内容消费者和提供者)。推荐系统作为连接视频和用户的桥梁已成为每个视频服务公司的核心竞争力所在。然而如何从视频大数据中挖掘出有效信息以提升个性化服务能力对推荐系统提出新的挑战。协同过滤作为一种与视频内容无关的个性化推荐技术近年来得到学术界和工业界广泛研究,其基本思想就是历史偏好相似的用户其未来偏好依然相似。同时,基于推荐方式的内容无关性,相比基于内容的推荐,其无需耗费人力、物力进行用户信息搜集、视频特征标记等工作。协同过滤推荐精度及求解复杂度作为评估推荐系统的两个性能指标一直为研究的热点。模型精度对于正确刻画用户偏好从而进行精准化的推荐至关重要,而求解复杂度决定了大数据量背景下推荐系统的可实施性及快速上线的能力。就协同过滤而言,其模型精度与复杂度通常是一对矛盾,如何在两者之间取得折中是其所要面临的技术难点。本文在分析现有协同过滤推荐相关工作基础之上,针对隐反馈场景下的视频协同过滤分别从推荐精度以及计算复杂度两个方面展开了相关研究。在提升推荐精度方面,通过对用户偏好随时间动态变化的特征分析,本文提出基于时间信息的视频协同过滤排序模型,从而改进了静态协同过滤模型无法动态刻画用户偏好的局限。在优化计算复杂度方面,本文通过对现有协同过滤排序模型优化目标及相应学习算法的分析,从理论上得出现有学习算法存在无效优化的原因:梯度“抵消”。针对问题形成原因,本文提出了通过改进学习算法的抽样方式以缓解梯度“抵消”造成的学习缓慢。本文的主要工作如下:1.通过分析用户偏好随时间变化的特征,即长期演变,局部稳定,本文提出基于偏好局部相似性稳定的动态协同过滤推荐模型。这一隐式刻画时间的方式不仅提高用户偏好预测精度而且有效控制了模型的计算复杂度。同时,为防止模型发生过拟合,本文提出将贝叶斯个性化排序模型集成到所提时间感知的协同过滤模型之中。基于此集成模型,本文提出两阶段学习的近似求解算法;2.通过分析基于贝叶斯个性化排序的协同过滤模型优化目标及相应的随机梯度下降学习方式,本文推导出此学习算法训练过程中发生梯度“抵消”原因的数学形式。基于此形式,本文提出基于用户分簇视频热门度采样算法以缓解梯度“抵消”引起的无效优化,从而提高了模型学习的效率。

基于多源异构知识图谱的个性化推荐算法及应用研究

这是一篇关于推荐系统,知识图谱,深度学习,动态融合,随机梯度下降的论文, 主要内容为随着互联网的迅速发展,各类数据充斥着各个平台,人们在享受这些数据所带来便利的同时,“信息过载”的问题也随之而来。推荐系统正是解决这一问题的有效方法之一,同时也是当前机器学习领域的研究热点。为了解决协同过滤推荐系统的数据稀疏与冷启动问题,通常利用辅助信息来提高推荐系统的整体性能。当前大多数社交媒体网站和电子商务系统都允许用户发表文本评论,以及对项目(如商户,电影,商品等)进行评分。为了更加有效地融合多种数据信息,解决数据稀疏的问题,提高推荐算法的准确性,搭建了有两个组件的推荐算法模型:一个组件是基于用户-项目历史交互数据源融合知识图谱的模型,另一个组件是基于用户-项目历史评论的深度学习算法,将两个组件动态融合,利用随机梯度下降方法进行模型求解,为用户提供更精准的个性化推荐服务。本文针对基于多元异构知识源的推荐系统进行研究,分别对基于结构化知识组成的知识图谱与文本知识进行建模,目的是为了设计出性能更为优越的推荐系统。本文的主要研究贡献包含了以下三点:1)传统基于协同过滤的推荐算法会有着由于数据稀疏带来的推荐效率低下的问题,可以通过添加辅助信息改进这一缺陷;传统基于知识图谱的推荐算法仅着重于结构化知识,然而用户-项目评论文本知识是普遍存在各类社交网站以及电子商务系统中,其中蕴含着丰富的语义特征信息,考虑从评论文本知识中获取特征可以极大地提高推荐效率。本文分别将知识图谱与评论内容作为多元数据元,并使用不同算法对数据进行处理,根据用户-项目的历史交互信息,提出了一个动态融合推荐模型,简称为REME(Ripple Net and word2vec fusion Model)。2)考虑到评论文本知识的复杂性,需要从中提取出有效的特征向量,本文利用深度学习模型word2vec从文本中提取与用户和项目相关的特征向量,以因子分解机FM(Factorization Machine)算法计算用户-项目相似度,得到一个用户点击预测值。3)为了进一步验证出REME算法的优越性,本文在真实数据集Yelp上进行的实验,其结果表明:相比于经典推荐算法,以precision@k,recall@k与F1-measure@K作为评价指标,REME模型能够取得更好的推荐效果,并且可以有效地解决数据稀疏带来的推荐准确性降低的问题。

基于人脸识别的垂直眼镜电商推荐方法的研究与系统实现

这是一篇关于遮挡人脸识别,树形结构范数,矩阵分解,随机梯度下降,电商推荐系统的论文, 主要内容为近视,被列为世界三大疾病之一,对于近视患者,眼镜是日常必需品。随着经济发展,人们既看中眼镜的光学作用,也强调其装饰功能。如今眼镜的样式种类繁多,干扰了用户的购物选择。另一方面,互联网电子商务发展迅猛,导致传统眼镜行业与新型商务模式结合,产生海量数据,这使得研究者可以通过机器学习等技术从中挖掘有用的信息,生成个性化推荐,帮助用户做出购物选择。本研究以眼镜电商推荐系统为主要研究对象,探讨新型推荐模型,结合用户人脸数据及购物行为数据,实现精准、实时的商品推荐。首先,本文采用结合小批量梯度下降算法MBGD的协同过滤模型,并对MBGD中学习率固定的问题进行改进,提出一种adapter-MBGD算法,提高推荐结果的准确性和实时性;然后引入基于相似人脸匹配的商品推荐方法,并针对近视人群佩戴眼镜这一特征,提出一种有遮挡人脸识别算法,降低遮挡物对人脸匹配的影响。基于相似人脸匹配的推荐方法提供另一维度的商品推荐,能够解决协同过滤推荐模型覆盖率低,发掘长尾商品能力弱的问题,打破热销更热销,冷门更冷门的僵局,提高推荐系统的鲁棒性;最后设计并实现眼镜电商推荐系统。具体工作如下:(1)在推荐系统中,SVD矩阵分解算法是普遍使用的算法之一。由于电商系统数据量大,SVD往往需要结合增量算法使用。本文根据实际情况选择小批量梯度下降算法MBGD配合SVD算法完成推荐。原始的MBGD算法的学习率是固定的,这使得学习率的选择困难。本文针对MBGD算法学习率固定的问题,提出一种adapter-MBGD算法,该算法引入二阶随机Heun数值方法来逼近最优解,利用随机Heun数值方法构造参数的近似,通过这种近似,推断函数在参数点附近的行为,从而为不同的参数设计独立的自适应性学习率,最后通过超参控制稳定学习率的衰减,从而实现学习率的自适应。算法保证学习率在加速前进的同时,仍保持稳定,有效解决了MBGD单一学习率的问题。并将该算法运用到SVD模型中,以优化推荐算法模型。实验结果表明,本文提出的算法表现出RMSA值为0.949的最佳结果,是用于矩阵分解的最佳选择。另外,本文提出的模型更新时间比现有更新最快的SGD算法提高15%,更具准确性和实时性。(2)在眼镜电商推荐系统中,用户上传的人脸图像中往往伴有混合噪声——由眼镜遮挡等引起的结构噪声和由图片拍摄质量等引起的稀疏噪声。混合噪声对人脸识别带来了很大干扰。本文提出一种基于加权Schatten-p范数和树形L∞范数的矩阵回归(WSTL∞MR)模型来处理人脸图像中的混合噪声,用分布模型分别对结构噪声和稀疏噪声进行表征。一方面,用广义矩阵变量slash(G.M.S.)分布表示结构噪声,并引入加权的Schatten-p范数来解决在使用最大后验概率估计(MAP)推导模型过程中出现的秩函数问题。该范数是对秩函数的现有最佳解,在处理实际问题时更具灵活性,同时更好地逼近原低秩假设。另一方面,用树形结构范数来约束稀疏噪声,树形L∞范数打破了L1范数对像素间独立性的假设,增强模型的普适性。并进一步基于交替方向乘子法(ADMM)给出所提模型的求解过程。实验结果表明,本模型的人脸重构错误率最低,为2.11%。即使对于眼镜和围巾这样的真实伪装,本模型也表现出较好的性能,识别率相对常用算法平均提高了3.25%,在此基础上叠加稀疏噪声后,识别率平均提高10.05%,可见本模型对混合噪声下的人脸识别具有很好的性能。(3)在上述研究的基础之上,本文还完成了基于人脸识别的垂直眼镜电商推荐系统的设计与实现,实现了眼镜试戴功能,并结合人脸识别和用户行为进行个性化产品推荐。

基于sigmoid函数变换的非负矩阵分解方法研究及其在推荐系统中的应用

这是一篇关于推荐系统,矩阵分解,非负矩阵分解,随机梯度下降,分布式算法的论文, 主要内容为在信息时代中,人们经常面临信息过载的问题,面对大量的信息难以筛选出自已想要的部分。推荐系统能很好的解决这一问题,它能通过分析用户的特征与行为为用户进行个性化推荐。但现有的推荐系统通常都不够准确,并且在处理大规模数据时会显得效率低下。本文针对这些问题,提出了一种基于sigmoid变换的非负矩阵分解方法,可以应用于协同过滤中的隐语义模型,来提高推荐系统中评分预测问题的准确率。并且通过对其优化方法随机梯度下降法进行了调整从而实现了一个高性能的分布式的矩阵分解方法,来解决了推荐系统处理大规模数据的问题。本文的主要贡献包括:1)提出了一种基于sigmoid函数变换的易于扩展的高预测准确率的非负矩阵分解方法。通过将非负性这一有用的约束引入隐语义模型中的矩阵分解中,提高了评分预测的准确率,并且保留了原方法的易扩展性。2)提出了一个针对上述矩阵分解的基于随机梯度下降法的分布式并行算法。与现有的分布式随机梯度下降法相比,减小了通信开销,并且改善了节点间的负载均衡。3)基于上述技术实现了一个电影推荐原型系统,初步验证了上述方法与技术的可行性。在该系统中,用户可以浏览电影并进行评分,系统会根据用户的评分记录为其推荐新的电影。

协同过滤在视频推荐中的应用及优化

这是一篇关于视频,协同过滤,隐反馈,偏好局部相似性,随机梯度下降,优化的论文, 主要内容为随着网络传输技术的快速发展以及移动设备的大量普及,视频流量呈现指数级增长。这种视频大数据给我们带来众多机遇,除了传统各类视频门户网站(如优酷、NetFlix),各类自媒体平台也大量涌现(如YouTube,用户同时作为内容消费者和提供者)。推荐系统作为连接视频和用户的桥梁已成为每个视频服务公司的核心竞争力所在。然而如何从视频大数据中挖掘出有效信息以提升个性化服务能力对推荐系统提出新的挑战。协同过滤作为一种与视频内容无关的个性化推荐技术近年来得到学术界和工业界广泛研究,其基本思想就是历史偏好相似的用户其未来偏好依然相似。同时,基于推荐方式的内容无关性,相比基于内容的推荐,其无需耗费人力、物力进行用户信息搜集、视频特征标记等工作。协同过滤推荐精度及求解复杂度作为评估推荐系统的两个性能指标一直为研究的热点。模型精度对于正确刻画用户偏好从而进行精准化的推荐至关重要,而求解复杂度决定了大数据量背景下推荐系统的可实施性及快速上线的能力。就协同过滤而言,其模型精度与复杂度通常是一对矛盾,如何在两者之间取得折中是其所要面临的技术难点。本文在分析现有协同过滤推荐相关工作基础之上,针对隐反馈场景下的视频协同过滤分别从推荐精度以及计算复杂度两个方面展开了相关研究。在提升推荐精度方面,通过对用户偏好随时间动态变化的特征分析,本文提出基于时间信息的视频协同过滤排序模型,从而改进了静态协同过滤模型无法动态刻画用户偏好的局限。在优化计算复杂度方面,本文通过对现有协同过滤排序模型优化目标及相应学习算法的分析,从理论上得出现有学习算法存在无效优化的原因:梯度“抵消”。针对问题形成原因,本文提出了通过改进学习算法的抽样方式以缓解梯度“抵消”造成的学习缓慢。本文的主要工作如下:1.通过分析用户偏好随时间变化的特征,即长期演变,局部稳定,本文提出基于偏好局部相似性稳定的动态协同过滤推荐模型。这一隐式刻画时间的方式不仅提高用户偏好预测精度而且有效控制了模型的计算复杂度。同时,为防止模型发生过拟合,本文提出将贝叶斯个性化排序模型集成到所提时间感知的协同过滤模型之中。基于此集成模型,本文提出两阶段学习的近似求解算法;2.通过分析基于贝叶斯个性化排序的协同过滤模型优化目标及相应的随机梯度下降学习方式,本文推导出此学习算法训练过程中发生梯度“抵消”原因的数学形式。基于此形式,本文提出基于用户分簇视频热门度采样算法以缓解梯度“抵消”引起的无效优化,从而提高了模型学习的效率。

基于多源异构知识图谱的个性化推荐算法及应用研究

这是一篇关于推荐系统,知识图谱,深度学习,动态融合,随机梯度下降的论文, 主要内容为随着互联网的迅速发展,各类数据充斥着各个平台,人们在享受这些数据所带来便利的同时,“信息过载”的问题也随之而来。推荐系统正是解决这一问题的有效方法之一,同时也是当前机器学习领域的研究热点。为了解决协同过滤推荐系统的数据稀疏与冷启动问题,通常利用辅助信息来提高推荐系统的整体性能。当前大多数社交媒体网站和电子商务系统都允许用户发表文本评论,以及对项目(如商户,电影,商品等)进行评分。为了更加有效地融合多种数据信息,解决数据稀疏的问题,提高推荐算法的准确性,搭建了有两个组件的推荐算法模型:一个组件是基于用户-项目历史交互数据源融合知识图谱的模型,另一个组件是基于用户-项目历史评论的深度学习算法,将两个组件动态融合,利用随机梯度下降方法进行模型求解,为用户提供更精准的个性化推荐服务。本文针对基于多元异构知识源的推荐系统进行研究,分别对基于结构化知识组成的知识图谱与文本知识进行建模,目的是为了设计出性能更为优越的推荐系统。本文的主要研究贡献包含了以下三点:1)传统基于协同过滤的推荐算法会有着由于数据稀疏带来的推荐效率低下的问题,可以通过添加辅助信息改进这一缺陷;传统基于知识图谱的推荐算法仅着重于结构化知识,然而用户-项目评论文本知识是普遍存在各类社交网站以及电子商务系统中,其中蕴含着丰富的语义特征信息,考虑从评论文本知识中获取特征可以极大地提高推荐效率。本文分别将知识图谱与评论内容作为多元数据元,并使用不同算法对数据进行处理,根据用户-项目的历史交互信息,提出了一个动态融合推荐模型,简称为REME(Ripple Net and word2vec fusion Model)。2)考虑到评论文本知识的复杂性,需要从中提取出有效的特征向量,本文利用深度学习模型word2vec从文本中提取与用户和项目相关的特征向量,以因子分解机FM(Factorization Machine)算法计算用户-项目相似度,得到一个用户点击预测值。3)为了进一步验证出REME算法的优越性,本文在真实数据集Yelp上进行的实验,其结果表明:相比于经典推荐算法,以precision@k,recall@k与F1-measure@K作为评价指标,REME模型能够取得更好的推荐效果,并且可以有效地解决数据稀疏带来的推荐准确性降低的问题。

本文内容包括但不限于文字、数据、图表及超链接等)均来源于该信息及资料的相关主题。发布者:毕设工坊 ,原文地址:https://m.bishedaima.com/lunwen/56209.html

相关推荐

发表回复

登录后才能评论