基于稳健优化的开放世界目标检测方法研究
这是一篇关于开放世界目标检测,图特征金字塔网络,平坦极小值,知识迁移,稀疏目标检测的论文, 主要内容为常规的目标检测方法通常设定在封闭世界的假设中,在特定的数据集上进行训练,学习固定数量的目标类别,并应用于特定场景。随着信息时代的发展,产品更新换代的速度加快,传统的目标检测算法难以在实际场景中灵活应用。基于此,开放世界目标检测(Open World Object Detection,OWOD)这一设定于2021年被Joseph KJ等人首次提出,其突破了主流基准中的封闭假设,将目标检测模型应用到开放领域中。该设定的主要任务是:(1)在没有明确标注时,将尚未学习的目标判别为“未知”;(2)当对应标签加入后,逐渐地学习已引入的“未知”目标的类别,且不遗忘之前学习到的类别信息。由于OWOD的设定比现有的封闭世界静态学习设置更贴近实际场景,因此受到了研究学者的广泛关注。为了更好的提升开放世界目标检测的性能,本文利用深度学习方法做了如下工作:(1)针对现有的开放世界目标检测方法ORE(Open woRld object d Etection)存在的未知目标召回率低以及增量学习的灾难性遗忘等问题,研究了基于图特征金字塔和稳健优化的开放世界目标检测方法(Adjustable Robust Optimization of ORE based on Graph Feature Pyramid,GARO-ORE)。该方法首先利用Graph-FPN中的超像素图像特性,帮助模型准确定位未知目标并获取丰富的语义信息;然后利用稳健优化方法对不确定性综合考量,极大限度地保证模型在学习新类别的同时避免遗忘先前学习到的类别知识;最后,采用基于知识迁移的分类权值初始化方法提高模型对新类别的适应性。在OWOD数据集上的实验结果表明,GARO-ORE在未知类别召回率上取得较优的检测结果,在10+10,15+5和19+1三种增量目标检测任务中,其m AP指标分别提升了1.38%,1.42%,1.44%。(2)针对GARO-ORE中只考虑了提升模型的检测性能,而忽略了模型的检测效率,研究了基于GA-RPN的轻量化开放世界目标检测方法(Lightweight open world Object detection based on GA-RPN,GAR-LORE)。该方法首先利用深度可分离卷积替换传统卷积来优化特征提取网络;然后利用基于空间注意力机制的GA-RPN提供了一套固定数量的候选区域,轻量化提取出图像中的目标候选区域;最后采用DIOU优化目标回归。在OWOD数据集上的实验结果表明,GAR-LORE能够较好的提高未知目标检测的召回率,并且能够轻量化完成OWOD任务。(3)从软件工程的角度出发,开发了一套开放世界目标检测系统,对本文所提出的开放世界目标检测模型进行封装,采用B/S架构模式设计系统,使用Layui+django+Spring Boot等技术进行系统开发,将开放世界目标检测应用于现实场景中。
基于知识迁移的跨领域教育资源推荐系统研究与实现
这是一篇关于知识迁移,相似度,跨领域推荐,教育资源的论文, 主要内容为随着互联网技术的不断普及以及大数据时代的到来,学生可以通过众多的的渠道来获取大量的教育资源,但教育资源系统在为学生带来方便的同时,产生了资源虽然数量多但可能并不能完全满足学生要求的问题。学生面对繁多的教育资源显得无所适从,为解决教育资源繁多以及为学生展现其感兴趣的教育资源的问题,推荐技术被应用了到教育推荐之中。推荐技术在教育推荐系统中,可以根据学生的偏好为学生呈现其可能感兴趣的教育资源,但在推荐的同时,学生信息数据过少、学生兴趣的的挖掘等问题仍然是教育推荐面临的主要挑战,伴随着教育资源系统数量的增加以及学生要求的不断提高,还有学生规模以及教育资源数量的急剧增长,为学生生成更加准确的教育资源推荐变得越来越迫切。而跨领域教育推荐可以利用丰富的源域知识,为学生生成更加准确的推荐。由此,如何快速解决学生对于不同教育资源的迫切需求,充分挖掘学生的潜在偏好,建设一个满足条件的教育资源推荐系统,进而为学生带来更好的体验,具有十分重要的意义。本文认真分析了当前国内外对于教育跨领域推荐研究的现状,并且将现有存在的不足进行了总结。重点对于现有教育跨领域推荐对于学生潜在特征考虑不足的问题进行了深入讨论。据此,为增加教育资源推荐的多样性,提升推荐结果的准确性,本文提出了一种基于用户知识迁移的跨领域推荐算法,算法使用学生在源域与其他学生的相似性来填充目标域矩阵评分,并在此基础上使用矩阵分解技术完成对于学生评分矩阵的分解以及对于潜在特征的调整,最终完成对学生在目标域评分矩阵的填充。经过严格的实验结果表明,本文提出的算法具有较好的推荐效果。综上所述并结合需求,实现了跨领域教育资源推荐系统,系统开发使用了当前流行的技术,并对于系统中的学生、教师以及管理员模块的功能设计进行了实现。最后,对系统中的功能进行了详细的测试。
基于知识迁移的跨领域教育资源推荐系统研究与实现
这是一篇关于知识迁移,相似度,跨领域推荐,教育资源的论文, 主要内容为随着互联网技术的不断普及以及大数据时代的到来,学生可以通过众多的的渠道来获取大量的教育资源,但教育资源系统在为学生带来方便的同时,产生了资源虽然数量多但可能并不能完全满足学生要求的问题。学生面对繁多的教育资源显得无所适从,为解决教育资源繁多以及为学生展现其感兴趣的教育资源的问题,推荐技术被应用了到教育推荐之中。推荐技术在教育推荐系统中,可以根据学生的偏好为学生呈现其可能感兴趣的教育资源,但在推荐的同时,学生信息数据过少、学生兴趣的的挖掘等问题仍然是教育推荐面临的主要挑战,伴随着教育资源系统数量的增加以及学生要求的不断提高,还有学生规模以及教育资源数量的急剧增长,为学生生成更加准确的教育资源推荐变得越来越迫切。而跨领域教育推荐可以利用丰富的源域知识,为学生生成更加准确的推荐。由此,如何快速解决学生对于不同教育资源的迫切需求,充分挖掘学生的潜在偏好,建设一个满足条件的教育资源推荐系统,进而为学生带来更好的体验,具有十分重要的意义。本文认真分析了当前国内外对于教育跨领域推荐研究的现状,并且将现有存在的不足进行了总结。重点对于现有教育跨领域推荐对于学生潜在特征考虑不足的问题进行了深入讨论。据此,为增加教育资源推荐的多样性,提升推荐结果的准确性,本文提出了一种基于用户知识迁移的跨领域推荐算法,算法使用学生在源域与其他学生的相似性来填充目标域矩阵评分,并在此基础上使用矩阵分解技术完成对于学生评分矩阵的分解以及对于潜在特征的调整,最终完成对学生在目标域评分矩阵的填充。经过严格的实验结果表明,本文提出的算法具有较好的推荐效果。综上所述并结合需求,实现了跨领域教育资源推荐系统,系统开发使用了当前流行的技术,并对于系统中的学生、教师以及管理员模块的功能设计进行了实现。最后,对系统中的功能进行了详细的测试。
基于知识迁移和聚合的跨领域推荐算法研究
这是一篇关于知识迁移,知识聚合,跨领域推荐,神经网络,注意力机制的论文, 主要内容为信息过载的互联网时代,用户如何从海量信息中获取有用信息成为热点研究问题,推荐系统为解决信息过载提供了有力的工具,但是传统推荐算法的性能受限于单领域中用户和项目的稀疏性问题,也受限于新用户无历史行为而面临的冷启动问题。由于不同领域存在用户群体偏好和项目属性类别的相似性和相关性,因此跨领域推荐能够通过学习辅助领域的知识预测目标领域的用户行为,从而丰富目标领域的信息以提高推荐准确率。基于此,本文开展了知识迁移和聚合的跨领域推荐算法研究,主要工作如下:(1)本文为解决用户冷启动问题、领域间评分矩阵直接拼接后提取特征导致的数据过于稀疏以及不容易泛化到新领域等问题,针对用户部分重叠的场景,从群体效应的角度提出了一种知识聚合和迁移相结合的跨领域推荐算法ATCF(Aggregation and Transfer Collaborative Filtering for cross-domain recommendation)与已有的跨领域推荐算法不同,在对共性知识和个性知识的表示和学习中,均充分融合了两个领域的特征。通过在群集矩阵及评分矩阵上的两级拼接和两次填充,得到共性知识表示,缓解了用户行为数据少以及新用户进入系统无行为的冷启动问题。通过知识迁移,构建了有区分的重叠用户和非重叠用户的个性知识表示,有效地避免了负迁移。通过基于知识聚合的共性知识表示和基于知识迁移的个性知识表示,提升了推荐性能。(2)本文为解决忽略领域中的用户个性特征及领域间用户对项目的交互特征而导致的负迁移和用户冷启动等问题,更好地学习个性化的用户特征,针对用户部分重叠的场景,从个体效应的角度进一步提出一种基于映射的注意力机制特征迁移跨领域推荐算法AFTM(Attentive-Feature Transfer based on Mapping for crossdomain recommendation)。该算法通过矩阵分解和注意力机制对用户进行建模,融合用户-项目交互特征构建用户特征向量,然后通过神经网络构建领域间的特征映射,捕获用户特征间的非线性关系,在此过程中融合了领域间用户交互特征,通过融合偏好为新用户提供推荐,并且群体偏好降低了数据稀疏度,在一定程度上避免了负迁移,提高了目标领域的推荐准确性。(3)本文在标准数据集Movielens和真实数据集豆瓣图书和豆瓣电影上进行了实验,实验结果表明,与只考虑单个域的推荐算法和其他跨域推荐算法相比,本文提出的两种跨领域推荐算法在冷启动用户的推荐性能上和所有用户的推荐准确性上有明显的优势,使得目标领域的推荐性能得到较强提升。
基于稳健优化的开放世界目标检测方法研究
这是一篇关于开放世界目标检测,图特征金字塔网络,平坦极小值,知识迁移,稀疏目标检测的论文, 主要内容为常规的目标检测方法通常设定在封闭世界的假设中,在特定的数据集上进行训练,学习固定数量的目标类别,并应用于特定场景。随着信息时代的发展,产品更新换代的速度加快,传统的目标检测算法难以在实际场景中灵活应用。基于此,开放世界目标检测(Open World Object Detection,OWOD)这一设定于2021年被Joseph KJ等人首次提出,其突破了主流基准中的封闭假设,将目标检测模型应用到开放领域中。该设定的主要任务是:(1)在没有明确标注时,将尚未学习的目标判别为“未知”;(2)当对应标签加入后,逐渐地学习已引入的“未知”目标的类别,且不遗忘之前学习到的类别信息。由于OWOD的设定比现有的封闭世界静态学习设置更贴近实际场景,因此受到了研究学者的广泛关注。为了更好的提升开放世界目标检测的性能,本文利用深度学习方法做了如下工作:(1)针对现有的开放世界目标检测方法ORE(Open woRld object d Etection)存在的未知目标召回率低以及增量学习的灾难性遗忘等问题,研究了基于图特征金字塔和稳健优化的开放世界目标检测方法(Adjustable Robust Optimization of ORE based on Graph Feature Pyramid,GARO-ORE)。该方法首先利用Graph-FPN中的超像素图像特性,帮助模型准确定位未知目标并获取丰富的语义信息;然后利用稳健优化方法对不确定性综合考量,极大限度地保证模型在学习新类别的同时避免遗忘先前学习到的类别知识;最后,采用基于知识迁移的分类权值初始化方法提高模型对新类别的适应性。在OWOD数据集上的实验结果表明,GARO-ORE在未知类别召回率上取得较优的检测结果,在10+10,15+5和19+1三种增量目标检测任务中,其m AP指标分别提升了1.38%,1.42%,1.44%。(2)针对GARO-ORE中只考虑了提升模型的检测性能,而忽略了模型的检测效率,研究了基于GA-RPN的轻量化开放世界目标检测方法(Lightweight open world Object detection based on GA-RPN,GAR-LORE)。该方法首先利用深度可分离卷积替换传统卷积来优化特征提取网络;然后利用基于空间注意力机制的GA-RPN提供了一套固定数量的候选区域,轻量化提取出图像中的目标候选区域;最后采用DIOU优化目标回归。在OWOD数据集上的实验结果表明,GAR-LORE能够较好的提高未知目标检测的召回率,并且能够轻量化完成OWOD任务。(3)从软件工程的角度出发,开发了一套开放世界目标检测系统,对本文所提出的开放世界目标检测模型进行封装,采用B/S架构模式设计系统,使用Layui+django+Spring Boot等技术进行系统开发,将开放世界目标检测应用于现实场景中。
基于改进的深度信念网络的协同过滤算法研究
这是一篇关于深度信念网络,受限玻尔兹曼机,协同过滤,知识迁移,偏最小二乘回归的论文, 主要内容为深度信念网络(Deep Belief Network,DBN)是一种深度学习模型,它是由若干层受限玻尔兹曼机(Restricted Boltzmann Machine,RBM)有序堆叠组成的概率生成模型,通过无监督训练和有监督训练可以对样本数据进行特征学习和预测分类。DBN具有强大的特征学习能力,适用于推荐领域。然而,传统DBN存在以下不足:第一,DBN训练仅局限于评分数据,评分数据的稀疏性严重降低了模型的预测与推荐性能;第二,当给定具体应用时,DBN难以快速确定最佳网络结构,训练过程中的固定结构增加了计算负担。另外,在反向微调过程中存在梯度弥散问题,即从顶层到底层的纠错信号会变得越来越小,梯度弥散问题是DBN模型陷入局部最优的主要原因。针对DBN存在的上述问题,本文通过优化RBM和DBN的基本结构以改进DBN,并将改进的DBN与协同过滤算法相结合,以提高模型推荐性能。本文完成的主要工作如下:1.分析了多种推荐算法的研究现状,利用深度学习的优势,构建深度学习模型与协同过滤算法的联系,以解决基于模型的协同过滤算法在评分预测问题中存在的不足。2.本文在DBN模型的基础上提出了相似受限玻尔兹曼机-深度信念网络(Similar RBM-DBN,SRBM-DBN)模型,此模型在原有基础上做了以下改进:首先,此模型的输入数据可直接使用评分数据的实型数值作为输入层单元状态,不需要转换成二值状态,从而使得模型参数变少、训练效率更高、应用范围更广;其次,对模型的基本结构进行扩展,在第一层RBM模型的基础上融合了相似用户层作为提取用户特征的辅助条件,从而缓解了数据稀疏性带来的目标用户特征稀缺的问题,使模型在数据高稀疏性下能表现出不错的预测性能。3.本文提出了一种基于逆用户频率权重的用户特征向量相似度计算方法,通过计算项目贡献权重,以此作为计算相似用户的依据,并将该用户相似度计算方法与改进的SRBM-DBN模型结合起来预测目标用户的缺失评分,从而提高了模型的预测准确率。4.针对深度信念网络难以快速确定最佳网络结构问题,本文提出了一种基于知识迁移的SRBM-DBN模型结构自主构建方法。该方法包含两种操作:扩展网络宽度和扩展网络深度,通过将原始网络中学习到的知识迁移到新的更复杂的网络中,以此加快了复杂网络模型的训练时间。另外,在反向微调过程中,本文采用自上而下的逐层偏最小二乘回归(Partial Least Square Regression,PLSR)方法替代反向传播(Back Propagation,BP)算法,从而提高了模型收敛速度和微调精度。综上所述,本文对深度信念网络的基本结构进行优化,提出融合相似用户层的SRBM-DBN模型,该模型通过基于逆用户频率权重的用户特征向量相似度计算方法计算相似用户,以缓解数据稀疏性带来的特征稀缺的问题,提高了模型提取特征的能力和评分预测的准确率;同时,通过基于知识迁移的SRBM-DBN自主构建方法,以此加快复杂网络模型的训练时间,提高了模型收敛速度和微调精度。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：源码工厂 ，原文地址：https://m.bishedaima.com/lunwen/48976.html
