基于稀疏张量分解的多种差分隐私保护策略研究
这是一篇关于张量分解,网络流量恢复,差分隐私,多模态融合,推荐系统的论文, 主要内容为目前已经进入了 5G物联网时代,5G网络拥有容量大、传输速度快等特点,因而成千上万的设备(包括手机、电脑、手表、AR/VR眼镜等)通过物联网进行连接,并通过短视频等快销娱乐形式在网络中进行快速传播。庞大的用户数量和复杂的物联网服务系统也因此产生了高阶、高维和稀疏的张量(High-Order,High-Dimension,and Sparse Tensor,HOHDST)数据,该数据包含了用户的隐私信息。HOHDST通常采用稀疏张量分解(Sparse Tensor Factorization,STF)技术来发现规则、获取完整数据,并进行实时准确分析。于是为了解决网络连接过程中的隐私保护问题,本文分别对网络连接涉及的底层基础流量数据和应用业务层数据展开了研究。本文提出了一种用于网络流量恢复的基于STF的多策略差分隐私框架(Multiple-strategies Differential Privacy framework on STF,MDPSTF),联合考虑底层数据恢复和隐私安全问题,用于底层基础流量的数据恢复和隐私保护。该框架包括三种隐私机制:ε-差分隐私、中心化差分隐私和本地化差分隐私,分别应对第三方服务器可信、不可信以及本地客户端可信的应用场景。最后给出了各机制隐私界限的理论证明。本文在两个真实的网络流量数据集Abilene和GEANT上进行了实验。实验结果表明,MDPSTF能满足不同程度的隐私保护要求,并且对HOHDST具有较高的恢复精度。本文提出了一种基于STF和差分隐私的多模态短视频推荐系统(Multi-modal Micro-video Recommendation System based on STF and Differential Privacy,MRTFDP),考虑应用业务层数据的安全问题,用于短视频的推荐和用户兴趣点隐私保护。关注当前热门的短视频应用,因为短视频本身具有多模态特征,又包含着个人属性和兴趣点等信息,所以短视频推荐需要在推荐分析过程中对用户的隐私信息进行保护。MRTFDP由双线性Tucker融合、差分隐私和神经协同过滤三部分组成,同时给出了差分隐私的理论证明。通过在公开可用数据集Movielens和Tiktok上的大量实验表明,本文提出的MRTFDP模型对短视频数据集具有较高的推荐精度,并且能实现对用户隐私信息的保护。综上所述,网络连接涉及到的数据内容均与使用者的隐私息息相关,为了保障使用者隐私安全,需要密切关注该类数据中包含的隐私信息并给予保护。人们日益增长的美好生活需要依赖于新时代网络的发展,但与此同时也要兼顾网络连接和隐私保护的全面发展要求。
基于企业互联网营销平台的用户情绪监测模型构建与应用
这是一篇关于多源异构,情绪监测,多模态融合,多头注意力,智能推荐的论文, 主要内容为随着互联网技术的不断发展和普及,“互联网+”创新模式已成为传统企业进行数字化转型和产业升级的必然趋势。在此背景下,浙江省某大型企业利用大数据、人工智能和云计算等先进技术搭建了“互联网+营销”的智能信息一体化平台。该平台整合了多平台媒体矩阵,拥有大量用户对企业营销活动所发表的观点和评价,以及直播营销活动中产生的时序性弹幕数据。如何处理并利用这些多源异构数据捕获用户需求和感知市场变化,从而更加精准化,智能化地进行业务决策和创新,实现营销效果最大化是企业重点关注的问题。为此本文在该互联网营销平台TB级用户评论数据支撑下,提出了基于改进有用性主题和谱聚类融合的代表性评论提取算法、融合多特征的弹幕数据情绪监测网络模型、融合主题特征的多模态决策多样性情绪监测模型和基于用户情绪与知识图谱的个性化推荐算法,实现从有用性主题提取到情感分类再到个性化推荐整个智能推荐过程。最后结合该互联网营销平台构建了基于时序性用户情绪监测图、“区域-用户”情绪监测图和“主题-用户”情绪监测图的智能化推荐模块,为企业智能化精准营销提供支持。本文主要从直播营销场景和多平台媒体营销场景进行研究,具体内容总结如下:(1)针对多源异构数据冗余度高和传统主题特征提取未考虑文本内容有用性等问题,提出了一种基于改进有用性主题和谱聚类融合的代表性评论提取算法。首先,在传统LDA模型基础上,将点赞、转发、收藏、受评数等作为文本内容的有用性权重改变其词-主题分布统计方式,并给出了相应推导公式,证明了该有用性权重能将有用性词-主题凸显出来。然后,利用改进模型抽取出有用性信息的主题分布,再利用皮尔森系数构建相似矩阵,最后,用谱聚类实现有用性评论聚类,进一步降低冗余,并提取簇中心附近评论作为代表性评论。以该互联网营销平台数据为对象进行验证,结果表明,该模型相较于其他模型能很好解决数据冗余问题且评论主题更具有代表性。(2)针对直播营销场景中忽略弹幕数据的时序性、多义性和稀疏性从而导致情感特征提取不准确不充分问题,提出了一种融合多特征的弹幕数据情绪监测模型。首先,针对弹幕数据多义性问题,构建了“Emoticon-Word”词典(多义性表情符号词典)以及相关弹幕语料库;然后,针对弹幕数据稀疏性问题,将弹幕数据基本属性(文字颜色、字体、点赞数等)与文本拼接输入ALBERT中作特征提取,同时,与辅助模块Glo Ve模型预训练的表情符号经过自注意力模块融合。其次,为加强弹幕属性的时序性,用Bi GRU模块从前向和后向捕获信息,加强语义依赖。最后用Softmax逻辑回归进行情感倾向性分类,构建情绪监测图。以某互联网营销平台163253条弹幕数据为对象对模型进行性能验证,结果表明,该模型准确率达88.8%,精确率达88.7%,召回率达88.9%,1F值达88.8%,相较于其他模型均有一定提升。该模型可为企业在营销活动中实现用户情绪监测以及智能化精准营销提供支持。(3)针对整合多平台媒体场景中特征稀疏,多模态融合效果不佳,多模态情感特征提取不充分问题,提出了一种融合主题特征的多模态决策多样性情绪监测模型。首先,采用预训练ALBERT模型提取文本词向量特征表示,采用预训练后的Res Net-18提取图像特征表示。然后,为避免文本特征过于稀疏,将提取的词向量特征与Help-LDA提取的主题特征进行多阶段融合。其次,采用多头注意力捕获图文相关性,将融合后的联合特征与已提取的图像特征进行再次融合。同时,为体现各自模态特征,采用决策融合将联合特征和各模态独立特征进行整合,其中,添加余弦相似性惩罚,提高模型泛化能力。最后用Softmax逻辑回归进行情感倾向性分类,构建“区域-用户”情绪监测图以及“主题-用户”情绪监测图。以某互联网营销平台图文数据为对象对模型进行性能验证,结果表明,该模型的图文情感识别效果相较于其他模型均有一定提升。(4)针对现有推荐算法未考虑用户情绪指标从而导致营销活动中产品推荐不准确问题,提出了一种融合用户情绪与知识图谱的个性化推荐算法。首先,基于企业数据库构建企业产品知识图谱和用户画像。然后,抽取出企业产品的实体属性特征和用户需求特征,分别用余弦相似系数构建相关相似度矩阵,并采用加权几何平均得到需求匹配相似度矩阵。其次,考虑不同时间和区域内用户的情绪波动,将时序性用户情绪、主题用户情绪、区域用户情绪等多种情绪指标进行加权求和平均,构建情绪度量矩阵。结合情绪度量矩阵与匹配相似度矩阵构建目标函数,计算可推荐性服务得分列表。在推荐过程中,根据用户情绪指标和推荐结果的匹配程度,为用户呈现最符合需求的产品和活动,并提供详细的信息和推荐理由。最后,结合该互联网营销平台构建了融合用户情绪监测的智能推荐模块,将本文所提出的算法模型进行应用,并给出了相应模块设计流程以及对各模块进行可视化展示。
基于知识图谱的视觉语义理解与问答研究
这是一篇关于图像特征,文本特征,多模态融合,知识图谱,知识更新的论文, 主要内容为视觉语义理解和问答任务是一项多模态任务,它要求模型能够深入分析输入的图像信息和文本信息,并以此为基础回答对应信息。在视觉语义理解和问答模型中主要需要三个相关技术:图像特征提取、文本特征提取和多模态特征融合。当今,视觉语义理解和问答任务面临着诸多挑战,其中最主要的挑战是如何有效地处理视觉图像特征、自然语言文本特征,从而获得具有深层语义信息的融合特征。为了达到这一目标,模型必须能够提取出图像中的物体属性或物体之间的关联,分析出问题中所包含的实体属性和关系。然而在许多情况下,仅在图像和文本融合特征的基础上进行简单推理难以得到正确的答案,引入外部知识可以辅助视觉语义理解和问答模型进行有效地推理。但是,由于这些模型往往只能够满足端到端的训练,所以它们的可扩展性和可操作性往往不够高。另外,由于模型大多是端对端训练,扩展性较差,因此,在实际应用中,还需要采用更加灵活的方法来提升模型的可扩展性和可操作性。本文基于知识图谱从图像文本特征增强,引入外部知识,模块化调用三个方面进行研究,取得了一定进展:(1)提出了一种基于知识图增强特征的视觉语义理解和问答模型FVQA。此模型通过全局语义池增强图像特征的高级语义信息,借助知识图谱和图像注意力强化图像特征的语义关联;通过预训练好的知识图谱嵌入编码增强文本特征中的高级语义;使用多模态注意力机制辅助多源特征融合。本文通过实验证明了通过知识图谱增强图像或者文本中的高级语义信息有助于视觉语义理解和问答任务的完成。(2)提出了一种基于知识图谱知识更新的视觉语义理解与问答模型KVQA。本文借助外部知识库对我们构建的多模态知识图谱进行知识更新,可以搭建高效准确的语义网,给予模型类似人脑推理判断的能力。另外此模型采用通用检测模块检测出图片中的对应类别,根据目标关联判别模块选择高效精准的专用模块进行进一步处理。通用模块可以稳定使用,训练对应的专用问答模块和知识更新就可完成不同的视觉语义理解和问答任务,增加了模型的扩展性。(3)对于KVQA在回答推理问题的较好效果,本文提出对视觉语义理解与问答任务中的问题进行分类,采用不同的方法路线对不同类型问题进行处理,提出借助知识图谱辅助的SKQA模型。不仅仅提高了视觉语义理解和问答的准确率,计算效率也进一步提升了。
基于多模态情感融合的个性化推荐算法研究
这是一篇关于多模态融合,情感计算,个性化推荐的论文, 主要内容为推荐算法在近些年得到了广泛的应用,但缺乏用户个性化因素,尤其是用户的情感因素在推荐算法中涉及较少,本文在推荐算法基础上加入了用户的情感因子来提高推荐的准确度,情感计算在近些年得到了快速的发展,因为用户的情感差异,在对情感的感知和理解上存在特定的个体差异,确定用户的情感倾向,来满足用户的需求,从而为特定的用户提供相关的个性化信息,同时情感值的获取是从多种模态中计算而来,包括文本情感计算和图像的情感计算。因此,本文提出了一种基于多模态的个性化推荐算法,以电影的个性化推荐系统为例详细探讨了本文提出的算法。本文首先提出了一种PSO自适应权重的多模态特征融合算法,采用结合注意力的Bi-GRU提取文本情感特征,采用结合注意力的卷积神经网络提取图像情感特征,再研究共享语义层,最后,当进行特征层信息融合的时候,引入PSO优化的思想,将多模态的情感特征做加权融合,经过粒子群优化加权融合的特征向量作为整体的情感向量。考虑了内容发布时间因素及平均情感倾向来计算加权融合的显隐式情感相似度,将情感向量经过本文提出的显隐式情感计算公式进行相似度计算,接下来研究了基于情感预测的个性化推荐,按相似度从大到小依次输出top-n的推荐列表。根据本文提出的算法设计了电影个性化推荐系统,提出的基于情感的电影推荐系统的总体架构共有三个步骤处理推荐任务:电影情感识别,用户情感识别和个性化推荐。在电影情感识别中,提取标题、简介、评论的文本情感特征,提取电影海报图像情感特征,最后,经过粒子群优化加权融合的共享语义层向量、文本和图像情感特征向量作为电影情感向量。在用户情感识别中,从微博的文本提取文本情感特征,从微博的图片提取图像情感特征,同样经过粒子群优化加权融合后的特征向量作为用户的情感向量。在个性化推荐中,考虑了用户微博内容发布时间因素及用户平均情感倾向来计算加权融合的显隐式情感相似度,将电影和用户的情感向量经过本文提出的公式进行相似度计算,按相似度从大到小依次输出电影推荐列表。结果证明,自适应加权融合特征算法的准确率要高于级联融合特征算法,可见,引入PSO算法自适应优化特征融合权重的方法,有效提高了融合特征的准确性和鲁棒性;关于本文提出的模型以及相关基准测试方法在数据集上的个性化推荐效果,本文中实现的多模态的个性化推荐模型的有效性优于对比实验。根据相似度的计算添加了显性和隐性的情感因素,个性化推荐的效果进一步增强。因此,本文中的方法优于原始方法。综上,本文提出的个性化推荐算法对电影中的推荐是有效和实用的。成功运用了维度情感模型以实现计算电影和用户的情感相似度,本文提出的多模态情感识别模型用于基于情感的个性化电影推荐是以前个性化电影推荐工作中鲜少存在的一次的创新性尝试,且本文的个性化推荐算法,在推荐准确率和召回率方面的性能都有较好的表现。
基于多模态情感融合的个性化推荐算法研究
这是一篇关于多模态融合,情感计算,个性化推荐的论文, 主要内容为推荐算法在近些年得到了广泛的应用,但缺乏用户个性化因素,尤其是用户的情感因素在推荐算法中涉及较少,本文在推荐算法基础上加入了用户的情感因子来提高推荐的准确度,情感计算在近些年得到了快速的发展,因为用户的情感差异,在对情感的感知和理解上存在特定的个体差异,确定用户的情感倾向,来满足用户的需求,从而为特定的用户提供相关的个性化信息,同时情感值的获取是从多种模态中计算而来,包括文本情感计算和图像的情感计算。因此,本文提出了一种基于多模态的个性化推荐算法,以电影的个性化推荐系统为例详细探讨了本文提出的算法。本文首先提出了一种PSO自适应权重的多模态特征融合算法,采用结合注意力的Bi-GRU提取文本情感特征,采用结合注意力的卷积神经网络提取图像情感特征,再研究共享语义层,最后,当进行特征层信息融合的时候,引入PSO优化的思想,将多模态的情感特征做加权融合,经过粒子群优化加权融合的特征向量作为整体的情感向量。考虑了内容发布时间因素及平均情感倾向来计算加权融合的显隐式情感相似度,将情感向量经过本文提出的显隐式情感计算公式进行相似度计算,接下来研究了基于情感预测的个性化推荐,按相似度从大到小依次输出top-n的推荐列表。根据本文提出的算法设计了电影个性化推荐系统,提出的基于情感的电影推荐系统的总体架构共有三个步骤处理推荐任务:电影情感识别,用户情感识别和个性化推荐。在电影情感识别中,提取标题、简介、评论的文本情感特征,提取电影海报图像情感特征,最后,经过粒子群优化加权融合的共享语义层向量、文本和图像情感特征向量作为电影情感向量。在用户情感识别中,从微博的文本提取文本情感特征,从微博的图片提取图像情感特征,同样经过粒子群优化加权融合后的特征向量作为用户的情感向量。在个性化推荐中,考虑了用户微博内容发布时间因素及用户平均情感倾向来计算加权融合的显隐式情感相似度,将电影和用户的情感向量经过本文提出的公式进行相似度计算,按相似度从大到小依次输出电影推荐列表。结果证明,自适应加权融合特征算法的准确率要高于级联融合特征算法,可见,引入PSO算法自适应优化特征融合权重的方法,有效提高了融合特征的准确性和鲁棒性;关于本文提出的模型以及相关基准测试方法在数据集上的个性化推荐效果,本文中实现的多模态的个性化推荐模型的有效性优于对比实验。根据相似度的计算添加了显性和隐性的情感因素,个性化推荐的效果进一步增强。因此,本文中的方法优于原始方法。综上,本文提出的个性化推荐算法对电影中的推荐是有效和实用的。成功运用了维度情感模型以实现计算电影和用户的情感相似度,本文提出的多模态情感识别模型用于基于情感的个性化电影推荐是以前个性化电影推荐工作中鲜少存在的一次的创新性尝试,且本文的个性化推荐算法,在推荐准确率和召回率方面的性能都有较好的表现。
基于知识图谱的个性化推荐方法研究
这是一篇关于推荐系统,知识图谱,用户偏好,知识感知路径,多模态融合的论文, 主要内容为在大数据时代,各个平台都想利用数据信息基于推荐系统计算并更好的展示结果以获取收益。因此,如何更深的挖掘用户偏好已成为当下的研究热点。如今更多的算法模型层出不穷,研究表明,将辅助数据引入推荐系统是很必要的。近年来,由于知识图谱辅助数据全面,因此受到越来越多的关注。它通常以三元组的形式表示实体和实体间的关系语义信息,可以准确的表达用户与项交互的语义信息。通过探索在知识图谱中的内在联系,用户和项目之间的连接性反映了它们的底层关系,这些关系信息赋予推荐系统的推理和解释的能力。将多模态数据特征融合引入推荐系统中,能更好的挖掘用户的偏好。针对上述问题,本文主要研究如何对用户进行个性化推荐。相关主要研究内容概括如下:(1)设计了一种探索用户偏好传播的方法。该方法主要是利用知识图谱中的三元组清晰地展示了多步骤的相互关系,该关系是用户-项对的一条或多条路径。本文通过探索这些推理路径,实现了全面推理并分析了推荐的结果。在知识图谱中,将用户到项的路径正式定义为实体和关系的序列。给定嵌入项和用户的首选项集合,在首选项集合中的每个三元组通过项与三元组的头实体和关系的比较分配一个关联概率。关联概率可以看作是在关系空间中所测得的项目与实体的相似性。得到关联概率后,取尾部的和,用对于的关联概率进行加权可以得到向量值,该向量值被看作第一反馈,最后通过公式计算评估分。即得到用户首选项。(2)设计了一种知识感知路径可解释性推荐方法。知识感知路径模型包括三层:嵌入层、LSTM层和池化层。用户首选项的用户-项对路径作为嵌入层输入,得到嵌入数据集;然后将嵌入数据集输入到LSTM层中,在该层模型中对数据进行编码、训练,并进行有效的推理,得到各个路径的预测分;由于预测分没有具体说明每个路径的重要性,本文设计了一个池化层加入池化操作聚合所有路径的分数,使用梯度来表示重要性,并选出分最高的路径作为可解释性的路径进行推荐。在电影和书籍两个数据集的top@K和pn@K结果在K=4时,比最好的基线模型分别高15%,20%和10%,20%,AUC结果比起最好的基线分别提高了3.5%、6.8%,ACC提高了4.5%、5.0%。(3)设计了多模态特征交互深度融合推荐方法。该方法首先将多模态的特征数据用不同的方法进行处理,将标题数据转换为序列特征;视频和音频使用PCA降维,输入到两个不同的DNN层中,然后结合原始特征数据输入到深度融合模型中,并训练该模型。深度融合模型是基于x Deep FM模型,融合多种方法进行加权,最后预测得到最终的结果。该方法不仅能将隐式和显式的多模态特征进行高阶特征学习,将特征交互转换为可训练的向量值,还具备广度与可记忆学习特性,并且可以进行多任务训练。经过数据集验证,模型的Score为0.79363,比最好的基线模型高0.02。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：毕设向导 ，原文地址：https://m.bishedaima.com/lunwen/46888.html
