基于微服务状态感知的边缘计算管控平台研究与实现
这是一篇关于边缘计算,微服务,状态感知,弹性伸缩,请求调度的论文, 主要内容为近年来,随着5G网络的建设和智能终端设备的普及,物联网应用得以迎来蓬勃发展。传统的云计算模式需要将来自终端设备的请求传输至远端云服务器,待任务处理完成后再将结果返回,长距离数据传输所带来的高时延使得云计算模式已经不能满足自动驾驶、智能工业、医用物联网等新兴场景下的应用在响应时延方面的要求。边缘计算技术将云服务能力扩展到靠近用户的网络边缘,可以避免请求数据与计算结果在本地设备与远端服务器之间的长距离传输,从而弥补现有云计算模式在响应时延方面的不足,满足新兴物联网应用对服务性能和资源的同步需求。同时,随着虚拟化技术及容器编排技术的发展,云计算场景下应用的组织形式逐渐由传统的单体架构转向微服务架构,而这种趋势也被延续到了边缘计算场景当中。然而,随着物联网应用由云中心向边缘集群的迁移,怎样结合边缘计算场景与微服务架构的特点对容器化应用的运行和管理进行优化,成为了亟待解决的问题。为了解决上述问题,本文围绕微服务状态的感知及已知状态下微服务的管控,从资源分配、请求调度和集群管理三个角度展开研究。本文的主要贡献包括以下三个方面:一、针对边缘计算场景中的资源分配问题,本文提出了一种基于微服务状态感知的弹性伸缩算法。该算法以微服务实例作为伸缩的主体,在感知微服务状态的前提下,对分配给微服务的计算资源的数量以及这些资源在边缘计算集群上的整体分布进行灵活的调整。首先,对边缘计算场景的特点以及资源分配所面临的问题进行了分析,结合微服务架构下应用的组织形式,构建了基于请求数量的微服务实例弹性伸缩模型。然后,基于LSTM算法,对集群中微服务未来时段产生请求的数量进行预测,并在此基础上提前调整微服务实例的数量,以应对突发的请求数量变化。此外,引入网络空间的概念,根据节点间的网络状况将节点映射到三维空间当中,通过节点的欧式距离来反映节点间的网络开销。最后,根据各个节点产生请求速度的不同,调整微服务实例在集群中的分布,使得请求就近获取到所需的计算资源。仿真结果表明,本文提出基于微服务状态感知的弹性伸缩策略相较于Kubernetes原生的响应式弹性伸缩策略,将超时任务的数量减少了80.98%,同时,使任务的平均完成时延降低了 16.67%。二、针对边缘计算场景中的请求调度问题,本文设计了一种基于微服务状态感知的请求调度算法,在已知资源分布的情况下,对单一时刻下并发产生的任务和处理任务的微服务实例的进行合理的匹配。本文首先对Kubernetes原生的请求调度策略在应用于边缘计算场景时所存在的问题进行了分析,结合微服务架构下任务的执行流程,对边缘计算场景中的请求调度问题进行了建模,并设定了降低任务平均完成时延的优化目标。为求解该问题,本文设计了一种基于微服务状态感知的请求调度算法,结合微服务实例所在节点的网络状况、微服务实例的任务处理能力以及微服务实例在集群中的分布情况等微服务状态信息,基于遗传算法求解请求和实例间的匹配关系,有效地提升了任务的执行效率。同时,本文将该算法与基于微服务状态感知的弹性伸缩算法相结合,使其优化效果得到了进一步提升。仿真结果表明,本文所设计的算法相较于Kubernetes原生的请求调度算法,将任务的平均完成时延降低了 45.25%,在与基于微服务状态感知的弹性伸缩算法相结合时,将这一数值进一步扩大到49.63%。三、针对边缘计算场景中的集群管理问题,本文围绕边缘计算集群中微服务状态的感知和各种资源对象的管控,完成了边缘计算管控系统的整体实现。首先,针对平台使用者对系统状态感知、自动化资源分配及可视化集群管理等功能的需求,本文给出了边缘计算管控系统在软件及硬件上的架构设计。随后,对于实现上述功能所涉及到的集群网络信息感知、集群资源信息感知、微服务实例弹性伸缩及集群可视化管控等模块,本文对它们的实现方式分别进行了具体阐述。其中,针对集群资源的自动化分配,本文结合集群网络信息感知模块及集群资源信息感知模块实时采集到的微服务状态信息,以及第二章节提出的基于微服务状态感知的弹性伸缩算法,对微服务实例弹性伸缩模块进行了具体实现。
基于FPGA的卷积神经网络异构加速器研究与实现
这是一篇关于边缘计算,异构加速器,卷积神经网络,快速卷积算法的论文, 主要内容为随着人工智能的发展和边缘端设备的增加,在边缘端部署人工智能算法的需求也在不断增长。在基于同构架构的处理器的上部署神经网络会受到功耗和带宽的限制,也难以适应多样化的神经网络结构和不同的任务需求。而基于异构架构的处理器,能够以较低功耗进行大量的并行计算,很好的满足了在边缘端设备部署神经网络的条件。因此本文以Xilinx的Zed Board作为异构加速平台,采用Winograd快速卷积算法、参数动态定点量化、并行性展开等策略,设计了一种适合在边缘端部署卷积神经网络的异构加速器。本文的主要研究工作如下:本文首先对卷积神经网络(Convolutional Neural Networks,CNN)及其异构加速器的研究背景、国内外发展现状、CNN基本模型和计算原理进行综述。异构加速器的开发平台和工具方面,本文结合CNN计算特点和异构平台的性能优势,选择HLS(High-Level Synthesis,HLS)高层次开发工具和Zed Board异构开发平台。异构加速器设计方面,本文以Le Net-5模型为目标算法,剖析了神经网络前向传播机制及其内部运算的并行性特点。以典型的加速器架构为例,探索了异构加速器的数据传输流程、软硬件资源分配、高效的并行性优化策略,为后文异构加速器架构的设计和嵌入式系统开发奠定理论基础。其次,本文设计了CNN异构加速器IP(intellectual property,IP)核与片上嵌入式系统两大部分,实现了适合在边缘端设备上高效运行卷积神经网络的异构加速器设计。异构加速器IP的设计思路分别从参数动态定点量化、快速卷积算法、并行性优化策略三方面进行。参数动态定点量化是统计参数的实际分布范围,动态调整数据的量化位宽,保证精度的同时减少存储空间和计算量,提高CNN模型的稳定性和鲁棒性。快速卷积算法可以有效的加快卷积运算、降低系统延迟,本文采用基于Winograd变换的快速卷积算法,大幅减少了卷积计算中的乘法次数,降低了计算复杂度。并行性优化策略是结合CNN的并行计算特点与FPGA的并行计算能力,对卷积、池化、全连接运算进行流水线循环展开、数据流最优化处理、数组分割等优化措施,设计了适合各个模块的并行性优化方案。片上嵌入式系统设计方面,本文借助软件开发工具对CNN加速系统底层驱动进行开发,完成从CNN模型到ZYNQ加速器的完整映射流程,结合异构平台优势对系统进行软硬件资源合理划分,在减少CPU的计算压力和内存占用的同时,缩短卷积神经网络的推理时间。最后,本文以Le Net-5为目标算法,Zed Board为设计平台,使用Minist数据集对系统进行测试,分别从系统精度、资源消耗、推理速度、系统功耗四个方面对加速器进行综合评估。实验表明,本文的异构加速器的设计方案是完全可行的,异构加速器的计算性能达到了5.25GOPS,完成一次模型的前向推理仅需5.14*10-4s,功耗仅为2.6W,加速器的能效比是通用CPU AMD5600g的106倍,板载ARM处理器能效比的188倍。
面向物联网的实体智能搜索与推荐策略研究
这是一篇关于物联网搜索,搜索算法,边缘计算,实体识别,推荐系统的论文, 主要内容为随着物联网的日益成熟,物理世界中实体数量的爆炸增长,物联网搜索技术通过传感器采集并整合物理世界中的实体信息,及时为用户提供所需实体的状态信息。而由于实体的异构性与海量性,导致传感器采集到的信息过于驳杂,用户难以精确地获取实体信息。实体的动态性导致传统的互联网搜索和推荐模式无法满足物联网搜索的实时性要求。并且用户对获取实体信息的实时性要求较高,面向时变性实体的搜索和推荐方法亟待研究。首先,文中介绍了物联网搜索的研究背景和典型的应用场景,描述了物联网搜索技术的特点。其次,简述了国内外的研究现状,着重叙述和分析了物理实体搜索策略以及物理实体推荐策略。之后,文中提出面向物联网搜索的边云协同实体搜索方法。设计了边云协同的实体搜索系统架构,联合云端与边缘侧协同进行实体信息的搜索。提出适用于边缘侧的实体识别方法,考虑实体的特征信息并基于深度聚类模型进行实体的有效识别,提高实体状态信息搜索的实时性与准确性。仿真结果表明,所提搜索方法相比传统方法可有效提升实体搜索的实时性与准确性。再次,文中提出适用于物联网的边云协同实体推荐方法。现有的物联网数据推荐方法忽略了物联网数据和用户搜索行为的特征,因此其推荐性能相对受限。考虑物联网实体状态的时变特征和用户搜索行为的特征,结合边缘计算和云计算的优势,提出了一种边云协同的实体推荐方法。首先,设计了一种基于边云协同的实体推荐系统架构。此外,设计了一种在适用于云端的兴趣团体划分方法,该方法充分考虑了用户的潜在搜索需求,并基于聚类模型对用户兴趣组进行了划分,以提高推荐系统的质量。仿真结果表明,与传统方法相比,该推荐方法可以有效提高实体推荐的实时性和准确性。最后,对全文的工作进行了总结,并简要展望了未来可能的研究方向。
基于Serverless的边缘计算平台设计与实现
这是一篇关于Serverless,边缘计算,计算平台,虚拟化,Dokcer的论文, 主要内容为随着边缘计算从理论走向实践,边缘计算平台也迎来了蓬勃发展。边缘计算平台通过提供一套计算组件,有效的解决了边缘服务的部署、运维与编排问题,为边缘服务提供了一个可靠的执行环境。但目前主流的虚拟机计算平台与容器计算平台需要服务在后台驻守以监听用户请求,占用了大量资源,边缘计算服务也需要大量的人工部署运维,总的来说,当前主流边缘计算平台存在资源利用率低、维护繁杂等问题,而Serverless架构通过按需分配资源,自动扩展计算实例,能有效解决边缘计算节点资源紧张,运维管理困难问题,在边缘计算环境中具有巨大的应用前景。目前主流的Serverless计算平台是为云计算中心设计,而边缘计算环境与云计算环境存在差异,在边缘计算环境中应用Serverless架构会遭遇功能模型导致的时延放大、预热方案造成的资源浪费以及不支持服务迁移等各类问题。因此,为了在边缘计算环境中应用Serverless架构,需要对Serverless计算平台进行针对性的设计。基于当前计算平台的种种瓶颈,与Serverless架构的巨大潜力,本论文提出了服务功能图模型,优化了 Serverless架构在边缘计算环境中的时延与资源利用率,并在服务功能图的基础上进一步支持了服务快照,实现了基于Serverless的计算平台对服务迁移的支持,最终实现对边缘计算环境中功能模型的改良与补充。本论文进一步改进了Serverless的功能预热方案,改变了传统Serverless对功能不加区分预热的模式,将功能分为时延敏感型功能与非时延敏感型功能,针对性的对时延敏感型功能进行预热操作,有效的节省了预热带来的资源损耗。在对Serverless技术进行了针对性的改良的基础上,本论文进一步完成了系统需求分析、设计,并最终实现了一套基于Serverless架构与Docker虚拟化技术的边缘计算平台系统,基本解决了边缘计算环境中Serverless应用的主要问题,满足了边缘计算对计算平台需求。
多网络计算资源融合的边缘预警系统设计与实现
这是一篇关于边缘计算,多网络计算资源融合,微服务,任务调度,物联网的论文, 主要内容为近年来,移动无线网络和物联网技术的快速发展,导致网络连接的设备和传输的数据量得以飞速增长,传统的云计算模型逐渐无法满足日常需要。因此,边缘计算这一新型计算模型逐渐成为热门。作为云计算的补充,边缘计算旨在减轻骨干网压力与降低数据的传输成本。但是,在实际的应用环境中,由于边缘业务通常部署在移动通信基站内或附近,导致不同运营商之间存在计算资源的隔离,这会造成一定的计算资源浪费以及用户计算任务无法得到实时执行。如何能在保证用户体验的情况下,尽可能提升边缘节点计算资源的利用率,成为当前一个急需解决的问题。本文通过提出多网络计算资源的融合,结合已有的边缘计算通用架构,设计多网络计算资源融合方案,将不同运营商网络中的边缘节点进行统一分配,以执行计算任务。物联网技术作为边缘计算一个重要的应用方向,其中的“智慧监狱”在建设过程中,存在外出就医、服刑人员异地监狱调动等外出场景。为了能够更好的面对外出时遇到的突发事件,论文设计与实现了一个边缘预警系统,通过使用一些物联网设备采集服刑人员的实时信息,并对这些信息进行分析,以达到智能化评估服刑人员风险的作用,为执法人员提供预警帮助。该预警系统引入边缘计算模型,大幅度减少数据的传输时延,提高系统的响应速率。同时,考虑到外出任务中地域的随机性,各区域内运营商公网信号质量不一,部署的边缘节点计算能力也不相同,长距离的押解途中仅使用某一运营商的计算服务,可能会出现数据传输质量差以及存在覆盖盲区导致计算资源不足的情况,无法保证服务的全程稳定。因此,系统采用多网络计算资源融合的方式进行设计。再者,人工智能与物联网技术逐步成熟,二者之间相互结合,使得未来系统可能会逐渐增添更多的服务功能。为了日后功能升级与部署的灵活性,论文采用微服务架构的设计思想进行系统的开发。
嵌入式平台上异构资源容器化部署管理研究
这是一篇关于嵌入式,异构资源,容器,边缘计算的论文, 主要内容为物联网、边缘计算对边缘端设备的计算能力提出了越来越高的要求,基于片内AXI总线或片间PCIe总线通信的嵌入式异构多核系统的出现能够较好的满足系统对高计算能力的需求,但现有定制化的设备接入和管理方法系统开销大、灵活性差;同时,目前的部署策略大多以提高系统服务质量为目标,忽略了嵌入式平台计算资源有限、计算节点异构的特性,导致系统资源利用率低、限制了系统性能的提升。针对以上问题,本文利用设备插件框架和微服务软件开发模型,对嵌入式异构资源的注册管理以及应用服务放置进行了优化研究。具体工作如下:(1)针对边缘端嵌入式平台上异构资源的注册和管理问题,分别设计实现了基于片内AXI总线及片间PCIe总线通信的硬件资源轻量化设备插件。设备插件基于Kubernetes插件框架进行优化,并以客户端/服务器的方式在集群环境中通信:在资源注册阶段,设备插件作为客户端与集群建立通信连接,并发送插件注册请求;在资源管理阶段,设备插件作为服务端接收用户请求,向用户分配特定资源。此外,为说明容器化的设备插件环境对嵌入式平台性能的影响,本文在不同条件下对嵌入式平台进行性能测试。结果表明在容器化环境中:CPU和内存读写性能仅下降1%;在特定条件下的网络吞吐率下降不超过2%。(2)针对异构计算系统给服务放置带来的挑战,提出了一种基于异构资源请求倾向的服务放置策略。首先,将应用以微服务的方式进行划分,并使用有向无环图描述服务间的通信流程;其次,根据服务所请求的资源大小和计算节点包含的总资源大小的比值,确定不同资源的请求倾向;接着将上述比例归一化处理后得到资源对应的请求倾向权值;最后依据上述权值,采用加权求和的方式计算系统异构资源利用率。通过在不同的应用程序数量、网络层数以及路由节点数量等情况下分别进行对比,实验结果表明与基于服务请求率的策略相比,本文提出的策略将系统异构资源利用率提升了近10%,网络带宽占用下降了近25%。本文的研究一方面丰富了现有容器编排环境支持的硬件资源,为嵌入式资源的注册和管理问题提供了一种可行的解决方案;另一方面,在一定程度上为异构计算系统中的服务放置问题提供了一种新的解决思路。本文的研究为今后在嵌入式平台上以容器化方式部署管理软硬件资源提供了参考依据,是容器技术在嵌入式环境中应用的有益探索。
基于边云框架的物联网平台设计与实现
这是一篇关于物联网,云计算,边缘计算,高可用的论文, 主要内容为随着物联网技术的发展,物联网设备数量正在快速增长,数量庞大的物联网设备需要和其他设备或者应用程序进行通信。物联网平台作为通信双方的中间人,正受到企业和高校的广泛关注。但是现有的物联网平台通常是基于云计算架构。这种架构存在实时性低、资源开销大和隐私保护问题的缺陷,限制了物联网技术的推广和发展。针对上述问题,本文开发了一套基于边云框架的通用的物联网平台。基于B/S架构、使用MySQL数据库、采用Spring Boot,JPA框架,完成了数据传输、规则引擎、计算和管理模块的设计与实现。其中管理模块包括:可视化工具管理、设备管理、仪表盘管理、用户管理和操作日志管理。通过EdgeX Foundry和Spark技术,实现了边云结合的计算框架,解决了物联网系统资源开销大和实时性低的问题。通过定义基于JSON的数据交换格式和支持MQTT、CoAP、HTTP多协议接入的方式,解决了异构设备接入和通信的问题。通过ZooKeeper和一致性哈希技术,设计和实现了集群模式,完成了服务器节点的动态扩展和故障节点的自动切换功能,保证系统高可用性。在规则引擎模块中,设计并实现了六个大类的多种规则节点。定义了消息和规则链作为规则引擎的输入。同时提供配置规则节点和修改节点间的连接关系的接口来修改规则链。实现用户自定义数据处理流程,提高系统的通用性。经过测试和实际的案例使用,达到了平台的设计需求。平台操作简洁,能有效提高物联网应用开发者的开发效率,具有一定的应用价值。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：源码码头 ，原文地址：https://m.bishedaima.com/lunwen/46348.html
