基于毫米波雷达的身体微动信息的提取技术研究

这是一篇关于毫米波雷达,微动特征,深度迁移学习,残差网络的论文, 主要内容为随着时代的进步,中国的老龄人口众多,对于居家老人或病人的日常监护问题日益受到重视。毫米波雷达相比于摄像头等检测设备,能够很好的保障隐私。同时毫米波雷达成本较低,且不受雨、雾等天气影响,因此应用越来越广泛。本文具体工作如下:(1)在雷达人体建模方面,首先基于Boulic模型对人体进行简化得到行人行走模型,构建相应的行走雷达回波数据。并通过Matlab平台进行调频连续波雷达仿真,得到行走模型对应的微多普勒特征图像。接着,根据卡耐基梅隆大学的动作捕捉数据库,对几种动作进行模型构建,并通过仿真得到相应的微多普勒特征图像,最后使用人工神经网络对三种典型动作进行分类。(2)在实测雷达数据提取方面,采用AWR1642+DCA1000进行人体运动的实际采集。根据实测雷达回波构建人体数学模型。同时设计了一种基于实测数据的微动信息提取系统,应用二维快速傅里叶算法(2D-FFT)得到目标运动过程中对应的距离-多普勒信息,接着使用MTI滤波和短时傅里叶变换(STFT)方法,得到目标运动时的时间-频率信息,即微动信息。(3)基于毫米波雷达的实测数据构建了身体动作数据集。选取八种居家老人或病人的日常动作,包括行走、坐下、站起、捡东西、喝水、弯腰,跌倒、跌倒后挥手求救。采用2D-FFT+MTI+STFT方法得到每种动作对应的微多普勒特征图像,并构建数据集,除行走为630张图片,其余每种动作600张图片,微多普勒图像数据集总数达到4830张图片。(4)采用深度迁移学习算法对数据集进行识别和分类的处理。首先介绍了典型的卷积神经网络,对典型的激活函数进行仿真得到相应图像。接着,对格拉斯哥大学公开的雷达动作数据集使用Res Net18算法进行分类,得到的准确率达到87.93%。最后采用迁移学习的方法分别使用VGG16、Res Net18、Res Net50和Res Net101对八种实测雷达动作数据集进行训练及分类,并将未预训练的四种网络与预训练后的四种网络的结果进行对比,得到结论,经预训练后的网络相比未经预训练的网络收敛快、准确率高,四种网络分类准确率最高可达99.79%。

基于毫米波雷达的身体微动信息的提取技术研究

这是一篇关于毫米波雷达,微动特征,深度迁移学习,残差网络的论文, 主要内容为随着时代的进步,中国的老龄人口众多,对于居家老人或病人的日常监护问题日益受到重视。毫米波雷达相比于摄像头等检测设备,能够很好的保障隐私。同时毫米波雷达成本较低,且不受雨、雾等天气影响,因此应用越来越广泛。本文具体工作如下:(1)在雷达人体建模方面,首先基于Boulic模型对人体进行简化得到行人行走模型,构建相应的行走雷达回波数据。并通过Matlab平台进行调频连续波雷达仿真,得到行走模型对应的微多普勒特征图像。接着,根据卡耐基梅隆大学的动作捕捉数据库,对几种动作进行模型构建,并通过仿真得到相应的微多普勒特征图像,最后使用人工神经网络对三种典型动作进行分类。(2)在实测雷达数据提取方面,采用AWR1642+DCA1000进行人体运动的实际采集。根据实测雷达回波构建人体数学模型。同时设计了一种基于实测数据的微动信息提取系统,应用二维快速傅里叶算法(2D-FFT)得到目标运动过程中对应的距离-多普勒信息,接着使用MTI滤波和短时傅里叶变换(STFT)方法,得到目标运动时的时间-频率信息,即微动信息。(3)基于毫米波雷达的实测数据构建了身体动作数据集。选取八种居家老人或病人的日常动作,包括行走、坐下、站起、捡东西、喝水、弯腰,跌倒、跌倒后挥手求救。采用2D-FFT+MTI+STFT方法得到每种动作对应的微多普勒特征图像,并构建数据集,除行走为630张图片,其余每种动作600张图片,微多普勒图像数据集总数达到4830张图片。(4)采用深度迁移学习算法对数据集进行识别和分类的处理。首先介绍了典型的卷积神经网络,对典型的激活函数进行仿真得到相应图像。接着,对格拉斯哥大学公开的雷达动作数据集使用Res Net18算法进行分类,得到的准确率达到87.93%。最后采用迁移学习的方法分别使用VGG16、Res Net18、Res Net50和Res Net101对八种实测雷达动作数据集进行训练及分类,并将未预训练的四种网络与预训练后的四种网络的结果进行对比,得到结论,经预训练后的网络相比未经预训练的网络收敛快、准确率高,四种网络分类准确率最高可达99.79%。

基于深度迁移学习的实体关系抽取方法

这是一篇关于实体关系抽取,深度迁移学习,预训练模型,度量元学习,少样本学习的论文, 主要内容为随着互联网的高速发展,人类可获取的信息量呈指数级增长,如何从海量数据中挖掘有效的信息成为亟待解决的问题。信息抽取研究正是在这种情况下产生的,其目标是将自然文本中的无结构化信息进行结构化处理,以统一的形式存储,并对获取的知识进行关联融合。实体关系抽取是其中重要组成部分之一,其通过理解文本语义,抽取文本中实体之间的现实关系,形成<实体-关系-实体>三元组作为知识图谱的最基本组件。因此,实体关系抽取技术的精度与适用性直接影响了知识图谱的准确性与体量,对构建大规模知识图谱至关重要。深度学习模型促进了实体关系抽取技术的发展,但仍面临着文本数据内容分散、实体关系类别繁杂、标注工作难度大等问题。目前,常规的实体关系抽取任务主要通过远程监督(Distant Supervision)机制自动生成大量有标注数据,并利用深度神经网络模型进行端到端的实体关系分类,但是深受噪声和误标注等问题影响,导致模型训练过程中的参数更新受到错误信息影响,抽取精度降低;在生物、医疗等专业领域存在少样本学习(Few-shot Learning)场景,通常难以自动生成数据,只能利用极少量甚至个位数的实例样本,常规的深度学习模型在少样本情况下难以学习由文本到分类的多层映射,损失函数不能收敛,导致预测结果倾向于随机,无法有效应用。为了解决上述难点,本文将深度迁移学习(Deep Transfer Learning)技术引入实体关系抽取领域,依托深度神经网络模型强大的特征提取与拟合能力,并使用迁移学习方法,将在语义信息充足的任务中得到的外部知识应用到目标任务中协助学习,提升实体关系抽取模型的性能。首先,本文针对远程监督机制下的噪声场景,提出了一种基于BERT预训练模型的实体关系抽取模型(BERT for Relation Extraction,BRE),在外部语料中进行预训练,并将模型参数迁移到远程监督实体关系数据集中进行微调(Finetune)。本文提出的BRE模型构建了位置增强卷积层,以增强处理实体位置信息,将外部语料的绝对位置信息迁移到关于实体的相对位置信息中,使外部知识可以融入实体关系的判断,同时减弱噪声对真实关系属性的干扰。此外,本文还设计了时间衰减注意力机制用于多实例学习模式的降噪处理,在模型迭代的过程中按时间衰减而遮蔽低置信的实例,保留高置信的实例加权获取表示向量,以缓解误标注实例对模型参数更新的影响,提升模型的精度。BRE在NYT-10和GIDS等公开数据集中进行评估,验证了其优越性能。然后,针对少样本实体关系抽取任务中数据极度稀缺导致的模型无法收敛的问题,本文提出了基于度量元学习(Metric-based Meta Learning)的少样本实体关系抽取方法,该方法延伸了知识迁移的思想,将模型参数知识的迁移拓展为类别知识的迁移,即维护一个度量空间,设计元任务从具有足量数据的类别中学习文本实例与关系类别在空间中的匹配关系,并将通用的类别知识迁移到少样本的关系类别中。本文设计了以深度神经网络为基本框架,使用度量元学习方法训练的少样本实体关系抽取模型,称为多通路注意力网络(Multi-Channel Attention Network,MCAN)。MCAN 框架采用 多通路并行处理的方式保留更全面的信息,并引入了双目标辅助损失函数协助训练,使关系类别在度量空间中的划分更加清晰。MCAN框架在NYT-10和FewRel等公开数据集中验证了其优越性能及稳定性。

基于深度迁移学习的心电辅助诊断系统的设计与实现

这是一篇关于心电信号,深度迁移学习,领域自适应,多核最大均值差异,辅助诊断的论文, 主要内容为近年来,心血管疾病已经成为威胁人类生命安全的主要疾病之一,对心血管疾病的及时检测是迫切且十分必要的。心电信号自动分析技术能够减少医生工作量,提高诊断效率,具有非常重要的研究价值。传统的特征提取分类方法需要依赖各种算法手动选择并提取特征,个体差异导致提取的特征存在不确定性,从而影响分类的准确性。深度学习需要大量的标注数据作为训练集,存在数据依赖现象。针对以上问题,本文结合深度学习和迁移学习,利用数据之间隐含的共同特征,提出了一种新的领域自适应心电信号分类算法,实现对心血管疾病的自动识别和诊断。最后,设计并实现了心电辅助诊断系统,辅助医生诊断心血管疾病。本文主要研究工作总结如下:1)构建基于领域自适应的的心电信号分类网络(BiLSTM-MKMMD-NET)模型。首先,利用双向长短期记忆网络(Bi-Directional Long-Short Term Memory,BiLSTM)自主学习心电信号的时序特征,建立预训练模型,预训练模型的分类准确率达到99.26%。针对心电标注数据不足,模型无法获得足够多的训练数据以及源域和目标域数据分布差异的问题。本文在预训练模型上添加适配层,将已有标注的源域心电数据知识迁移到未标注的目标域心电数据;通过选择多核最大均值差异(Multi-kernel Maximum Mean Discrepancy,MKMMD),使源域和目标域的特征映射到高维空间,最小化源域和目标域之间的分布距离,提升在目标域上的分类效果。最后,在不同领域数据集进行多组迁移对比实验,验证本文提出的域适应模型的有效性。2)心电辅助诊断系统的设计与实现。系统主要由系统管理、数据收发、数据统计管理和智能诊断处理四部分构成。系统使用Qt Designer工具完成界面的设计,结合SQLite构建了系统用户和心电数据库,使用WebService技术访问服务器完成数据的收发操作,使用PyQt技术完成业务逻辑操作,包括心电图的绘制和显示、用户系统交互、生成诊断报告等功能。系统通过集成本文提出的BiLSTM-MKMMD-NET模型,完成对心电数据的智能辅助诊断处理。最后,进行系统测试,证明了系统心电辅助诊断功能的有效性。

基于深度迁移学习的钢球表面缺陷检测研究

这是一篇关于深度迁移学习,钢球表面缺陷,缺陷检测,缺陷分割的论文, 主要内容为钢球是轴承的关键部件,其质量的优劣对轴承性能有很大影响,其中钢球表面缺陷程度会对轴承的精度、使用性能、可靠性及使用寿命造成直接影响。根据统计结果可知,59%的轴承失效是由于钢球表面缺陷造成的。因此,在生产过程中,如何有效提高钢球表面缺陷的检测能力,是钢球成品质量的重要保障。为了满足实际企业提高钢球表面缺陷检测的精度,本课题开展了基于深度迁移学习的钢球表面缺陷检测研究,为开发高精度、低成本、高自动化水平的钢球表面缺陷检测系统及高质量的轴承加工提供一种新方法。本文重点研究了钢球表面缺陷采集系统、钢球表面缺陷目标检测方法、钢球表面缺陷分割方法及钢球表面缺陷检测系统的设计与实现等四个方面,主要工作如下:(1)钢球表面缺陷采集系统设计。本文分析了钢球表面缺陷采集系统的基本需求和缺陷类型,制定了缺陷采集系统的方案,搭建了基于机器视觉的钢球表面缺陷采集硬件系统,完成了关键部件的优选,设计了照明方案及分选装置。该系统能够完成钢球表面图像连续采集,并获得高质量图像,为后续检测提供了数据支撑。(2)钢球表面缺陷目标检测方法。针对现存目标检测方法在提高方法性能时需要额外增加计算开销的问题,本文提出了一种基于压缩-激励模块与YOLOv4的钢球表面缺陷目标检测方法。该方法以YOLOv4作为基础网络结构,结合压缩-激励模块,对提取的特征进行通道间相关性建模,对通道之间的特征信息加强传递,该模块能够实现对全局信息的学习,以此确定对计算有效的特征,并且排除无用特征,同时强化有效特征的提取和使用。该方法基于深度迁移学习的方式进行训练,设计了多组对比试验,根据实验结果可知,所提方法准确率可达到96.33%,检测速度达到24.47FPS,性能高于主流目标检测方法。(3)钢球表面缺陷分割方法。针对卷积神经网络在特征传递过程中无法保障特征的平移不变性的问题,本文提出了一种基于平移不变性与U-Net的钢球表面缺陷语义分割方法。该方法以U-Net作为基础网络结构,结合平移不变性,提出了抗锯齿层替换原网络中的最大池化层。通过将低通滤波插入到模糊采样与最大池化之间,提出了一种新的抗锯齿的方法解决输入的变化不会影响输出结果。通过在方法的编码与解码之间,采用特征金字塔网络对尺寸较小的目标进行特征提取,减少小目标在下采样的过程中数据特征信息的损失。该方法基于深度迁移学习的方式进行训练,设计了多组对比试验,根据实验结果可知,所提方法准确率可达到92.43%,性能优于主流语义分割方法。(4)钢球表面缺陷检测系统的设计与实现。本文设计并实现了钢球表面缺陷采集系统中分选装置的控制系统和图像检测系统。图像检测系统包含两个模块:目标检测模块和语义分割模块。该系统开发采用C/S架构,在Windows10操作系统下,基于.Net6.0开发平台,读取训练完成的网络模型,以C#作为功能开发编程语言实现相关功能。通过载入数据验证,系统功能运行良好。

基于深度迁移学习的心电辅助诊断系统的设计与实现

这是一篇关于心电信号,深度迁移学习,领域自适应,多核最大均值差异,辅助诊断的论文, 主要内容为近年来,心血管疾病已经成为威胁人类生命安全的主要疾病之一,对心血管疾病的及时检测是迫切且十分必要的。心电信号自动分析技术能够减少医生工作量,提高诊断效率,具有非常重要的研究价值。传统的特征提取分类方法需要依赖各种算法手动选择并提取特征,个体差异导致提取的特征存在不确定性,从而影响分类的准确性。深度学习需要大量的标注数据作为训练集,存在数据依赖现象。针对以上问题,本文结合深度学习和迁移学习,利用数据之间隐含的共同特征,提出了一种新的领域自适应心电信号分类算法,实现对心血管疾病的自动识别和诊断。最后,设计并实现了心电辅助诊断系统,辅助医生诊断心血管疾病。本文主要研究工作总结如下:1)构建基于领域自适应的的心电信号分类网络(BiLSTM-MKMMD-NET)模型。首先,利用双向长短期记忆网络(Bi-Directional Long-Short Term Memory,BiLSTM)自主学习心电信号的时序特征,建立预训练模型,预训练模型的分类准确率达到99.26%。针对心电标注数据不足,模型无法获得足够多的训练数据以及源域和目标域数据分布差异的问题。本文在预训练模型上添加适配层,将已有标注的源域心电数据知识迁移到未标注的目标域心电数据;通过选择多核最大均值差异(Multi-kernel Maximum Mean Discrepancy,MKMMD),使源域和目标域的特征映射到高维空间,最小化源域和目标域之间的分布距离,提升在目标域上的分类效果。最后,在不同领域数据集进行多组迁移对比实验,验证本文提出的域适应模型的有效性。2)心电辅助诊断系统的设计与实现。系统主要由系统管理、数据收发、数据统计管理和智能诊断处理四部分构成。系统使用Qt Designer工具完成界面的设计,结合SQLite构建了系统用户和心电数据库,使用WebService技术访问服务器完成数据的收发操作,使用PyQt技术完成业务逻辑操作,包括心电图的绘制和显示、用户系统交互、生成诊断报告等功能。系统通过集成本文提出的BiLSTM-MKMMD-NET模型,完成对心电数据的智能辅助诊断处理。最后,进行系统测试,证明了系统心电辅助诊断功能的有效性。

基于深度迁移学习的心电辅助诊断系统的设计与实现

这是一篇关于心电信号,深度迁移学习,领域自适应,多核最大均值差异,辅助诊断的论文, 主要内容为近年来,心血管疾病已经成为威胁人类生命安全的主要疾病之一,对心血管疾病的及时检测是迫切且十分必要的。心电信号自动分析技术能够减少医生工作量,提高诊断效率,具有非常重要的研究价值。传统的特征提取分类方法需要依赖各种算法手动选择并提取特征,个体差异导致提取的特征存在不确定性,从而影响分类的准确性。深度学习需要大量的标注数据作为训练集,存在数据依赖现象。针对以上问题,本文结合深度学习和迁移学习,利用数据之间隐含的共同特征,提出了一种新的领域自适应心电信号分类算法,实现对心血管疾病的自动识别和诊断。最后,设计并实现了心电辅助诊断系统,辅助医生诊断心血管疾病。本文主要研究工作总结如下:1)构建基于领域自适应的的心电信号分类网络(BiLSTM-MKMMD-NET)模型。首先,利用双向长短期记忆网络(Bi-Directional Long-Short Term Memory,BiLSTM)自主学习心电信号的时序特征,建立预训练模型,预训练模型的分类准确率达到99.26%。针对心电标注数据不足,模型无法获得足够多的训练数据以及源域和目标域数据分布差异的问题。本文在预训练模型上添加适配层,将已有标注的源域心电数据知识迁移到未标注的目标域心电数据;通过选择多核最大均值差异(Multi-kernel Maximum Mean Discrepancy,MKMMD),使源域和目标域的特征映射到高维空间,最小化源域和目标域之间的分布距离,提升在目标域上的分类效果。最后,在不同领域数据集进行多组迁移对比实验,验证本文提出的域适应模型的有效性。2)心电辅助诊断系统的设计与实现。系统主要由系统管理、数据收发、数据统计管理和智能诊断处理四部分构成。系统使用Qt Designer工具完成界面的设计,结合SQLite构建了系统用户和心电数据库,使用WebService技术访问服务器完成数据的收发操作,使用PyQt技术完成业务逻辑操作,包括心电图的绘制和显示、用户系统交互、生成诊断报告等功能。系统通过集成本文提出的BiLSTM-MKMMD-NET模型,完成对心电数据的智能辅助诊断处理。最后,进行系统测试,证明了系统心电辅助诊断功能的有效性。

基于深度迁移学习的滚动轴承故障诊断研究

这是一篇关于滚动轴承,故障诊断,深度迁移学习,域适应,联合分布自适应的论文, 主要内容为滚动轴承广泛应用于铁路车辆、风力涡轮机、航空发动机等旋转机械,这些轴承的运行环境相较于其他部件更为复杂和恶劣,其接触表面容易产生一些局部缺陷,缺陷的产生和发展将对整个设备的运行安全构成一定威胁,可能带来巨额的经济损失,甚至造成重大事故。因此,对其进行实时的状态监测和智能诊断具有重大意义。在数据驱动下的轴承故障诊断中,需要大量的标注数据进行模型训练。然而,在实际工业场景中,获取足够多的有标签数据是不现实的,且用于训练和测试的数据往往具有不同的分布。为了解决上述问题,深度迁移学习将深度学习的优势和迁移学习的优势相结合并且互相弥补了两者的缺陷,成为智能诊断中的热门方向。因此,本文首先研究了深度迁移学习中用于特征提取的网络结构,将该网络作为迁移模型的特征提取器,研究了深度迁移学习中的域适应方法,为滚动轴承的智能诊断提供新的思路。论文的第二章介绍了迁移学习的问题定义和深度学习中神经网络的结构和基本组成。论文的第三章分别使用一维的Le Net、Alex Net、WDCNN、Res Net-18为诊断模型主干对凯斯西储大学公开数据集的单一工况数据进行故障分类,探索了部分参数对诊断效果的影响,验证了WDCNN作为特征提取器的优越性。通过减少网络层,进一步改进了WDCNN网络结构,使其保证诊断精度的同时提高了训练速度,为后续深度迁移学习的研究提供了性能优秀的特征提取器。论文的第四章考虑了对数据间联合分布的度量,提出了一种基于联合分布自适应的多层域自适应网络模型。该模型在特征提取阶段用改进后的WDCNN作为特征提取器,在域适应阶段用同时包含边缘分布和条件分布的联合最大均值差异作为度量准则,并在全连接层使用多层联合最大均值差异以增强模型稳定性。在德国帕德博恩大学公开数据集和高速列车单轴滚振实验数据上进行了跨工况迁移实验,验证了该方法的有效性和优越性。论文的第五章考虑了边缘分布和条件分布间的相对重要性的影响,提出了一种平衡深度迁移网络模型。该模型在特征提取阶段同样使用WDCNN作为特征提取器,在域适应阶段使用最大均值差异度量数据间的边缘分布,使用软伪标签计算数据间的条件分布,引入平衡因子来权衡两者的相对重要性。在凯斯西储大学公开数据集和高速列车单轴滚振实验数据上进行跨测点的迁移实验,验证了该方法的有效性和优越性。

基于深度迁移学习的心电辅助诊断系统的设计与实现

这是一篇关于心电信号,深度迁移学习,领域自适应,多核最大均值差异,辅助诊断的论文, 主要内容为近年来,心血管疾病已经成为威胁人类生命安全的主要疾病之一,对心血管疾病的及时检测是迫切且十分必要的。心电信号自动分析技术能够减少医生工作量,提高诊断效率,具有非常重要的研究价值。传统的特征提取分类方法需要依赖各种算法手动选择并提取特征,个体差异导致提取的特征存在不确定性,从而影响分类的准确性。深度学习需要大量的标注数据作为训练集,存在数据依赖现象。针对以上问题,本文结合深度学习和迁移学习,利用数据之间隐含的共同特征,提出了一种新的领域自适应心电信号分类算法,实现对心血管疾病的自动识别和诊断。最后,设计并实现了心电辅助诊断系统,辅助医生诊断心血管疾病。本文主要研究工作总结如下:1)构建基于领域自适应的的心电信号分类网络(BiLSTM-MKMMD-NET)模型。首先,利用双向长短期记忆网络(Bi-Directional Long-Short Term Memory,BiLSTM)自主学习心电信号的时序特征,建立预训练模型,预训练模型的分类准确率达到99.26%。针对心电标注数据不足,模型无法获得足够多的训练数据以及源域和目标域数据分布差异的问题。本文在预训练模型上添加适配层,将已有标注的源域心电数据知识迁移到未标注的目标域心电数据;通过选择多核最大均值差异(Multi-kernel Maximum Mean Discrepancy,MKMMD),使源域和目标域的特征映射到高维空间,最小化源域和目标域之间的分布距离,提升在目标域上的分类效果。最后,在不同领域数据集进行多组迁移对比实验,验证本文提出的域适应模型的有效性。2)心电辅助诊断系统的设计与实现。系统主要由系统管理、数据收发、数据统计管理和智能诊断处理四部分构成。系统使用Qt Designer工具完成界面的设计,结合SQLite构建了系统用户和心电数据库,使用WebService技术访问服务器完成数据的收发操作,使用PyQt技术完成业务逻辑操作,包括心电图的绘制和显示、用户系统交互、生成诊断报告等功能。系统通过集成本文提出的BiLSTM-MKMMD-NET模型,完成对心电数据的智能辅助诊断处理。最后,进行系统测试,证明了系统心电辅助诊断功能的有效性。