基于DNA序列的转录因子结合位点预测
这是一篇关于转录因子结合位点,自注意力机制,深度残差网络,迁移学习,长短时记忆网络,在线预测服务,序列分析的论文, 主要内容为了解DNA-蛋白质结合的特异性对于理解基因表达、调控机制和基因治疗有着重要的意义,而转录因子是一种常见的DNA结合蛋白。转录因子通过与DNA结合调控位于其下游基因的表达,增强或者抑制下游基因的活性,对蛋白质的翻译也起着至关重要的调控作用。因此,从DNA序列中精准地识别出转录因子结合位点是一项重要的任务。基于分子生物学实验来识别转录因子结合位点的方法存在耗时长、成本高等缺点。近年来,随着高通量测序技术的出现、计算机性能的提升与算法的发展,为构建转录因子结合位点预测模型从海量生物数据中挖掘出有价值的知识提供了可能。然而,现有基于机器学习、深度学习的转录因子结合位点预测模型的预测精度还有待提高。因此,进一步提高转录因子结合位点预测模型的性能十分有必要。本文对基于DNA序列的转录因子结合位点预测问题进行了深入研究,主要工作如下:(1)本文将自注意力机制与残差网络相结合,提出了名为SARes Net的转录因子结合位点预测模型。自注意力机制能很好地捕捉序列的远程依赖关系,将空间信息集成到网络中,同时与卷积得到的局部信息相互补充,使网络能够有效地学习空间位置信息和局部信息。同时,SARes Net采用了迁移学习,提高了网络的泛化性能,加快了模型微调阶段的收敛速度。实验结果表明SARes Net模型在转录因子结合位点预测的基准数据集上表现良好,与目前最先进的方法相比有进一步地提升,且具备良好的预测性能与泛化能力。(2)本文考虑到LSTM网络具有处理序列数据的强大特性,并且能够处理长期依赖的问题,基于LSTM网络提出了名为LSTM-Net的结合位点预测模型。实验结果表明LSTM-Net具备较好的预测性能。(3)考虑到SARes Net与LSTM-Net都具备相近的预测性能,本文还提出了名为SARes Net-LSTM的自注意力残差网络与LSTM网络相结合的转录因子结合位点预测模型。并通过在不同规模的数据集、不同细胞系的数据集上对比了LSTM-Net、SARes Net和SARes Net-LSTM的预测性能,还与其他现有预测模型在基准数据集上进一步对比,表明了本文提出的三种模型预测的准确性与稳定性。(4)为了方便生物医学研究者的使用,我们基于Spring Cloud微服务框架开发了一个预测平台用于提供在线的结合位点预测服务。
基于深度学习的相机源取证研究
这是一篇关于数字图像取证,相机源取证,传感器模式噪声,深度残差网络,孪生网络的论文, 主要内容为随着图像采集技术的快速发展以及数码相机的迅速普及,数字图像己经融入了人们的日常工作和生活当中。但是随之而来暴露出了越来越多的图像信息安全问题:不法分子借助各种功能强大的图像处理软件对图像进行篡改来达到违法犯罪的目的,以及非法利用他人拍摄的作品牟取利益等。因此数字图像取证技术的研究具有重要的意义。本文所研究的相机源取证技术是数字图像取证的一个重要的分支,该技术可以在图像来源不明的情况下,将数字图像与其拍摄的设备进行关联。相机源取证技术在版权保护、图像溯源、法医鉴定等领域有重要的应用。本文首先介绍了数字图像取证以及相机源取证的历史和研究背景,介绍了数码相机的成像管线以及模式噪声,分析了目前现有的相机源取证算法,之后根据实际中不同的应用场景做了如下3个工作:1.提出了一种基于残差网络的大规模图像集相机源辨别算法。传统方法为手动设计特征并且可分类设备的数量较少(20部以下)。本文使用深度残差网络替代传统提取模式噪声的方法,将可用于设备分类的融合特征进行提取;并且设计了高通滤波器,在网络的输入端对低频的图像内容进行过滤,更有助于对模式噪声的提取。我们收集了多达65种型号,共119部设备的大规模图像数据集,算法在测试集上达到了型号级别87%、个体级别83%的平均分类准确率。2.提出了一种基于孪生网络的相机源两两匹配算法。针对另一种应用场景,当我们只有查询图像,没有源相机的信息时,通过该算法将图像进行两两匹配,判断图像对是否为相同的相机所拍摄。算法在孪生网络的基础上进行改进,将双通道的特征提取器替换为本文第一个工作所提出的分类网络,对图像进行成对训练,相同相机拍摄图像标签设为0,不同设为1。算法对输入图像进行两两匹配给出预测结果。经过实验,算法在测试集上达到了89%的准确率。3.设计并实现了基于B-S架构的相机源取证分析平台。将本文提出的两个算法进行了模块化封装,通过将两个算法模块进行线上部署,构成了多维度的相机源取证分析系统。通过型号级别与个体级别的相机源分类与相机源匹配给用户提供多角度的相机源取证分析功能,将复杂的算法转换为网页这种简单易于操作的系统,让更多的用户可以使用我们的算法,在算法的应用以及推广上起到了很大的作用。
基于深度学习的阿拉伯手写体字符识别方法研究及应用
这是一篇关于阿拉伯手写体字符识别,深度哈希,二值特征,卷积神经网络,深度残差网络,AM-SoftMax分类损失函数的论文, 主要内容为随着信息化社会的迅速发展,模式识别已被应用在各个领域,取得了显著的成果,其中手写体字符识别引起了学者们的广泛关注。手写体字符识别是光学字符识别技术(Optical Character Recognition,OCR)的一个重要研究领域。随着字符识别在人们生活中的不断应用,使得人们对字符识别的效果提出了更高的要求。为了实现更加高效的字符识别效果,提高识别算法的精度以及识别速度,论文研究了适用于阿拉伯字符识别的两种深度学习算法分别为卷积神经网络算法和深度残差网络算法,并对它们进行了改进。为了验证所提方法的正确性,采用B/S架构,实现了一个阿拉伯手写体字符识别系统。主要研究工作如下:1.针对阿拉伯手写字符草书性和字符形状的多变性等问题,为了提高手写字符识别精度,提出一种基于深度二值特征的识别方法。该方法在卷积神经网络全连接层使用Sign函数生成图像二值特征,同时为了解决Sign函数在反向传播时存在的梯度消失问题,为Sign函数构造了一个连续的梯度函数,使CNN网络能够顺利进行反向传播。实验结果表明,该方法使得到的手写字符特征更加简洁易区分,识别率可达95.15%,比传统深度学习算法的识别性能好。2.针对传统阿拉伯字符识别方法手工设计特征复杂、识别率较低等问题,为了提高阿拉伯字符手写体的识别精度,首先设计了一个50层的残差网络模型(ResNet)对阿拉伯手写体字符进行识别,识别精度达到了95.51%;其次,为了进一步提高识别精度,采用了AM-SoftMax分类损失函数。实验结果表明,与现有方法相比,识别精度达到了96.72%。采用的深度残差网络能够提取更加高效的特征,提高了识别精度。同时,AM-SoftMax是对传统SoftMax损失函数的改进,使得分类样本在类内聚合、类间分散,可进一步提高识别精度。3.为了验证论文所提算法的正确性,采用第3章提出的方法和B/S架构,实现了一个简易的阿拉伯手写体字符识别系统。首先用户通过HTML画布绘制需要识别或训练阿拉伯手写体字符;然后客户端将收集绘制的阿拉伯字符转化为数组,并将其传递给服务器以作为预测的字符,在服务端通过对CNNBinary模块进行API调用来进行训练或预测请求;最后将训练好的CNNBinary权值保存在文件中,在识别时加载训练好的权值完成预测。实现结果表明,该系统具有较高的识别精度。
基于音频分析技术的咳嗽事件检测和分类研究
这是一篇关于咳嗽分类,NMF特征提取,深度残差网络,注意力机制,支持向量机的论文, 主要内容为肺炎和哮喘是许多儿科呼吸系统的常见病。如果没有有效的诊断工具和方法,很难将这些疾病区分开。过去的研究表明,咳嗽声中可能携带与疾病相关的重要信息,有必要对这些咳嗽疾病进行检测和区分,以估计疑似患者病情的严重程度。因此,针对传统疾病检测带来的工作量大等问题,本文方法集中于将咳嗽分析技术作为一种潜在的低成本诊断工具,提出通用的咳嗽音分析框架,为疾病筛查提供重要的理论价值。具体的研究内容如下:(1)基于Mel谱图和改进Res Net-50残差注意力网络的病理咳嗽检测提出一种改进的Res Net-50残差注意力网络模型,用于病理咳嗽的检测,实现正常和病理咳嗽音的自动分类。首先,对获得的样本进行预处理,以Mel谱图作为输入特征;其次,在Res Net-50模型基础上进行改进,加入空间和通道双重注意力模块。改进后的模型能够利用不同尺度间的自我注意能力,使得特征聚焦于咳嗽特征的最具鉴别力部分,从而提取更深层的特征。此外,对采集的原始咳嗽数据利用小波去噪技术,从含噪信号中尽可能地提取纯净咳嗽音。实验表明,改进算法能够更准确地判别病理咳嗽,检测准确度达到91.5%。(2)哮喘和肺炎咳嗽音的自动分类提出一种肺炎和哮喘咳嗽疾病的小样本分类算法,用来对患有两种疾病的病理咳嗽声进行自动判别。基于两类咳嗽信号在时频的特征差异性,提出使用非负矩阵分解(Nonnegative Matrix Factorization,NMF)和短时能量(Short-Term Energy,STE)组合的特征提取方法,从不同的角度反映了咳嗽事件的本质特征,并在此基础上实现了降维处理。SVM模型则针对小样本集表现出优秀的序列建模能力,选用以径向基(RBF)为核函数的非线性SVM,再使用粒子群算法(PSO)对模型关键参数进行优化。针对哮喘咳嗽识别实验,以准确度、特异度和灵敏度为主要评估标准,结合任务要求选取最佳阈值(threshold)。通过约登系数的计算,求得最终的threshold=0.7,哮喘咳嗽识别准确度为92.8%。实验集中于肺炎和哮喘咳嗽的自动分类问题,总体分类准确度达到92.3%。
基于残差网络的对抗样本生成算法研究
这是一篇关于图像分类,深度残差网络,对抗样本,迁移性,优化方法的论文, 主要内容为在大数据、高算力以及云平台的共同推动下,深度学习迎来了研究热潮,并在医疗、网络安全中等场景中取得了巨大成功。但有研究表明,深度神经网络存在着重大的安全问题——在干净样本中添加一些微小扰动会导致模型做出错误的判断,这一现象吸引了研究者的广泛关注。针对对抗样本的生成方法与优化策略进行的研究工作,不仅可以发现较鲁棒模型中潜在的问题,而且可为对抗防御提供新的防御思路。当前,基于迁移性的黑盒攻击通常使用较高的扰动系数生成具有较强可迁移性的对抗样本,导致对抗扰动较易被防御者察觉。本课题通过引入数据增强技术,重点研究降低对抗样本的攻击性与扰动系数的耦合程度,同时基于残差网络生成相应的对抗样本,提高隐蔽性的同时增强了对抗样本的可迁移性。课题的主要工作包括以下几个方面:第一部分从数据增强角度,探究如何增强对抗样本的迁移性。本课题采用一种基于残差网络与噪声融合的黑盒攻击优化方法。该方法将噪声增强技术应用于基于残差网络的黑盒攻击算法中,提升对抗样本在黑盒中的攻击成功率。同时该部分系统地介绍了常见噪声的生成过程,为后续的实验研究提供了理论依据和技术支持。在Image Net数据集对比基于梯度的对抗攻击,该研究能够有效提升了对抗样本的可迁移性。在原有的基础上,该方法成功地将白盒成功率误差稳定在1%的范围内以及将黑盒成功率进一步提高了5.7%。此外,本部分结合图像相似度的评价指标,列举出了最适合用于优化对抗样本迁移性的增强噪声。第二部分从样本隐蔽性的角度,探究如何在不修改扰动系数的基础上进一步提升对抗样本的迁移性。该部分在优化过程中提出了一种用于增强对抗样本迁移性的优化方法。该方法对原始单形噪声进行深层次的平滑处理并生成了一种对抗性单形噪声,提高噪声与原始图像拟合程度的同时进一步提升了攻击算法的黑盒攻击能力。实验结果表明,在图像相似度客观评价与主观辨别的支持下,该部分提出的优化方法成功将扰动系数与对抗样本迁移性进行了解耦,在相同的扰动系数的条件下,将待优化攻击算法的黑盒成功率提升9.59%。
基于深度学习的数字调制方式识别研究
这是一篇关于深度残差网络,调制识别,时频图,星座图,多特征融合的论文, 主要内容为自动调制分类(Automatic Modulation Classification,AMC)作为信号检测和解调的中间过程,可以提供信号的调制信息,是现代通信领域中的关键技术。虽然传统的AMC方法对统计特性显著不同的信号调制类型表现良好,但对信道环境较为敏感且计算复杂度高,因此不具有普适性。由于深度学习在图像处理以及语音识别等领域取得的巨大成就,如何将深度学习与调制识别相结合是当下许多学者正在研究的方向。因此,本文主要研究深度学习在信号调制方式识别中的应用,主要研究内容如下:(1)针对基于序列特征调制识别性能差的问题,本文主要采用了将一维时间序列转换为二维图像的方法。在对信号的统计特征进行分析后,将其做两种特征图像变换:其一,将一维时间序列通过短时傅里叶变换(Short Time Fourier Transform,STFT)转换为二维时频图;其二,将一维时间序列转换为星座图。在信号传输过程中,由于存在频率偏移、噪声等会导致所生成的图像失真,对此本文根据特征图像的不同提出了针对性的解决方法。针对STFT时频图中存在噪声的问题,提出使用滤波和小波包这两种降噪方法进行去噪。对于星座图中存在的干扰点,使用基于空间密度聚类的算法将其去除,在此基础上将不同区域的点密度映射为不同的颜色,从而得到含有颜色信息的星座图以增强图像的特征。(2)为了进一步改善低信噪比下信号调制方式的识别性能,本文采用了深度残差网络Res Net50作为原始网络模型并在此基础上对其进行改进。对于改进后的网络模型,提出了基于局部特征提取的信号识别算法以及基于多特征融合的识别算法。基于局部特征提取的识别算法是将信号通过STFT转换为时频图,并将时频图作为训练模型的输入对象,以证明本文所改进网络的鲁棒性。针对基于局部特征提取的识别算法在高信噪比下MQAM类内混淆问题,本文进一步提出了基于多特征融合的信号调制识别算法。通过实验发现所提出算法与基于局部特征提取的识别算法相比,不仅有效改善了高信噪比下MQAM类内混淆问题,而且该识别方法在信噪比大于0d B时,对所有调制类型识别的准确率达到了92%以上。由此可见,基于多特征融合的信号调制识别算法在低信噪比下仍具有良好分类识别效果。
改进的深度残差网络及其在带钢表面缺陷识别中的应用
这是一篇关于带钢表面缺陷,图像识别,深度残差网络,多尺度特征融合,注意力机制的论文, 主要内容为冷轧带钢是现代钢铁工业中的重要产品,在汽车制造、家电制造、集装箱制作、轻工等众多行业中都有较多的应用。带钢在生产过程中出现的表面缺陷是影响产品质量的一个重要因素,会给钢铁企业和产品用户带来极大的经济损失。传统的缺陷检测方法存在准确率不高、效率低、成本高等缺点,难以满足钢铁企业的需求。近年来,深度学习在机器视觉方面展现出巨大的优势,但深度学习算法在带钢在线检测中存在缺陷图像数据空间冗余、缺陷特征不明显、缺陷尺寸跨度大等问题,不能完全满足工业现场的需求。针对上述问题,本文以深度残差网络(Deep Residual Networks,Res Net)为基础,开展针对空间冗余问题和多尺度特征融合的带钢表面缺陷图像识别方法研究,具体工作内容如下:针对高分辨率带钢缺陷图像存在空间冗余问题,提出一种基于可学习的图像调整器(Learnable Image Resizer,LIR)和扫视-聚焦网络(Glance and Focus Network,GFNet)的带钢表面缺陷快速分类方法。首先,基于动态神经网络(Dynamic Neural Networks,DNN)的特点,本文提出GFNet驱动的带钢表面缺陷分类模型,其可以根据不同样本自适应处理与任务相关区域,在模型推理阶段显著减少计算量,便于模型的部署。然后,采用LIR和分类模型GFNet联合训练的方法,调整图像大小的同时实现针对识别模型的特征增强,所增强的图像特征可以提高分类模型的精度。最后,将Res Net-50作为所提方法的主干网络,在自制数据集CR-CLS上验证方法的有效性。结果表明,与原始Res Net-50比较,所提方法可以在不牺牲精度的情况下,将单张图像的推断时间减少约3.58倍,模型计算量降低约6.11倍。同时,在公开数据集XLData-CLS的实验结果也证明了该方法的有效性。针对带钢表面缺陷缺陷尺寸跨度大、缺陷特征不明显导致的缺陷识别率低的问题,提出一种基于SEPy Res Net(SENet-Py Conv-Res Net)的带钢表面缺陷高精度识别模型。首先,构建一个新的卷积模块SEPy Conv,其采用金字塔卷积(Pyramidal Convolution,Py Conv)代替标准卷积,获取多尺度融合的缺陷特征,再利用SENet为获取的特征通道分配权重,进一步提高卷积对带钢缺陷的特征提取能力。然后,将构建的SEPy Conv引入Res Net中,替代残差网络中的3×3卷积,构建一个改进的Res Net-50,命名为SEPy Res Net-50。最后,在自制数据集CR-CLS上验证所提方法的有效性。结果表明,所提出模型SEPy Res Net-50与原始的Res Net50相比,在模型计算量和参数量分别降低0.54G、1.06M的前提下,识别准确率提高了7.66%。在另一个公开数据集X-SDD上,本方法同样可以将识别准确率提高0.48%,达到99.51%。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：代码项目助手 ，原文地址：https://m.bishedaima.com/lunwen/48310.html
