基于金融知识图谱的主题网络爬虫设计与实现
这是一篇关于主题网络爬虫,金融领域,Bert-BiLSTM-CRF模型,知识图谱,关键短语的论文, 主要内容为随着互联网的快速发展,搜索引擎成为了人们获得各类信息的重要工具,如今的搜索引擎如百度和谷歌,由于其搜索覆盖面积广导致结果难以达到精确,而面向特定领域的主题搜索引擎能够帮助用户过滤大量与主题无关的信息,用户可以快速、准确地获取所需要的信息。为了帮助金融从业人士在众多网页中准确并高效地获取金融相关文本数据,本文针对金融领域,研究快速有效的网络爬虫技术。提出了一种知识图谱辅助提取网页文本中的关键短语的方法,结合一定规则的链接结构和关键短语与主题的语义相似度计算来筛选出与主题相关页面,实现高效的主题网络爬虫。主要研究内容和方法如下:(1)针对主题网络爬虫技术中的主题描述问题,提出了构建金融知识图谱来描述主题的方法。采用Bert-Bi LSTM-CRF模型对金融相关文本进行命名实体和关系进行联合抽取,对异构数据执行知识融合等步骤,解决实体属性值不一致和缺失等问题,最后运用Neo4j图数据库实现三元组数据的持久化存储,完成构建金融知识图谱Fin Graph。(2)针对主题网络爬虫技术中的爬取策略问题,提出了一种基于知识图谱的关键短语提取算法。将基于语义的AP聚类算法应用到文本中,运用知识图谱将集群中的词连接到知识图谱中的实体,通过语义网络结构挖掘词之间的潜在关系,赋予边权值量化潜在关系构建关系词图,构建了集成AP聚类和图的中心性算法来提取关键短语的框架,以此筛选出与金融主题相关页面,减少与主题无关信息的干扰,从而使主题网络爬虫返回的结果具有较高的准确率。(3)结合以上两点研究内容,研制了一个结合网页文本内容和链接结构进行主题判定的混合主题网络爬虫。本文通过Fin Graph知识图谱对网页文本进行关键短语提取,结合提取的关键短语与主题进行语义相似度计算,并同时考虑链接结构来筛选出相关性较高的页面,最后根据己爬取的网页文本进一步补充Fin Graph知识图谱。
基于深度学习的事件抽取方法研究
这是一篇关于事件抽取,深度学习,金融领域,指针标注,对抗学习的论文, 主要内容为事件抽取是信息抽取的重要子任务,是文本信息智能化处理的基础技术,在信息检索、智能问答和知识图谱研究领域中具有广泛的应用。现阶段事件抽取方法研究除通用领域之外主要集中在司法领域、新闻领域、突发事件领域以及金融领域。随着深度学习在人工智能领域的兴起,研究者发现基于深度学习的方法在事件抽取的深层次特征提取上有机器学习方法不具备的优势。基于深度学习的事件抽取通常被转换成分类任务、标注任务和机器阅读理解任务,主流的研究方法是将事件抽取转换成标注任务。事件抽取任务本身存在元素重叠、语句歧义、特征融合不充分、错误传播误差累积等问题。金融领域数据具有信息冗杂性与语序复杂性、对事件类型要求相对专业化、事件要素识别准确率要求较高等特点。本文聚焦于金融领域,针对金融领域数据本身特性和事件抽取任务存在的基本问题进行相关模型方法研究。针对事件抽取中的语句歧义、元素重叠以及错误传播问题,本文提出一种基于指针标注的事件联合抽取模型。模型的编码层利用BERT预训练模型对金融文本语句进行编码,得到句子的语义信息后融入事件类型信息进行语义增强。并将融合后的句子信息输入到触发词解码层的自注意力层中进行特征的提取,最后通过指针标注的方法对于触发词进行解码。再将融合事件类型和触发词信息的句子信息输入到论元解码层的自注意力层中进行特征的提取,用指针标注的方式加触发词的相关信息解码事件的论元。在模型训练的过程中加入对抗训练增强鲁棒性和泛化性。针对事件特征提取不充分以及金融数据的语序复杂的问题,本文在基于指针标注的事件联合抽取模型的基础上设计一种基于PERT预训练的事件联合抽取模型。金融文本句子输入到PERT预训练模型编码层中得到句子向量,融合事件类型信息,并将融合后的句子信息分别输入到触发词解码层的自注意力层和双向长短时记忆网络层中进行句子之间词与词特征和句子上下文特征的提取,最后通过指针标注的方法对触发词进行解码,在将融合事件类型和触发词信息的句子信息分别输入到论元解码层中的自注意力层和双向长短时记忆网络层中进行句子之间词与词特征和句子上下文特征的提取,最后用指针标注的方式加触发词的相关信息解码事件的论元。本文的两个事件联合抽取模型在中文金融数据集Few FC上进行实验验证,实验结果表明本文提出的两个事件抽取模型均能有效提升事件抽取的结果,且测试结果优于其他对比实验的结果,证明了模型的有效性和优越性。
基于深度学习的事件抽取方法研究
这是一篇关于事件抽取,深度学习,金融领域,指针标注,对抗学习的论文, 主要内容为事件抽取是信息抽取的重要子任务,是文本信息智能化处理的基础技术,在信息检索、智能问答和知识图谱研究领域中具有广泛的应用。现阶段事件抽取方法研究除通用领域之外主要集中在司法领域、新闻领域、突发事件领域以及金融领域。随着深度学习在人工智能领域的兴起,研究者发现基于深度学习的方法在事件抽取的深层次特征提取上有机器学习方法不具备的优势。基于深度学习的事件抽取通常被转换成分类任务、标注任务和机器阅读理解任务,主流的研究方法是将事件抽取转换成标注任务。事件抽取任务本身存在元素重叠、语句歧义、特征融合不充分、错误传播误差累积等问题。金融领域数据具有信息冗杂性与语序复杂性、对事件类型要求相对专业化、事件要素识别准确率要求较高等特点。本文聚焦于金融领域,针对金融领域数据本身特性和事件抽取任务存在的基本问题进行相关模型方法研究。针对事件抽取中的语句歧义、元素重叠以及错误传播问题,本文提出一种基于指针标注的事件联合抽取模型。模型的编码层利用BERT预训练模型对金融文本语句进行编码,得到句子的语义信息后融入事件类型信息进行语义增强。并将融合后的句子信息输入到触发词解码层的自注意力层中进行特征的提取,最后通过指针标注的方法对于触发词进行解码。再将融合事件类型和触发词信息的句子信息输入到论元解码层的自注意力层中进行特征的提取,用指针标注的方式加触发词的相关信息解码事件的论元。在模型训练的过程中加入对抗训练增强鲁棒性和泛化性。针对事件特征提取不充分以及金融数据的语序复杂的问题,本文在基于指针标注的事件联合抽取模型的基础上设计一种基于PERT预训练的事件联合抽取模型。金融文本句子输入到PERT预训练模型编码层中得到句子向量,融合事件类型信息,并将融合后的句子信息分别输入到触发词解码层的自注意力层和双向长短时记忆网络层中进行句子之间词与词特征和句子上下文特征的提取,最后通过指针标注的方法对触发词进行解码,在将融合事件类型和触发词信息的句子信息分别输入到论元解码层中的自注意力层和双向长短时记忆网络层中进行句子之间词与词特征和句子上下文特征的提取,最后用指针标注的方式加触发词的相关信息解码事件的论元。本文的两个事件联合抽取模型在中文金融数据集Few FC上进行实验验证,实验结果表明本文提出的两个事件抽取模型均能有效提升事件抽取的结果,且测试结果优于其他对比实验的结果,证明了模型的有效性和优越性。
基于深度学习的事件抽取方法研究
这是一篇关于事件抽取,深度学习,金融领域,指针标注,对抗学习的论文, 主要内容为事件抽取是信息抽取的重要子任务,是文本信息智能化处理的基础技术,在信息检索、智能问答和知识图谱研究领域中具有广泛的应用。现阶段事件抽取方法研究除通用领域之外主要集中在司法领域、新闻领域、突发事件领域以及金融领域。随着深度学习在人工智能领域的兴起,研究者发现基于深度学习的方法在事件抽取的深层次特征提取上有机器学习方法不具备的优势。基于深度学习的事件抽取通常被转换成分类任务、标注任务和机器阅读理解任务,主流的研究方法是将事件抽取转换成标注任务。事件抽取任务本身存在元素重叠、语句歧义、特征融合不充分、错误传播误差累积等问题。金融领域数据具有信息冗杂性与语序复杂性、对事件类型要求相对专业化、事件要素识别准确率要求较高等特点。本文聚焦于金融领域,针对金融领域数据本身特性和事件抽取任务存在的基本问题进行相关模型方法研究。针对事件抽取中的语句歧义、元素重叠以及错误传播问题,本文提出一种基于指针标注的事件联合抽取模型。模型的编码层利用BERT预训练模型对金融文本语句进行编码,得到句子的语义信息后融入事件类型信息进行语义增强。并将融合后的句子信息输入到触发词解码层的自注意力层中进行特征的提取,最后通过指针标注的方法对于触发词进行解码。再将融合事件类型和触发词信息的句子信息输入到论元解码层的自注意力层中进行特征的提取,用指针标注的方式加触发词的相关信息解码事件的论元。在模型训练的过程中加入对抗训练增强鲁棒性和泛化性。针对事件特征提取不充分以及金融数据的语序复杂的问题,本文在基于指针标注的事件联合抽取模型的基础上设计一种基于PERT预训练的事件联合抽取模型。金融文本句子输入到PERT预训练模型编码层中得到句子向量,融合事件类型信息,并将融合后的句子信息分别输入到触发词解码层的自注意力层和双向长短时记忆网络层中进行句子之间词与词特征和句子上下文特征的提取,最后通过指针标注的方法对触发词进行解码,在将融合事件类型和触发词信息的句子信息分别输入到论元解码层中的自注意力层和双向长短时记忆网络层中进行句子之间词与词特征和句子上下文特征的提取,最后用指针标注的方式加触发词的相关信息解码事件的论元。本文的两个事件联合抽取模型在中文金融数据集Few FC上进行实验验证,实验结果表明本文提出的两个事件抽取模型均能有效提升事件抽取的结果,且测试结果优于其他对比实验的结果,证明了模型的有效性和优越性。
基于金融实体与触发词联合抽取的搜索系统研究与实现
这是一篇关于触发词,事件抽取,事件识别,金融领域,搜索系统的论文, 主要内容为近年来,随着大众收入的提高,人们对于投资理财的需求日趋强烈。网络上金融信息的特点多数呈现规模庞大闲散,并且金融事件的发生具有渐变性和不确定性,另外相关信息夹杂在大量的无关信息中,由此导致一方面该领域非从业人员对于专业知识的掌握困难且复杂,很难发现投资风险;另一方面很多人不具有风险防控意识,投资失败,甚至受骗事件时有发生。因此,如何从众多的网络信息中抽取出金融事件,对于大众金融风险防控具有实际应用价值。本文在充分调研了国内外研究现状后,针对金融事件抽取问题,在单一事件识别模型和Bert-Bi LSTM-CRF事件抽取模型的基础上,设计和实现了基于金融领域实体与触发词的联合识别及抽取模型。该模型使用了深度学习的组合框架搭建实体与触发词特征融合的事件识别模型和多卷积多注意的联合抽取模型,通过对触发词、事件元素及关系的抽取完成了金融公告文本知识抽取的工作。通过对比实验分析,对其结果进行评价,本文采用的模型对于金融事件抽取效果更好。本文中的事件识别和联合抽取模型在精确率、召回率等方面都优于对比实验的抽取方法。基于上述金融事件抽取模型为核心技术,论文设计和实现了一个基于金融知识图谱面向金融事件的查询搜索系统。系统可以根据用户的需求,将用户感兴趣的信息抽取出来,用更为直观的展示方式,帮助用户及时了解金融事件的发生及发展过程,为用户预防金融风险提供支持。对于金融数据库构建的工作,采用scrapy框架编写的代码对同花顺网站的金融公开信息进行爬取。继而对事件识别模型进行训练和应用,对模糊类别的金融事件进行分类,然后按照类别把事件传入到事件抽取的模型中,完成金融事件抽取。使用Neo4j图数据库对图谱进行存储,搭建金融领域知识图谱。系统的整体功能包括账户录入、模型训练、查询搜索、数据管理几大部分。系统采用B/S架构,通过python和java对系统的后端进行搭建和开发,然后使用CSS、Java Script进行前端的开发,完成了系统的实现,并以扩展应用的形式给市面现有的浏览器增添了实用性和便捷性。最终通过对系统进行相关功能测试和性能测试工作,保证系统实现基本功能,可以稳定运行,并在一定程度上提高了用户的搜索速率和准确率。
基于深度学习的金融领域中文实体关系联合抽取算法研究
这是一篇关于金融领域,实体关系联合抽取,重叠三元组,指针标注,对抗训练,FinBERT的论文, 主要内容为在当今信息化时代,金融领域的各类金融交易和活动每天都会产生海量的信息资源。如何快速而准确地从海量的数据中获取有用的知识成为金融领域信息智能处理研究的一个难点。利用实体关系抽取方法可以自动高效地从这些非结构化的金融信息中抽取三元组,为构建金融领域知识图谱提供数据支持。实体关系抽取可以分为流水线方法和实体关系联合抽取方法。流水线方法把实体关系抽取分为两个独立的任务,因此会导致任务之间缺乏关联、错误传播以及信息冗余等问题。而实体关系联合抽取方法可以在一个统一的模型中同时处理实体和关系,克服流水线方法存在的缺点,成为主流学习方法。本文针对金融领域实体关系联合抽取技术进行深入研究,主要研究内容如下:(1)针对重叠三元组问题,本文提出融合FGM(Fast Gradient Method)和指针标注的实体关系联合抽取模型BERT-FGM。该模型以BERT(Bidirectional Encoder Representations from Transformers)模型为基础,通过使用一种新的指针标注策略将实体对上的关系建模为函数,有效地解决重叠三元组问题。此外,通过在BERT模型训练词向量的过程中融入FGM对抗训练算法提高模型的泛化性能。在公共数据集Web NLG和NYT与其他实体关系联合抽取模型进行对比实验,本文提出的BERT-FGM模型的F1值达到90.7%和88.3%,有效地解决三元组重叠问题。(2)针对中文BERT模型未对金融领域优化和以字为粒度切分的缺点,本文基于金融领域预训练模型Fin BERT(BERT for Financial Text Mining)对BERT-FGM模型优化得到Fin BERT-FGM模型。该模型使用全词MASK技术对金融领域的语料库和词汇表进行预训练,学习金融领域的先验知识,克服BERT模型在中文金融文本识别不佳的缺点。在本文构建的金融关系三元组数据集上的对比实验中,Fin BERT-FGM模型相比于BERT-FGM模型在准确率和召回率上分别提升了2.8%和3.4%。使用Python设计并开发一款基于Fin BERT-FGM模型的金融领域关系三元组抽取软件,实现识别结果的可视化及保存识别结果的功能。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：毕设向导 ，原文地址：https://m.bishedaima.com/lunwen/56163.html
