更全的杂志信息网

知识图谱概念获取研究进展*

更新时间:2009-03-28

0 引言

知识图谱由Google率先提出,其开发的目的主要是用于对真实世界中存在的各种实体和概念,以及这些实体、概念之间的关系进行研究。国外知识图谱的相关研究工作已经开展很多年,取得了丰硕的成果,也产出了大量优秀的知识图谱,其中包括DBpedia、YAGO、FreeBase、Google Knowledge Graph等。这些知识图谱已经在知识搜索和自然语言处理等领域发挥了重大的作用,Google知识图谱的构建更是基于知识图谱开创了新的智能搜索模式。如今国内也有不少团队在进行这方面的研究工作,例如XLore、Zhishi.me等都是优秀的中文知识图谱项目。知识图谱与本体最大的不同在于,前者在实体层面上对后者进行了丰富和扩充;本体在构建过程中特别强调的是概念以及概念之间的语义关联关系,为知识图谱的数据模式奠定了基础;而知识图谱则是在本体构建的基础上丰富了概念的信息。知识图谱广泛应用于数据挖掘、智能问答、语义搜索、知识工程等领域。因此如何在已有数据源的基础上,最大可能且准确地抽取构建领域知识图谱的概念,是知识图谱构建需最先解决、也是最重要的一步。

本文详细描述了分别从非结构化数据、结构化数据以及半结构化数据中,抽取构建领域知识图谱所需概念的方法,利用这些数据不同的结构特征,尽可能保证所构建的知识图谱的覆盖面,提高知识图谱的质量。

1 非结构化数据的概念抽取

非结构化数据一般指没有固定结构的数据,本文指的非结构化数据是指纯的文本,文本信息广泛存在于互联网中,是知识图谱概念抽取十分重要的来源之一。由于其结构的不特定性,机器无法解读其包含的语义信息,因此,从非结构化的文本中获取知识,一般需要通过自然语言处理(Natural Language Processing,NLP)技术进行预处理操作,包括分词、词性标注、命名实体识别和句法分析等步骤,然后依靠统计分析、机器学习等方法来获取知识。

Text-to-Onto是一个相对较早的本体学习系统,Text-to-Onto首先采用加权词频统计方法来获取概念。Shamsfar d和Barf oroush[1]提出了一种与领域无关的概念抽取方法,该方法基于一个简单的本体内核(包含少部分概念和关系),然后使用文本理解相关技术自动抽取本体中的概念。Lee等[2]则提出一种基于片元(Episode-based)的本体构建方法从无结构的文本文件中学习领域本体,其中概念的聚类与分类主要使用了基于模糊数(Fuzzy nu mbers)的概念相似度计算。Navigli和Velar di[3]提出了一个基于文本的领域本体学习工具Onto Lear n,该工具能够从网站的文档中自动获取概念以及概念之间的关系,其最主要的特点是使用了语义解释(Se mantic inter pretation),即把一个复杂的概念(Concept)与一个复杂的属于(Ter m)相关联;通过使用Wor d Net作为通用本体,把所抽取的术语关联到Wor d Net中的概念进行解释,从而判断术语之间的分类学关系,进而确定哪些术语能被划分为概念。

本节介绍3种通过对文本进行处理来自动获取领域概念,以及构建知识图谱的方法。

1.1 基于语言学的抽取方法

基于语言学的方法就是利用预先建立的规则进行概念的抽取,该方法要求必须对领域语料集中的词法结构有精准的分析,概括出一定的词法规则,依据总结的规则建立匹配模板;然后利用这些模板对领域文本进行匹配操作以抽取概念。这种方法依赖具体语言建立相应的语法规则,必须对该领域语料集的语言环境进行学习与处理。

任洁看了我很久,忽然点点头说:“哦,我想起来了,我妈和我说过你,她说你是个好人……我有很多东西,都能带上吗?”

由于基于语言学的方法是在大量文档分析中得到语言学规则,根据获取的规则匹配文本比较简易,计算量小,概念提取的准确度较高,对于符合匹配规则但出现频率较低的词也能够抽取出来。用语言学的方法进行领域概念的抽取过程并不依赖用以建立规则的基础文档。

但这种基于语言学的方法在规则的构建上需要大量资源;抽取的结果在很大程度上取决于所构建的规则;规则的维护比较困难;对语言的依赖性很强,建立的规则不能通用于任何领域,对于不同的领域需构建不同的语法规则,可移植性较差。

1.2 基于统计的抽取方法

基于统计的抽取方法[4]依据领域概念与普通词汇在文档集中具有的不同统计特征识别目标领域的概念。基于统计的抽取方法比语言学的方法更易于实现,且不局限于某一特定的领域,是目前主流的概念抽取方法。一般都把在主题领域文档内出现的相对高频率的词代表领域特征的词和短语。

利用领域相关度和领域一致度相结合的概念抽取方法,用非目标领域的文档集过滤了大量与所构建领域无关的术语,是一种典型的基于统计的概念抽取方法。其中领域相关度反映术语与指定领域的密切相关程度。领域一致度反应术语在主题领域文档集合中的分布情况,分布越均匀,则该术语代表概念的概率就越大。

对(标题)主概念进行逻辑判断以后,通过超链接对相关概念进行抽取,在预处理模块中可以得到一系列的相关候选概念,但是在抽取出的候选概念中仍然存在着一些概念与主题相关性不大,但它又不属于冗余信息,对于这种弱相关概念,人类大脑可以通过思维理解能力进行判断,机器却无法自动做出强弱性判断,因此本文提出了两种匹配模式对候选相关概念进行进一步的筛选。

在一个指定的领域文本集合中术语出现的频率也代表概念在相关指定领域出现的频率。可以采用与指定领域无关的文本集合做支撑,通过利用领域相关度与领域一致度相结合的方法更准确的提取领域文本中的概念。

在当下的大数据时代,互联网思维在企业管理中占据着越来越高的地位,而传统的财务会计,因其具有高度的统一性和规范性,十分容易被机器取代,这也就迫使财务会计向管理会计转型。这一转型应当在企业中得到实际落实,当着手进行大数据的分析后,就可以开始落实转型,这一策略可以解放很多会计核算人员,使其到能为企业创造更多价值的岗位上,提高企业的运行效率以及质量。

Wor d Net作为一个通用本体,几乎涵盖了所有领域的概念与概念间的关联关系,从Wor d Net中抽取所需概念和关系不仅使资源得到充分利用,而且与从领域文档或互联网中获取概念和关系的技术相比,减少了信息检索、词性标注等有关操作,节省了大量时间,提高了知识图谱的构建效率。一般认为从Wor d Net中抽取构建知识图谱概念分为以下5步(图1):

1.3 混合方法的抽取方法

各区县普遍缺少支柱产业,劳动力纷纷外出打工,留下的是一些老年人、妇女和儿童[13]。老人、妇女的文化水平低,且受传统的简单育秧技术影响。他们认为水稻机插育秧过程复杂、工序多、难掌握,对水稻插秧机操作也有一定的难度[14]。加之种植的水稻面积不多,因此他们认为还不如手工栽插,对插秧机技术的接受有较多思想束缚。

步骤1:计算方案层各指标的隶属度云模型。将各指标每列数据输入到逆向云发生器中,并计算每一风险指标的数字特征值。将每个指标的定量化的数据表达转变为云模型的定性化表达。

2 结构化数据的概念抽取

结构化数据是知识图谱的一个重要数据来源,通过仔细研究发现,目前信息系统中大量数据都是以结构化的数据源形式存储在关系数据库。因此可以从数据库中自动提取领域知识图谱所需概念。目前知识图谱广泛采用的结构化数据有DBPedia、Yago等同用语义数据集,以及 Music Brainz、Dr ug Bank等特定领域知识库。在使用方面,由于它们本身具备结构,通过简单的配置解析后,即可轻易地把关系模型中的模式信息和数据信息提取出来。

2.1 采用RDF模式获取结构化数据中的知识

RDF是一种用以描述资源的框架,可以将结构数据形式化地表示,它一般用来描述网络资源,例如某个web页面内容、作者等。通过RDF对知识进行结构化组织,然后采用图形化的方式展示出来。曾锦麟采用RDF对语义知识进行表示,并将其应用到网上求职招聘系统中,构建网上招聘系统的本体模型[5]

D2 R是一种基于X ML[6]的语言,它可以将结构化数据转化为知识的RDF描述,从而将这些数据导入到知识图谱中[7]

2.2 人工构建的本体或辞典概念抽取方法

人工构建的本体或辞典是机器可读的,一般被视为结构化数据。具有良好的实用性和可靠性。Wor d Net[8]、Cyc[9]与Open Cy是之前本体构建用的最多的通用本体,这些通用本体有时候被用于直接的概念抽取数据源,有时也与其它数据源结合抽取概念,有时也作为启动过程的初始数据,还有些情形下用于做学习结果评估。对于一些缺乏大型知识库但有自己语义词典的少数民族语言,如蒙古语[10],其有对应的蒙古文Wor d Net,若要构建蒙古文领域本体[11]、知识图谱,蒙古文 Word Net是其主要的数据来源。

在实际的知识图谱构建过程中经常将统计方法与语言学的方法相结合起来进行概念抽取,采用规则匹配得到候选概念后用统计方法进行过滤,或者先用统计的方法得到候选概念,然后用语言学的方法建立规则来筛选领域概念,使抽取出的概念具有较高的准确度与高覆盖率。

在此主要以Word Net为例来说明基于开放本体或辞典来抽取构建知识图谱所需概念的方法。本文提到的Word Net是由东南大学提供的数据表格。

Wor d Net是由Princeton大学的语言学家、心理学家和计算机工程师联合设计的一种基于认知语言学的英语词典[12]。它不是光把单词以字母顺序排列,而且按照单词的意义组成一个“单词的网络”。与普通的字典相比,Word Net的最大特点是包含一定的语义。Wor d Net中同义词集合的数量在11.7万左右,不同的同义词集合之间还存在语义关系,最主要的关系为上下位关系。

基于统计的抽取方法不需要根据具体句法语义信息,不局限于某一具体的领域,不受限于语言类型和句型结构,易于扩充。但是,这种方法需要大量的领域文档做支撑,计算量大;低频术语抽取效果比较差,概念抽取的结果准确度一般达不到预期值。

  

图1 从Word Net中抽取概念的流程Fig.1 The flow chart of extracting concepts fro m Word Net

第1步:将所要构建的领域称为“目标领域”,将目标领域细分出的领域称为“子领域”。对于目标领域,根据其实际情况,结合领域书籍、维基百科以及领域相关工作者的意见,将其细分为若干个子领域(基于人工完成)。

对于弱相关概念我们可以通过设计算法计算其与主概念的相关度以及相似度,如果相关度以及相似度达到设定的阈值就将其加入到领域概念库中。

由于矩阵B的奇异值求解需要用正交三角(QR)分解来估计所有特征向量和特征值,运算量大,耗时较长.本文利用快速不动点算法来估计B的最大特征向量,将特征向量估计表示为优化问题,即

第3步:对于每个子领域,根据核心概念,通过一定的语义相似度算法,获得每个子领域的顶层概念。

企业将有偿取得的赠品在销售时赠送,其成本在购入时已计入“销售费用”,因此,在销售的过程中不需要核算其发出成本,但是对已经计入“应缴税费——应交增值税(进项税额)”应做“进项税额转出”。其核算流程将通过案例来介绍。

第4步:基于顶层概念,从 Wor d Net中抽取出每个子领域所包含的概念,这样就得到了子领域的“初始概念集”。

第5步:去除每个子领域初始概念集中不合适的概念,来获得每个子领域所需要的概念,获得子领域的“最终概念集”。

3 半结构化数据的概念抽取

半结构化数据的特点是具有一定的隐含结构,但缺乏严格且固定的数据模式,互联网中大量的以HT ML格式存在的网页文档和部分以XML形式存在的文档是最具代表性的半结构化数据。对这类半结构化数据应该最大限度地利用当中的结构化信息,对于当中无结构化的数据可以使用基于文本的概念抽取方法。Sanchez和Moreno开发了一种使用搜索引擎获取与初始关键词相关的网页,然后依据概念出现的频率,从中抽取出新的概念以及概念之间的关系。有学者提出了一种从XML格式的文档中获取概念之间分类学关系,首先从文档中提取出表示文档内容的关键词,然后在这些关键词的基础上使用聚类技术,将文档按照内容的相似度分成不同的组,然后从中抽取出概念以及概念之间的关系。

下面介绍从百科中提取概念的两种方法。

ERCP模块接收到自动制动手柄指令,给均衡风缸充风到设定值;BPCP模块响应均衡风缸压力变化,制动管被充风到均衡风缸设定压力;16CP/DBTV模块响应列车管压力变化,将作用管(16#管/16TV管)压力排放;BCCP模块响应作用管压力变化,机车制动缸排风缓解;同时车辆副风缸充风,车辆制动机缓解。

3.1 将类别标签作为概念的候选

一般认为百科中位于分类体系中的类别标签都直接视为概念,因为百科的分类系统基本都经过百科管理员以及高级编辑人员的检验,具有非常高的可靠性。

其次,其它类别标签也是概念的候选,但是不能直接选取为概念,因为在百科中存在不合理的类别,包括:(1)既没有子类别也没有论述它的文章的类别(空类别标签)。对于这种类别标签,直接把它们看成实体(在知识图谱构建的最底层);(2)没有子类别的标签,但包含以自己为标题的文章页面。同样,这些标签直接被认为是实体,其所属父类则设置为实体的概念。

概念还可抽取自上下位关系,当把最终得到的上下位关系组织成一个分类系统时,不是位于最底层(叶子节点)的均视为概念。

3.2 将标题作为主概念,相关概念作为概念库的候选概念

网络百科是构建知识图谱常用的数据来源[13]

网络百科是大规模的开放式百科全书,具有质量高、覆盖范围广,实时更新和半结构化等特点,是用以构建知识图谱的优质语料来源。图2显示了将标题作为主概念,相关概念作为概念库的候选概念的概念抽取流程。

为了深化教育改革,全面推进素质教育,在义务数学教育方面,同样跟随新的历史进程,着眼国际范围对小学数学教育的观念、内容、方法、手段和评价体系等方面进行了深入的改革,制订了《全日制义务教育数学课程标准》。义务教育阶段的数学课程,其出发点是促进学生全面、持续、和谐地发展。要求既要考虑数学自身的特点,更应遵循学生学习数学的心理规律,强调从学生已有的生活经验出发,让学生亲身经历将实际问题抽象成数学模型并进行解释与应用的过程,进而使学生获得对数学理解的同时,在思维能力、情感态度与价值观等多方面得到进步和发展。因此,在教学过程中有效地进行数学教学就显得尤为重要。笔者仅从以下三个方面谈谈小学数学的有效教学:

下载最新的网络百科X ML语料集合,如http://download.wiki media.org/zhwiki/latest,所有百科概念对应的解释文档包含在标签中。标签中的文档片段包含了概念的解释摘要和链接信息等有关信息。

  

图2 网络百科概念抽取判断流程Fig.2 The flow chart of Encyclopedia concept extraction

概念抽取前,需把标题(主概念)在维基百科页面中进行搜索并进行逻辑判断,以提高知识图谱的质量[14]。研究表明维基百科是通过包含在页面的链接来呈现相关概念的,将主概念页面正文中出现过的链接概念作为相关概念的来源。利用语义相似度计算方法分别计算标题(主概念)与相关概念的相似度,若候选概念在语料中不存在解释片段即没有对应的摘要,认为其相似度为零。

在监管工作中,黄岛区局坚持科技创新,建成国内领先的食品药品电子监管、投诉举报、检验检测“三大中心”,打造了电子监管、高风险环节视频监控、应急指挥平台等工程,建成了全国首座“食安便民亭”。目前在全国推广的“明厨亮灶”工程,就源于黄岛区的率先探索。其连续投资1500余万元实施“食药检测”实事项目,年抽检达9000批次,其药检所也成为山东省首家通过省级资质认定的药检所。

(1)基于语言学特征(词性和词频)进行概念筛选

[3] NAVIGLI R,VELARDI P.Lear ning do main ontologies fro m docu ment warehouses and dedicated websites[J].Co mputational Linguistics,2004,30:151-179.

(2)基于已有知识库的概念名称筛选

第2步:找出子领域的核心概念。

为纪念这得之不易的“芜湖户口”,纵然移居合肥多年,也不愿将户口自芜湖迁出——这小小的城市户口,曾经搭进去一个父亲多少尊严?

4 结束语

本文对中文知识图谱的概念抽取进行了探讨,总结以及提出了一些概念抽取的方法,论述了从不同数据源间抽取概念的方法。在当前互联网大数据的背景下,如何有效的组织和利用结构化数据、半结构化数据和非结构化数据等各种类型的数据,使这些数据更好的为知识图谱构建服务,成为大数据时代的新挑战。

SAR装置已开车运行3a,再生炉在长时间运行中,也慢慢地出现了炉体变形的情况。在检修过程中,进入炉体内发现两端法兰孔已经高度不一致,出现了严重的偏离,致使发射光不能完全被接收端接收到。经过反复检查测量后发现两端都存在向下偏移的情况,重新焊接固定,对光效果逐渐恢复正常。由于法兰孔径偏小的缘故,使得在调整透光率的时候,可调范围有限,为扩大仪表透光率的可调范围,遂将两端法兰孔略微扩大,调整后透光率保持在40%以上,达到了预期的效果。

知识图谱在语义检索、数据挖掘、人工智能、知识组织和智能问答等领域的应用非常广泛[15]。各行各业与知识图谱的深度结合,使数据信息变得更有价值,为相关科学领域开启新的发展方向。

知识图谱的构建是一个工作量巨大且比较困难的工作,虽然目前对知识图谱的研究工作有了很多有意义的尝试,但总的来说还不够完善和深入,后续还有很多研究工作需要完善,比如知识对齐、知识融合、知识图谱的绘制、知识推理以及质量评估。

参考文献:

[1] SHAMSFARD M,BARFOROUSH A A.Lerning ontologies fro m natural language texts[J].J Hu man-Computer Studies,2004,60(1):17-63.

[2] LEE S C,KAO Y F,KUO Y H,et al.Auto mated ontology construction f or unstructured text docu ments[J].Data&Knowledge Engineering,2007,60:547-566.

对弱相关概念根据相关概念的词性以及出现在正文中的频率对其进行综合加权打分,以此来确定其是否可加入到领域概念库。我们也可以通过构建名词词组解析方法来判断候选概念是否可作为概念。基于语言学特征的方法能够较好的提高精度,但是面对海量的数据时在进行计算处理操作时其复杂度较高,可移植性较差。

[4] 杜波,田怀凤,王立,等.基于多策略的专业领域术语抽取器的设计[J].计算机工程,2005,31(14):159-160.DU B,TIAN H F,WANG L,et al.Design of do mainspecific ter m extractor based on multi-strategy[J].Co mputer Engineering,2005,31(14):159-160.

农作物的产量除了内在的品种、科技等影响因素外,还有外在的环境因素,如特殊气候[1]。极端天气的出现,气象灾害对农业生产造成不利影响,使农民利益受损、农业经济发展受阻。为此,通过气象观测站的气象资料经过科学研究分析得出相关规律,为保障与提高农作物产量起到重要作用。

[5] 杨思洛,韩瑞珍.国外知识图谱绘制的方法与工具分析[J].图书情报知识,2012(6):101-109.YANG S L,HAN R Z.Analysis of foreign methods and tools of mapping knowledge do main[J].Documentation,Infor mation&Knowledge,2012(6):101-109.

[6] 袁旭萍.基于深度学习的商业领域知识图谱构建[D].上海:华东师范大学,2015.YUAN X P.Constr uction of business knowledge graph based on deep lear ning[D].Shanghai:East China Normal University,2015.

[7] HAO J,YAN Y,GONG L,et al.Knowledge mapbased method for do main knowledge browsing[J].Decision Support Systems,2014,61:106-114.

[8] 姚天顺,张俐,高竹.Wor d Net综述[J].语言文字应用,2001(1):27-32.YAO T S,ZHANG L,GAO Z.Introduction of Word-Net[J].Applied Linguistics,2001(1):27-32.

[9] ZHOU Y H,FENG J Y,YOU L S,et al.Matrine and CYC116 synergistically inhibit growth and induce apoptosis in multiple myelo ma cells[J].Chinese Jour nal of Integrative Medicine,2015,21(8):635-639.

本组患者手术之后有9例出现低度发热情况(体温不高于38.5℃),有6例患者出现肝区疼痛的情况,通常对症治疗后所有体征及症状均完全消失。手术之后患者没有出现肝坏死、胆管狭窄以及胆囊坏死等多种严重并发症。

[10] 那顺乌日图.蒙古语语言知识库的建立与应用[J].中文信息学报,2011,25(6):162-165.NASUN-URT.Construction and application of Mongolian language knowledge bank[J].Jour nal of Chinese Inf or mation Processing,2011,25(6):162-165.

[11] 杨家奇.基于Word Net英汉蒙三语领域本体的构建方法研究[D].呼和浩特:内蒙古师范大学,2016.YANGJ Q.Research on t he constr uction method of the do main ontology based on Word Net in English and Chinese Mongolian three languages[D].Hohhot:Inner Mongolia Nor mal University,2016.

[12] 李便霞.Word Net应用问题研究[J].科技致富向导,2013(23):280.LI B X.Word Net application problem research[J].Guide of Sci-tech Magazine,2013(23):280.

[13] 张海粟,马大明,邓智龙.基于维基百科的语义知识库及其构建方法研究[J].计算机应用研究,2011,28(8):2807-2811.ZHANG H S,MA D M,DENG Z L.Semantic knowledge bases constr uction based on Wikipedia[J].Application Research of Co mputers,2011,28(8):2807-2811.

[14] 苏小康.基于维基百科构建语义知识库及其在文本分类领域的应用研究[D].武汉:华中师范大学,2010.SU X K.Research on building Wikipedia semantic knowledge base and its application in text classification[D].Wuhan:Central China Nor mal University,2010.

[15] 知识图谱技术原理介绍[EB/OL].[2017-10-21].https://wenku. baidu. co m/view/b3858227c5da50e2534d7f08.ht ml.Introduction to knowledge technology principles[EB/OL].[2017-10-21].https://wenku.baidu.co m/view/b3858227c5da50e2534d7f08.ht ml.

 
边慧珍,哈斯
《广西科学院学报》 2018年第01期
《广西科学院学报》2018年第01期文献

服务严谨可靠 7×14小时在线支持 支持宝特邀商家 不满意退款

本站非杂志社官网,上千家国家级期刊、省级期刊、北大核心、南大核心、专业的职称论文发表网站。
职称论文发表、杂志论文发表、期刊征稿、期刊投稿,论文发表指导正规机构。是您首选最可靠,最快速的期刊论文发表网站。
免责声明:本网站部分资源、信息来源于网络,完全免费共享,仅供学习和研究使用,版权和著作权归原作者所有
如有不愿意被转载的情况,请通知我们删除已转载的信息 粤ICP备2023046998号