《人工智能技術(shù)基礎(chǔ)》課件 第7章 知識圖譜

人工智能技術(shù)基礎(chǔ)知識圖譜第七章

知識圖譜（KnowledgeGraph）的概念最早由谷歌公司于2012年5月17日正式提出，旨在提高搜索引擎的能力，改善用戶的搜索質(zhì)量。2013年以后知識圖譜開始在學術(shù)界和產(chǎn)業(yè)界普及，已被廣泛應(yīng)用于智能搜索、智能問答、個性化推薦、情報分析、反欺詐等領(lǐng)域。

知識圖譜是一種用圖模型來描述知識和世界萬物之間關(guān)聯(lián)關(guān)系的技術(shù)方法，可以對現(xiàn)實世界的事物及其相互關(guān)系進行形式化地描述，能夠挖掘、分析、構(gòu)建、繪制和顯示知識及它們之間的相互聯(lián)系。

知識圖譜分為通用知識圖譜和領(lǐng)域知識圖譜。通用知識圖譜強調(diào)的是廣度，數(shù)據(jù)多來自互聯(lián)網(wǎng)，而領(lǐng)域知識圖譜應(yīng)用于垂直領(lǐng)域，為基礎(chǔ)數(shù)據(jù)服務(wù)。7知識圖譜簡介目錄Contents知識圖譜的起源知識圖譜的架構(gòu)知識抽取7.17.27.37.47.57.6知識融合知識加工本章小結(jié)1.理解知識圖譜的起源和定義，了解知識圖譜的歷史背景和發(fā)展歷程，掌握知識圖譜的基本定義和概念，掌握知識圖譜的邏輯架構(gòu)和技術(shù)架構(gòu)；2.掌握知識抽取的基本原理和常見技術(shù)，了解數(shù)據(jù)源分類，學習使用不同的方法從數(shù)據(jù)源中提取知識，了解知識抽取中的難點和挑戰(zhàn)；3.學習知識融合基本技術(shù)流程、典型的知識融合工具以及實體連接的基本方法。理解知識加工的過程，掌握實體構(gòu)建的方法，學會如何進行知識推理，了解質(zhì)量評估和知識更新的方式；4.能夠應(yīng)用知識圖譜的基本架構(gòu)和設(shè)計原則，使用常見的技術(shù)和方法進行知識抽取、融合和加工；5.通過學習能夠設(shè)計和實現(xiàn)一個簡單的知識圖譜應(yīng)用。7知識圖譜學習目標01知識圖譜的起源7.1知識圖譜的起源7.1.1知識工程和專家系統(tǒng)知識工程（KnowledgeEngineering）是研究人類智能和高級知識的發(fā)生機制和規(guī)律，用于構(gòu)造專家系統(tǒng)的理論。專家系統(tǒng)是指利用某種方法將專業(yè)領(lǐng)域的專家知識收集下來，并存儲在程序中，然后利用程序模擬人類的思維（推理+搜索）過程，去解決某些專業(yè)領(lǐng)域的問題。2012年谷歌提出知識圖譜1977年，在第五屆國際人工智能會議上美國計算機科學家費根鮑姆首次提出知識工程20世紀80年代許多專家系統(tǒng)得到應(yīng)用7.1知識圖譜的起源7.1.2語義網(wǎng)絡(luò)、語義網(wǎng)、鏈接數(shù)據(jù)和知識圖譜語義網(wǎng)絡(luò)（SemanticNetwork）是由Quillian于20世紀60年代提出的知識表達方法，用相互連接的節(jié)點和邊來表示知識。優(yōu)點：語義網(wǎng)絡(luò)表達形式簡單直白，容易理解和展示，相關(guān)概念容易聚類。缺點：語義網(wǎng)絡(luò)的節(jié)點和邊值完全由用戶定義，沒有統(tǒng)一標準，導致難以進行多源數(shù)據(jù)融合，無法區(qū)分概念節(jié)點和對象節(jié)點，無法對節(jié)點和邊的標簽進行定義。is-a關(guān)系，比如：貓是一種哺乳動物；part-of關(guān)系，比如：脊椎是哺乳動物的一部分。7.1知識圖譜的起源7.1.2語義網(wǎng)絡(luò)、語義網(wǎng)、鏈接數(shù)據(jù)和知識圖譜語義網(wǎng)（SemanticWeb）和鏈接數(shù)據(jù)是萬維網(wǎng)之父TimBernersLee分別在1998年和2006提出的。鏈接數(shù)據(jù)起初是用于定義如何利用語義網(wǎng)技術(shù)在網(wǎng)上發(fā)布數(shù)據(jù)，強調(diào)在不同的數(shù)據(jù)集間創(chuàng)建鏈接。語義網(wǎng)和鏈接數(shù)據(jù)傾向描述萬維網(wǎng)中資源、數(shù)據(jù)之間的關(guān)系。語義網(wǎng)是為了使得網(wǎng)絡(luò)上的數(shù)據(jù)變得機器可讀而提出的一個通用框架。知識圖譜的早期理念源于TimBerners-Lee關(guān)于語義網(wǎng)的設(shè)想，旨在采用圖結(jié)構(gòu)（GraphStructure）來建模和記錄世界萬物之間的關(guān)聯(lián)關(guān)系和知識，以便有效地實現(xiàn)更加精準的對象級搜索。7.1知識圖譜的起源7.1.3知識圖譜的定義知識圖譜是把所有不同種類的信息連接在一起，而得到的一個關(guān)系網(wǎng)絡(luò)。知識圖譜的作用是對于大量無序雜亂的信息，識別出其中的實體及實體屬性等，形成一個關(guān)系圖。知識圖譜是結(jié)構(gòu)化的語義知識庫，用于迅速描述物理世界中的概念及其相互關(guān)系。知識圖譜通過對錯綜復(fù)雜的文檔的數(shù)據(jù)進行有效地加工、處理、整合，使其轉(zhuǎn)化為簡單、清晰的“實體、關(guān)系、屬性”的三元組，最后聚合大量知識，實現(xiàn)知識的快速響應(yīng)和推理。圖譜應(yīng)用包括原圖應(yīng)用、知識檢索、算法支撐、知識自動化等。圖7-2對知識圖譜的初步理解7.1知識圖譜的起源7.1.3知識圖譜的定義知識圖譜通過三元組“實體、關(guān)系、屬性”集合的形式來描述事物之間的關(guān)系。實體：又稱本體，指客觀存在并可以相互區(qū)別的事物，可以是具體的人、事、物，也可以是抽象的概念或聯(lián)系，實體是知識圖譜中最基本的元素。關(guān)系：在知識圖譜中，邊表示知識圖譜中的關(guān)系，用來表示不同實體間的某種聯(lián)系。屬性：知識圖譜中的實體和關(guān)系都可以有各自的屬性。圖7-3知識圖譜的概念02知識圖譜的架構(gòu)7.2

知識圖譜的架構(gòu)7.2.1邏輯架構(gòu)知識圖譜的架構(gòu)包括自身的邏輯結(jié)構(gòu)以及構(gòu)建知識圖譜所采用的技術(shù)（體系）架構(gòu)。知識圖譜在邏輯結(jié)構(gòu)上可分為數(shù)據(jù)與模式兩個層次；數(shù)據(jù)層：底層存儲數(shù)據(jù)三元組的邏輯層次，通常通過本體庫來管理數(shù)據(jù)層，模式層：知識圖譜的核心，通常采用本體庫來管理知識圖譜的模式層。本體庫：相當于對象中“類”的概念。7.2

知識圖譜的架構(gòu)7.2.1邏輯架構(gòu)數(shù)據(jù)層：主要是由一系列的事實組成，而知識將以事實為單位進?存儲；模式層：存儲經(jīng)過提煉的知識，通常通過本體庫來管理這一層；本體庫：儲存著知識圖譜的類，數(shù)據(jù)層則存儲真實的數(shù)據(jù)。模式層：實體#關(guān)系#實體，實體#屬性#性值。數(shù)據(jù)層：吳京#妻子#謝楠，吳京#導演#戰(zhàn)狼Ⅱ。實例7.2

知識圖譜的架構(gòu)7.2.2技術(shù)架構(gòu)知識圖譜的技術(shù)架構(gòu)是指其構(gòu)建模式的結(jié)構(gòu)，同時也是知識圖譜更新的過程。圖7-5知識圖譜的技術(shù)架構(gòu)7.2

知識圖譜的架構(gòu)7.2.2技術(shù)架構(gòu)知識圖譜構(gòu)建從最原始的數(shù)據(jù)，采用一系列自動或半自動的技術(shù)手段，從原始數(shù)據(jù)庫和第三方數(shù)據(jù)庫中提取知識事實，并將其存入知識庫的數(shù)據(jù)層和模式層，具體過程可以分為下面4個階段。01020304知識加工知識融合知識抽取數(shù)據(jù)源（數(shù)據(jù)獲?。?3知識抽取7.3

知識抽取

知識抽?。↘nowledgeExtraction）是指自動地從文本中發(fā)現(xiàn)和抽取相關(guān)信息，并將多個文本碎片中的信息進行合并，將非結(jié)構(gòu)化數(shù)據(jù)轉(zhuǎn)換為結(jié)構(gòu)化數(shù)據(jù)。知識抽取任務(wù)主要包括以下3個關(guān)鍵子任務(wù)。

實體抽?。簭奈谋局袡z測出命名實體，再將它分類到預(yù)定義的類別中，比如這個實體是屬于人物類、組織類、地點類等等。關(guān)系抽?。簭奈谋局凶R別抽取到實體與實體之間的關(guān)系。事件抽?。簭奈谋局凶R別關(guān)于事件的信息，并以結(jié)構(gòu)化的形式呈現(xiàn)，比如可以從一條新聞報道中識別到這件事情發(fā)生的時間、地點、人物等信息。7.3

知識抽取知識抽取面向不同類型的數(shù)據(jù)源，涉及的關(guān)鍵技術(shù)和需要解決的技術(shù)難點有所不同。知識抽取主要包含序列標注任務(wù)和結(jié)構(gòu)化知識生成任務(wù)兩種。表7-1知識抽取的數(shù)據(jù)源數(shù)據(jù)源定義舉例結(jié)構(gòu)化數(shù)據(jù)是指由二維表結(jié)構(gòu)來邏輯表達和實現(xiàn)的數(shù)據(jù)。嚴格地遵循數(shù)據(jù)格式與長度規(guī)范，主要通過關(guān)系型數(shù)據(jù)庫進行存儲和管理。半結(jié)構(gòu)化數(shù)據(jù)是結(jié)構(gòu)化數(shù)據(jù)的一種形式，雖不符合關(guān)系型數(shù)據(jù)庫或其他數(shù)據(jù)表的形式關(guān)聯(lián)起來的數(shù)據(jù)模型結(jié)構(gòu)，但包含相關(guān)標記，用來分隔語義元素以及對記錄和字段進行分層。常見的有百科類數(shù)據(jù)、網(wǎng)頁數(shù)據(jù)、JSON、XML等。非結(jié)構(gòu)化數(shù)據(jù)是數(shù)據(jù)結(jié)構(gòu)不規(guī)則或不完整，沒有預(yù)定義的數(shù)據(jù)模型，不方便使用數(shù)據(jù)庫二維邏輯表來表現(xiàn)的數(shù)據(jù)。包括所有格式的辦公文檔、文本、圖片、HTML、各類報表、圖像和音頻/視頻信息等。IDNamePhoneAddress1張一3337899湖北省武漢市2王二3337499廣東省深圳市福田區(qū)3李三3339003廣東省深圳市南山區(qū)7.3

知識抽取7.3.1非結(jié)構(gòu)化數(shù)據(jù)的知識抽取1.實體抽取1）定義實體抽?。河置麑嶓w識別，從文本中檢測出命名實體，并將其分類到預(yù)定義的類別中，實體抽取實例：一段新聞報道中的句子“北京時間9月22日，中超聯(lián)賽第26輪，上海申花主場2:0力克滄州雄獅”。圖7-7實體抽取舉例7.3

知識抽取7.3.1非結(jié)構(gòu)化數(shù)據(jù)的知識抽取1.實體抽取2）方法從文本中進行實體抽取，首先需要從文本中識別和定位實體，再將識別的實體分類到預(yù)定義的類別中。圖7-8實體抽取方法7.3

知識抽取7.3.1非結(jié)構(gòu)化數(shù)據(jù)的知識抽取2.關(guān)系抽取1）定義關(guān)系抽?。≧elationExtraction，RE）面向非結(jié)構(gòu)化文本數(shù)據(jù)。關(guān)系抽取是自動識別實體之間具有的某種語義關(guān)系，從文本中抽取實體及實體之間的關(guān)系。2）方法關(guān)系抽取一般是在識別出文本的實體后，再抽取實體之間可能存在的關(guān)系。圖7-12關(guān)系抽取方法7.3

知識抽取7.3.1非結(jié)構(gòu)化數(shù)據(jù)的知識抽取3.事件抽取1）定義事件是指發(fā)生的事情，通常具有時間、地點、參與者等屬性。事件的發(fā)生可能是因為一個動作的產(chǎn)生或者系統(tǒng)狀態(tài)的改變。事件抽取是指從文本中抽取用戶感興趣的事件信息，并以結(jié)構(gòu)化的形式呈現(xiàn)。圖7-15“出生”事件的基本組成要素7.3

知識抽取7.3.1非結(jié)構(gòu)化數(shù)據(jù)的知識抽取3.事件抽取2）方法抽取的方法主要有基于規(guī)則的方法、基于監(jiān)督學習的方法和基于弱監(jiān)督學習的方法，任務(wù)包含的子任務(wù)有5類，分別為識別觸發(fā)詞以及事件類型、抽取事件元素及判斷其角色、事件描述（詞組或句子）、事件屬性標注以及事件共指消歧。圖7-16事件抽取方法7.3

知識抽取7.3.1非結(jié)構(gòu)化數(shù)據(jù)的知識抽取3.事件抽取事件觸發(fā)詞識別是一項非常具有挑戰(zhàn)性的任務(wù)，因為一個詞在不同的上下文可以觸發(fā)不同的事件，例如觸發(fā)詞release。圖7-17事件觸發(fā)詞識別7.3

知識抽取7.3.2結(jié)構(gòu)化數(shù)據(jù)的知識抽取結(jié)構(gòu)化數(shù)據(jù)指類似關(guān)系庫中表格形式的數(shù)據(jù)，它們各項之間往往存在明確的關(guān)系名稱和對應(yīng)關(guān)系。因此可以簡單的將其轉(zhuǎn)化為RDF或其他形式的知識庫內(nèi)容。2012年發(fā)布了兩個RDB2RDF映射方法：直接映射（DirectMapping，DM）和R2RML。序號映射前的關(guān)系數(shù)據(jù)庫參數(shù)映射后的知識庫參數(shù)1表（Table）類（Class）2列（Column）RDF屬性（Property）3行（Row）資源/實體（Resource/Instance），創(chuàng)建IRI4單元（Cell）屬性值（PropertyValue）表7-5關(guān)系數(shù)據(jù)映射為知識庫規(guī)則7.3

知識抽取7.3.3半結(jié)構(gòu)化數(shù)據(jù)的知識抽取半結(jié)構(gòu)化數(shù)據(jù)是指類似百科、商品列表等本身存在一定結(jié)構(gòu)但需要進一步提取整理的數(shù)據(jù)。1.百科類數(shù)據(jù)知識抽取以百度百科為代表的百科類數(shù)據(jù)是典型的半結(jié)構(gòu)化數(shù)據(jù)。已經(jīng)構(gòu)建的知識圖譜有DBpedia、Yago、Zhishi.me、XLore和CN-DBpedia等。DBpedia是較早發(fā)布、具有代表性的知識圖譜，以此為例介紹構(gòu)建方法。圖7-20百度百科詞條頁面結(jié)構(gòu)7.3

知識抽取7.3.3半結(jié)構(gòu)化數(shù)據(jù)的知識抽取2.Web網(wǎng)頁數(shù)據(jù)抽取網(wǎng)頁數(shù)據(jù)進行抽取可以使用包裝器實現(xiàn)。包裝器是一個能夠?qū)?shù)據(jù)從HTML網(wǎng)頁中抽取出來，并且將它們還原為結(jié)構(gòu)化數(shù)據(jù)的軟件程序。基于包裝器抽取網(wǎng)頁信息的流程，輸入為網(wǎng)頁數(shù)據(jù)，通過包裝器進行抽取，輸出結(jié)構(gòu)化數(shù)據(jù)。包裝器的生成方法有3大類：手工方法、包裝器歸納方法和自動抽取方法。7.3

知識抽取7.3.3半結(jié)構(gòu)化數(shù)據(jù)的知識抽取3.自動抽取方法在自動抽取方法中，相似的網(wǎng)頁首先通過聚類被分成若干組，通過挖掘同一組中相似網(wǎng)頁的重復(fù)模式可以生成適用于該組網(wǎng)頁的包裝器。應(yīng)用包裝器進行數(shù)據(jù)抽取時，首先將需要抽取的頁面劃分到先前生成的網(wǎng)頁組，然后應(yīng)用該組對應(yīng)的包裝器進行數(shù)據(jù)抽取。圖7-25自動抽取流程04知識融合7.4

知識融合圖7-26實例層異構(gòu)舉例7.4

知識融合知識融合包含兩部分內(nèi)容，分別為實體鏈接和知識合并。知識融合通過這兩個過程可以清除知識抽取得到的結(jié)構(gòu)化數(shù)據(jù)中可能存在的大量冗余和錯誤信息，整合相關(guān)數(shù)據(jù)，解決數(shù)據(jù)之間扁平化的關(guān)系，缺乏層次性和邏輯性的問題，從而提高知識的質(zhì)量。圖7-27知識融合舉例7.4

知識融合7.4.1知識融合的基本技術(shù)流程知識融合一般分為兩步：本體對齊和實體匹配。圖7-28知識融合的基本技術(shù)流程7.4

知識融合7.4.2典型知識融合工具1.本體匹配（本體對齊）工具-Falcon-AOFalcon-AO：是一個基于Java的自動本體匹配系統(tǒng)，已經(jīng)成為RDF(S)和OWL所表達的Web本體相匹配的一種實用和流行的選擇。7.4

知識融合7.4.2典型知識融合工具2.實體匹配工具-DedupeDedupe用于模糊匹配，記錄去重和實體鏈接的Python庫。①指定謂詞集合&相似度函數(shù)②訓練Blocking③訓練邏輯回歸（LR）模型7.4

知識融合7.4.2典型知識融合工具（3）實體匹配工具-LimesLimes是一個基于度量空間的實體匹配發(fā)現(xiàn)框架，適合大規(guī)模數(shù)據(jù)鏈接，編程語言是Java。圖7-33Limes整體框架7.4

知識融合7.4.2典型知識融合工具（4）實體匹配工具-SilkSilk用于集成異構(gòu)數(shù)據(jù)源的開源框架。圖7-34

Silk整體框架7.4

知識融合7.4.3實體鏈接實體鏈接（EntityLinking）是指對于從文本中抽取得到的實體對象，將其鏈接到知識庫中對應(yīng)的正確實體對象的操作。

實體指稱項：在具體上下文中出現(xiàn)的待消歧實體名，是實體消歧任務(wù)的基本單位。實體消歧：判斷知識庫中的同名實體是否代表不同的含義，可以理解為解決實體概念的一詞多義現(xiàn)象。屬性對齊：把同一個屬性的不同描述方式進行融合。共指消解：知識庫中是否存在其它命名實體和當前實體表示相同的含義。7.4

知識融合7.4.3實體鏈接實體鏈接（EntityLinking）基本思想是首先根據(jù)給定的實體指稱項，從知識庫中選出一組候選實體對象，然后通過相似度計算將指稱項鏈接到正確的實體對象?；玖鞒贪▽嶓w指稱識別、候選實體生成和候選實體消歧3個步驟。7.4

知識融合7.4.3實體鏈接中國證券網(wǎng)訊（記者王雪青）中國證券記者今日獲悉，萬達集團的文明產(chǎn)業(yè)版圖將再添世界級新軍——傳奇影業(yè)，具體收購情況或于下周二正式發(fā)布。實體鏈接實例7.4

知識融合7.4.3實體鏈接無鏈接提及預(yù)測候選實體消歧候選實體生成實體指稱識別7.4

知識融合7.4.3實體鏈接詞語消歧：指代、重名等現(xiàn)象，不利于機器準確理解文本的語義。知識圖譜融合：知識圖譜的融合，可以粗暴地理解為批量地向已有知識庫添加三元組信息，使用實體鏈接技術(shù)可以實現(xiàn)添加操作的自動化。知識圖譜構(gòu)建：知識圖譜的構(gòu)建過程，就是將一個個三元組添加到已有知識庫的。實體鏈接應(yīng)用7.4

知識融合7.4.4知識合并常見的知識合并需求有兩個方面：一是合并外部知識庫，二是合并關(guān)系數(shù)據(jù)庫。合并外部知識庫將外部知識庫融合到本地知識庫需要處理兩個層面的問題：數(shù)據(jù)層的融合和模式層的融合。數(shù)據(jù)層的融合：包括實體的指稱、屬性、關(guān)系以及所屬類別等，主要問題是如何避免實例以及關(guān)系的沖突問題，造成不必要的冗余。模式層的融合：主要是將得到的本體融入已有的本體庫中。合并關(guān)系數(shù)據(jù)庫在知識圖譜構(gòu)建過程中，一個重要的高質(zhì)量知識來源是企業(yè)或機構(gòu)自己的關(guān)系數(shù)據(jù)庫。為了將這些結(jié)構(gòu)化的歷史數(shù)據(jù)融入到知識圖譜中，可以采用資源描述框架（RDF）作為數(shù)據(jù)模型。業(yè)界和學術(shù)界將這一數(shù)據(jù)轉(zhuǎn)換過程形象地稱為RDB2RDF，其實質(zhì)就是將關(guān)系數(shù)據(jù)庫的數(shù)據(jù)換成RDF的三元組數(shù)據(jù)。05知識加工7.5知識加工7.5.1

實體構(gòu)建通過信息抽取，可以從原始語料中提取出實體、關(guān)系與屬性等知識要素，再經(jīng)過知識融合，可以消除實體指稱項與實體對象之間的歧義，得到一系列基本的事實表達。事實本身并不等于知識，要想最終獲得結(jié)構(gòu)化、網(wǎng)絡(luò)化的知識體系，還需要經(jīng)歷知識加工的過程。知識加工主要包括3方面內(nèi)容：實體構(gòu)建、知識推理和質(zhì)量評估。7.5知識加工7.5.1

實體構(gòu)建構(gòu)建實體可以采用人工編輯的方式手動構(gòu)建，如借助實體編輯軟件。人工方式的工作量巨大，一般以數(shù)據(jù)驅(qū)動的方式構(gòu)建本體，包含3個階段：實體并列關(guān)系相似度計算、實體上下位關(guān)系抽取和實體的生成。圖7-40本體構(gòu)建實例7.5知識加工7.5.2知識推理知識推理是指從知識庫中已有的實體關(guān)系數(shù)據(jù)出發(fā)進行計算機推理，建立實體間的新關(guān)聯(lián)，從而拓展和豐富知識網(wǎng)絡(luò)。假設(shè)，A的孩子是Z，B的孩子是Z，那么A、B的關(guān)系很有可能是配偶關(guān)系。例如康熙是雍正的父親，雍正是乾隆的父親，對于康熙和乾隆這兩個實體，通過知識推理可以獲得他們之間是祖孫關(guān)系。知識推理的對象也并不局限于實體間的關(guān)系，也可以是實體的屬性值、本體的概念層次關(guān)系等。

推理屬性值：已知某實體的生日屬性，可以通過推理得到該實體的年齡屬性。

推理概念：已知(老虎，科，貓科)和（貓科，目，食肉目）可以推出（老虎#目：食肉目）7.5知識加工7.5.2知識推理（1）基于邏輯的推理方法基于邏輯的推理主要包括一階邏輯謂詞、描述邏輯以及基于規(guī)則的推理。一階謂詞邏輯建立在命題的基礎(chǔ)上，在一階謂詞邏輯中，命題被分解為個體（Individuals）和謂詞（Predication）兩部分。個體是指可以獨立存在的客體，可以是一個具體的事物，也可以是一個抽象的概念。謂詞是用來刻畫個體性質(zhì)及事物關(guān)系的詞。比如（A，friend，B）就是表達個體A和B關(guān)系的謂詞。描述邏輯（DescriptionLogic）是一種基于對象知識表示的形式化工具，是一階謂詞邏輯的子集，它是實體語言推理的重要設(shè)計基礎(chǔ)?；谝?guī)則的推理可以利用專門的規(guī)則語言，如SWRL（SemanticWebRuleLanguage）。7.5知識加工7.5.2知識推理（2）基于圖