基于多學習方式的信息抽取技術研究.pdf

1、文本是信息的重要載體之一。隨著計算機普及和互聯(lián)網(wǎng)的發(fā)展，產(chǎn)生了海量的文本資源。其產(chǎn)生的速度已經(jīng)遠遠超過人工對信息和知識的處理能力。通過計算機輔助，從而高效地從無結構化的文本中提取有價值的信息，成為科研人員的重要課題。信息抽取作為自然語言處理領域的關鍵問題之一，通過將文本中所含有的信息加以處理，轉化為結構化的形式加以存儲，從而提高人們從海量文獻中獲取知識和信息的效率。
　　基于統(tǒng)計的機器學習方法在信息抽取領域有著廣泛的應用。這類方法

2、通常利用標注語料對分類模型加以訓練，從而確定模型參數(shù)，訓練好的模型用以對其他未知結果數(shù)據(jù)加以判斷。由于此類方法存在對大規(guī)模標注樣本的依賴，當訓練好的模型應用于缺乏標注數(shù)據(jù)的新領域時，其性能會出現(xiàn)明顯下降。為此本文提出中采用最大熵模型與條件隨機場模型為基礎，融合監(jiān)督學習、主動學習以及半監(jiān)督學習等多種方式，通過使用少量標注語料與大規(guī)模新領域的未標注語料對分類器進行訓練，顯著提高信息抽取領域相關問題對新領域文本的適應性。本文主要研究利用多種學

3、習方式相融合來解決文本信息抽取中三個核心任務：命名實體識別、語義關系抽取和語義角色標注。信息抽取目前被應用到很多領域當中，除了常見的用于新聞領域文本的信息抽取，生物醫(yī)學也是其中一個重要應用領域。因此，本文對生物醫(yī)學領域的信息抽取及其子任務也進行了深入的研究。
　　命名實體識別是指識別某一領域文本中具有特定含義的實體。例如，在針對新聞領域，命名實體主要包括人名、地名、機構名、其他專有名詞等。該任務是整個信息抽取的基礎。本文將中文命名

4、實體識別任務看作一個序列標注問題，提出了以條件隨機場模型為基礎的主動學習和自學習方法。針對采用主動學習和自學習方法來解決序列標注問題時樣本選擇標準難以確定的問題，我們提出了基于信息密度的樣本選擇標準。本文提出的多學習方式融合的命名實體識別方降低了命名體識別系統(tǒng)對標注語料的依賴程度，從而大大提高了命名體識別系統(tǒng)對于新領域的適應性。
　　生物醫(yī)學領域命名實體識別研究相較于其他領域發(fā)展較為緩慢，這主要是因為其領域中命名實體命名的不規(guī)范化

5、以及新詞較快的產(chǎn)生速度有著密切的關系。在這一問題的研究中，我們針對其標注語料少且標注難度高的特點，提出了基于廣義期望準則的生物醫(yī)學命名體識別的半監(jiān)督學習方法。該方法將廣義期望準則與條件隨機場模型相融合，在保障了系統(tǒng)識別率的基礎上，將所需語料庫的標注方式從樣本標注降改進為特征標注，降低了標注難度，提高了標注效率。
　　語義關系抽取是信息抽取領域的另一個核心任務，是從無結構的文獻中抽取出相關知識的重要手段。考慮到目前已構建的各種知識庫

6、中所包含的信息可能有利于語義關系抽取的研究，我們以生物醫(yī)學文獻為例提取現(xiàn)有的生物醫(yī)學領域知識庫中的信息作為特征，提出了引入領域概念特征的語義關系抽取方法。這種方法不僅可以顯著地提高生物醫(yī)藥領域關系抽取的識別率，還可以方便地推廣到其他領域的語義關系抽取。針對現(xiàn)有關系抽取系統(tǒng)由于依賴訓練語料而難以移植的問題，我們提出了將廣義期望準則與最大熵模型相融合的半監(jiān)督學習方法。該種方法在實現(xiàn)高精度語義關系抽取的同時，大大降低了對標注語料的依賴性。