單類中心學(xué)習(xí)及其在二元關(guān)系抽取中的應(yīng)用.pdf

1、在互聯(lián)網(wǎng)上進(jìn)行二元關(guān)系抽取，是當(dāng)前信息抽取的重要研究方向。為利用互聯(lián)網(wǎng)的大量未標(biāo)定語料，許多文獻(xiàn)提出了基于self-training機(jī)制的學(xué)習(xí)方法：即在小標(biāo)注集上訓(xùn)練初始系統(tǒng)，然后在系統(tǒng)運(yùn)行過程中，自動標(biāo)定可靠候選，重新訓(xùn)練，以改進(jìn)系統(tǒng)性能。 實(shí)踐證明：上述方法在二元關(guān)系抽取中是行之有效的，但已有文獻(xiàn)缺乏對學(xué)習(xí)過程的理論分析。 本文首先將在二元關(guān)系抽取中的模式學(xué)習(xí)問題轉(zhuǎn)化為單類文本中心的學(xué)習(xí)問題。在文本向量空間中，當(dāng)初始

2、中心被給定后，可將其足夠小鄰域內(nèi)的文本向量作為自動標(biāo)定數(shù)據(jù)。本文要解決的核心問題是：當(dāng)數(shù)據(jù)集具有何種特性時，利用自動標(biāo)定數(shù)據(jù)能確定地改進(jìn)對單類中心的學(xué)習(xí)？ 為解決該問題，本文研究文本向量空間的分布特性。為克服高斯混合模型在描述具有硬聚類特性的數(shù)據(jù)分布時的缺點(diǎn)，本文提出了基于k-means算法劃分區(qū)域的TGMK模型，并揭示了TGMK模型與k-means算法、高斯混合模型的密切聯(lián)系。實(shí)驗(yàn)結(jié)果表明：TGMK模型適合描述多類文本數(shù)據(jù)。

3、 本文在k-means算法基礎(chǔ)上提出了single-mean算法。文中證明：當(dāng)多類數(shù)據(jù)集適合被1-TGMK的泛化模型-1-TGMR模型所描述時，新算法從目標(biāo)類的初始中心出發(fā)，將收斂到實(shí)際中心。至此，完成了對核心問題的解答。實(shí)驗(yàn)表明了新算法在文本數(shù)據(jù)上的有效性，從而說明了self-training機(jī)制在二元關(guān)系抽取中的有效性。 本文為二元關(guān)系抽取工作建立了基于single-mean算法的形式化學(xué)習(xí)模型，并針對在互聯(lián)網(wǎng)上進(jìn)行二