基于深度學(xué)習(xí)的屬性抽取技術(shù)研究.pdf

1、如何將大量的非結(jié)構(gòu)化信息轉(zhuǎn)換為人們易于理解的結(jié)構(gòu)化信息，提取語(yǔ)義信息，已成為近年來(lái)研究的熱點(diǎn)。實(shí)體的屬性抽取方法，是將非結(jié)構(gòu)化數(shù)據(jù)轉(zhuǎn)換為結(jié)構(gòu)化數(shù)據(jù)的一種重要手段，是自然語(yǔ)言處理任務(wù)的一個(gè)重要子任務(wù)。雖然，已經(jīng)有不少的方法提出用來(lái)完成屬性抽取任務(wù)，但是這些方法中仍然存在一些問(wèn)題需要解決。本文針對(duì)這些方法中存在的問(wèn)題進(jìn)行深入研究，提出了一種基于長(zhǎng)短期記憶網(wǎng)絡(luò)的多實(shí)例多標(biāo)簽的算法，主要按照以下順序展開(kāi)工作:
　　首先展示了屬性抽取較為流

2、行的幾種方法，主要有基于規(guī)則的方法、有監(jiān)督的和無(wú)監(jiān)督的機(jī)器學(xué)習(xí)方法。這些方法存在對(duì)人工和其他自然語(yǔ)言處理工具依賴性過(guò)大，無(wú)法應(yīng)用到目標(biāo)關(guān)系，性能還有待提升等問(wèn)題。
　　針對(duì)上述問(wèn)題，本文提出的方法使用遠(yuǎn)程監(jiān)督的方式生成模型訓(xùn)練和測(cè)試所需要的樣本，減少對(duì)人工的依賴。使用多實(shí)例多標(biāo)簽?zāi)Ｐ徒鉀Q遠(yuǎn)程監(jiān)督生成樣本中的多實(shí)例多標(biāo)簽現(xiàn)象。多實(shí)例多標(biāo)簽?zāi)Ｐ屠脦в须[變量的圖模型建模一個(gè)實(shí)體對(duì)有多個(gè)實(shí)例，以及不同實(shí)例可能對(duì)應(yīng)不同標(biāo)簽因而存在多個(gè)標(biāo)簽

3、的問(wèn)題。
　　同時(shí)，使用深度學(xué)習(xí)的方法自動(dòng)學(xué)習(xí)大量樣本數(shù)據(jù)的內(nèi)部規(guī)律。利用詞向量作為模型需要的特征，能夠表達(dá)詞與詞之間的相似性，減少對(duì)其它自然語(yǔ)言處理工具的依賴，防止錯(cuò)誤的傳播和累加。使用長(zhǎng)短期記憶網(wǎng)絡(luò)訓(xùn)練模型，充分利用了句子的時(shí)序信息，通過(guò)句子前后的上下文關(guān)系，學(xué)習(xí)了句子中存在的語(yǔ)法關(guān)系和語(yǔ)義關(guān)系。長(zhǎng)短期記憶網(wǎng)絡(luò)能夠選擇性的丟棄一些無(wú)用信息，而保留重要的有用信息，對(duì)于學(xué)習(xí)較長(zhǎng)句子中的內(nèi)在關(guān)系非常有效。此外，本文還利用了實(shí)體的類(lèi)型