基于感知器算法的高效中文分詞與詞性標(biāo)注系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn).pdf

1、分詞、詞性標(biāo)注是自然語言處理的基礎(chǔ)性課題,是很多其他自然語言處理任務(wù)的基礎(chǔ),同時(shí)在很大程度上影響著后續(xù)任務(wù)的最終性能。構(gòu)建一個(gè)高性能、高效率的中文分詞、詞性標(biāo)注系統(tǒng)具有重要的學(xué)術(shù)意義和應(yīng)用價(jià)值。
　　本文著眼于構(gòu)建一個(gè)性能優(yōu)異、高效率的分詞、詞性標(biāo)注系統(tǒng)。本文的研究內(nèi)容主要包括三方面:詞典和統(tǒng)計(jì)相結(jié)合的分詞、詞性標(biāo)注方法,系統(tǒng)效率優(yōu)化和性能提升以及基于感知器(Perceptron)算法的模型增量訓(xùn)練。
　　本文使用詞典與統(tǒng)計(jì)

2、相結(jié)合的分詞、詞性標(biāo)注方法,不僅使分詞、詞性標(biāo)注達(dá)到了一個(gè)較好的性能,而且通過將詞典信息融入統(tǒng)計(jì)模型實(shí)現(xiàn)了中文分詞領(lǐng)域自適應(yīng)以及詞性標(biāo)注效率的提升。在此基礎(chǔ)上本文實(shí)現(xiàn)了基于感知器的并行訓(xùn)練算法,在保證性能的前提下大幅度提高模型訓(xùn)練效率。此外,本文還通過對(duì)模型文件的壓縮來提高速度以及減小內(nèi)存需求。同時(shí),本文使用半指導(dǎo)方法利用大規(guī)模未標(biāo)注數(shù)據(jù)進(jìn)一步提升詞性標(biāo)注準(zhǔn)確率。然后我們利用感知器算法屬于在線(Online)算法的優(yōu)點(diǎn),提出了基于感知器

3、算法的模型增量訓(xùn)練方法,并通過實(shí)驗(yàn)驗(yàn)證了增量訓(xùn)練方法在相同領(lǐng)域的有效性。最后我們通過對(duì)跨領(lǐng)域中文分詞增量訓(xùn)練結(jié)果不理想的原因進(jìn)行深入分析,將Stacked Learning框架引入跨領(lǐng)域中文分詞中。
　　實(shí)驗(yàn)結(jié)果表明,本文的分詞、詞性標(biāo)注系統(tǒng)在性能上達(dá)到了目前分詞、詞性標(biāo)注的最好性能,而且通過使用并行訓(xùn)練算法,可以大幅度的提高訓(xùn)練效率。實(shí)驗(yàn)結(jié)果也驗(yàn)證了本文提出的增量訓(xùn)練方法在相同領(lǐng)域數(shù)據(jù)中對(duì)于分詞、詞性標(biāo)注任務(wù)的有效性。同時(shí)通過對(duì)