中文網(wǎng)頁(yè)查重方法研究.pdf

1、當(dāng)今中國(guó)，隨著互聯(lián)網(wǎng)的普及和網(wǎng)絡(luò)終端的高速發(fā)展，網(wǎng)絡(luò)已經(jīng)深入到了人們生活的方方面面。面對(duì)海量的網(wǎng)絡(luò)信息，搜索引擎的出現(xiàn)極大的方便了普通用戶(hù)的操作，但大量的重復(fù)或近似網(wǎng)頁(yè)使得用戶(hù)對(duì)搜索結(jié)果不甚滿(mǎn)意。如何有效的查找并去除這些重復(fù)或近似的網(wǎng)頁(yè)，提高搜索的效率，已經(jīng)成為一種迫切的需要。在這種形勢(shì)下，網(wǎng)頁(yè)查重技術(shù)得到了極大發(fā)展。
　　 當(dāng)前的查重方法主要是針對(duì)英文等字母體系的語(yǔ)言，中文由于語(yǔ)言的復(fù)雜性，在網(wǎng)頁(yè)的查重問(wèn)題上存在著較大的困難。

2、本文主要研究搜索引擎中中文網(wǎng)頁(yè)查重的問(wèn)題，借鑒了計(jì)算生物學(xué)的序列比對(duì)技術(shù)，提出了一種基于詞性標(biāo)注(POS)和最長(zhǎng)公共子序列(LCS)相結(jié)合的網(wǎng)頁(yè)查重方法。論文主要工作如下：
　　 (1)介紹了網(wǎng)頁(yè)查重技術(shù)的起源以及常見(jiàn)的網(wǎng)頁(yè)查重方法，并對(duì)其特點(diǎn)進(jìn)行了對(duì)比分析，理清了論文研究的方向和思路。
　　 (2)對(duì)網(wǎng)頁(yè)預(yù)處理技術(shù)進(jìn)行了研究，重點(diǎn)對(duì)網(wǎng)頁(yè)正文提取技術(shù)和中文語(yǔ)言體系進(jìn)行了分析，并對(duì)中文分詞和詞性標(biāo)注方法進(jìn)行仔細(xì)比較。著重對(duì)

3、基于隱馬爾可夫模型的分詞和詞性標(biāo)注進(jìn)行了認(rèn)真學(xué)習(xí)和研究，為選擇合適的分詞和詞性標(biāo)注方法奠定了基礎(chǔ)。
　　 (3)闡述了計(jì)算生物學(xué)領(lǐng)域的序列比對(duì)技術(shù)的思想，對(duì)序列比對(duì)算法(特別是動(dòng)態(tài)規(guī)劃算法)進(jìn)行了認(rèn)真研究，最終決定把LCS的動(dòng)態(tài)規(guī)劃算法作為研究使用的網(wǎng)頁(yè)相似度計(jì)算方法。
　　 (4)對(duì)基于Lucene建立全文搜索平臺(tái)的流程和方法進(jìn)行了認(rèn)真學(xué)習(xí)，將ICTCLAS內(nèi)嵌到Lucene的分詞模塊中，搭建了基于Lucene和JSP