Hadoop框架下的分布式搜索引擎的研究與設(shè)計.pdf

1、在計算機(jī)互聯(lián)網(wǎng)技術(shù)高速發(fā)展和網(wǎng)絡(luò)應(yīng)用開發(fā)層出不窮的今天，Internet成為了人們獲取信息和相互交流的主要手段，其中獲取信息的主要方法是利用搜索引擎技術(shù)，通過它可以讓人們方便準(zhǔn)確地從海量的網(wǎng)絡(luò)信息中找到自己需要的信息。相對于傳統(tǒng)集中式搜索引擎硬件要求高和性能差的缺點(diǎn)，分布式搜索引擎的出現(xiàn)帶來了更多的選擇。
　　本文分析了現(xiàn)有分布式搜索引擎系統(tǒng)的優(yōu)點(diǎn)和不足，提出了基于Hadoop的分布式搜索引擎，通過研究Hadoop框架技術(shù)，提出了

2、一種改進(jìn)HDFS分布式文件系統(tǒng)的思想。另外對搜索引擎的爬行、索引、檢索模塊進(jìn)行研究改進(jìn)，應(yīng)用了Map/Reduce編程思想，其中Map負(fù)責(zé)數(shù)據(jù)計算任務(wù)，Reduce負(fù)責(zé)數(shù)據(jù)合并。這樣分布式搜索引擎系統(tǒng)部署在普通PC機(jī)組成的Hadoop分布式環(huán)境中也可以高效、可靠地運(yùn)行。此外，系統(tǒng)使用了倒排索引技術(shù)，并在創(chuàng)建索引過程中提出了一種改進(jìn)的PageRank算法，該算法引入了時間平衡因子，可以有效地改進(jìn)網(wǎng)頁評分策略從而優(yōu)化搜索結(jié)果，最后對系統(tǒng)進(jìn)行