基于多用戶的Web信息采集系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf

1、Web信息的急速增長(zhǎng)給信息的提取和有效使用帶來(lái)了巨大挑戰(zhàn)，特別是對(duì)于眾多的企業(yè)用戶，如何從大量的網(wǎng)站頁(yè)面中把需要的有用信息提取出來(lái)是它們迫切需要解決的問(wèn)題。本課題是針對(duì)這些企業(yè)用戶開(kāi)發(fā)的基于多用戶的Web信息采集系統(tǒng)，它實(shí)現(xiàn)了可視化的采集規(guī)則設(shè)置界面，并以C/S方式把用戶的采集任務(wù)放在遠(yuǎn)程服務(wù)器上運(yùn)行，從而減輕了用戶在采集規(guī)則設(shè)置和采集任務(wù)維護(hù)方面的負(fù)擔(dān)。
　　本課題系統(tǒng)包括客戶端和服務(wù)器端兩部分組成，服務(wù)器端包括采集服務(wù)器和中心

2、服務(wù)器。用戶通過(guò)客戶端進(jìn)行采集項(xiàng)目設(shè)置并把采集項(xiàng)目上傳至中心服務(wù)器，中心服務(wù)器把采集任務(wù)分配給采集服務(wù)器進(jìn)行信息采集，采集服務(wù)器在采集完成后把采集結(jié)果通過(guò)Email、Ftp等方式發(fā)送給用戶。
　　本課題系統(tǒng)構(gòu)架采用C/S結(jié)構(gòu)和B/S結(jié)構(gòu)相結(jié)合的方式，主要使用Python程序語(yǔ)言開(kāi)發(fā)，在客戶端使用Javascript和DOM技術(shù)實(shí)現(xiàn)了采集項(xiàng)目設(shè)置的可視化，使用XML-RPC協(xié)議同服務(wù)器進(jìn)行通信。在采集服務(wù)器端使用Htm15lib對(duì)頁(yè)

3、面進(jìn)行清理，以XPATH的方式對(duì)頁(yè)面信息進(jìn)行采集、提取，實(shí)現(xiàn)了對(duì)各類(lèi)頁(yè)面(包括一些非標(biāo)準(zhǔn)和HTML5頁(yè)面)的頁(yè)面清理、信息提取功能。在中心服務(wù)器端使用數(shù)據(jù)庫(kù)結(jié)合多進(jìn)程的方式完成采集任務(wù)的分發(fā)和控制，并利用Django框架完成了一個(gè)Web界面的后臺(tái)管理模塊為管理員提供用戶賬號(hào)、采集任務(wù)的管理功能。同時(shí)在服務(wù)器端配置了Cacti對(duì)服務(wù)器系統(tǒng)狀態(tài)進(jìn)行監(jiān)控，以確保系統(tǒng)的穩(wěn)定性和可靠性。
　　本課題系統(tǒng)采集規(guī)則設(shè)置完全可視化，不需要編寫(xiě)腳本