基于集成的半監(jiān)督學(xué)習(xí)和主動(dòng)學(xué)習(xí)算法研究.pdf

1、在許多實(shí)際數(shù)據(jù)挖掘應(yīng)用中,存在大量的未標(biāo)記樣例,然而要獲得它們的標(biāo)記是很耗時(shí)并且昂貴的。半監(jiān)督學(xué)習(xí)是一種流行的機(jī)器學(xué)習(xí)技術(shù),能夠充分利用大量的未標(biāo)記樣例與少量的已標(biāo)記樣例來提高監(jiān)督學(xué)習(xí)的性能。集成協(xié)同訓(xùn)練是一種半監(jiān)督學(xué)習(xí)算法,本文針對(duì)該算法存在的問題進(jìn)行了研究,提出了相應(yīng)的改進(jìn)方法。除了半監(jiān)督學(xué)習(xí),主動(dòng)學(xué)習(xí)也能夠利用大量的未標(biāo)記樣本來幫助改善學(xué)習(xí)性能。通過預(yù)先定義的查詢策略來獲得每一個(gè)未標(biāo)記樣本的信息量是主動(dòng)學(xué)習(xí)的關(guān)鍵所在?；诩傻牟?/p>

2、詢是其中一種查詢策略,本文針對(duì)該策略存在的問題進(jìn)行了研究,并提出了相應(yīng)的改進(jìn)方法。本文的研究工作可以劃分為以下三個(gè)方面:
　　1.基于距離度量的改進(jìn)的集成協(xié)同訓(xùn)練算法。在集成協(xié)同訓(xùn)練中,類概率值可能重復(fù),這對(duì)分類器性能的改進(jìn)起到了負(fù)面影響。我們提出了一種方法來處理這個(gè)問題。集成的類關(guān)系概率能夠與未標(biāo)記樣本和已標(biāo)記樣本之間的距離度量進(jìn)行結(jié)合。兩種距離度量被考慮。為了證明我們的方法能夠得到高質(zhì)量的樣例與減少噪聲的引入,一種數(shù)據(jù)審計(jì)技術(shù)

3、被用來與我們的方法進(jìn)行對(duì)比。在 UC I數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果證實(shí)了我們的方法和數(shù)據(jù)審計(jì)技術(shù)的有效性,同時(shí)也表明了第一種距離度量方法通常要好于數(shù)據(jù)審計(jì)技術(shù)。
　　2.基于樸素貝葉斯的改進(jìn)的集成協(xié)同訓(xùn)練算法。一種不同的方法被提出用來處理集成協(xié)同訓(xùn)練中類概率值可能重復(fù)的問題。樸素貝葉斯被用來幫助估計(jì)未標(biāo)記樣本的類概率。由于樸素貝葉斯分類器對(duì)于不同的未標(biāo)記樣本能夠產(chǎn)生不同的類概率估計(jì),我們可以將它與集成分類器進(jìn)行結(jié)合來做出預(yù)測(cè)。實(shí)驗(yàn)結(jié)果證實(shí)

4、了我們方法的有效性,并且也表明了我們的方法通常要好于數(shù)據(jù)審計(jì)技術(shù)。
　　3.改進(jìn)的主動(dòng)學(xué)習(xí)用于高光譜數(shù)據(jù)的分類?；诩傻牟樵兏鶕?jù)集成的不一致程度來度量未標(biāo)記樣本的信息量。然而信息量可能重復(fù),這給分類性能的提高帶來了負(fù)面影響。為了減少信息量重復(fù)程度,一種現(xiàn)存的模型被用來幫助估計(jì)每一個(gè)樣例的信息量。另外,為了降低被挑選出樣本之間的冗余性,最遠(yuǎn)優(yōu)先遍歷算法被用來增加它們之間的差異性。在 UC I數(shù)據(jù)集和高光譜圖像上的實(shí)驗(yàn)結(jié)果證實(shí)了提出