基于樣本選擇的近鄰分類(lèi)算法研究.pdf

1、近鄰分類(lèi)算法因其簡(jiǎn)單有效等特性已被廣泛應(yīng)用于各大領(lǐng)域，但它的諸多弊端也日益顯現(xiàn)。其中，復(fù)雜數(shù)據(jù)的出現(xiàn)導(dǎo)致分類(lèi)器的時(shí)間空間消耗巨大，這就需要通過(guò)適當(dāng)?shù)臄?shù)據(jù)預(yù)處理操作來(lái)改善數(shù)據(jù)集的質(zhì)量。并且實(shí)際應(yīng)用中對(duì)分類(lèi)精度的需求在不斷的提高，這就要求不斷的更新分類(lèi)準(zhǔn)則，設(shè)計(jì)更優(yōu)的分類(lèi)算法。因此，本文圍繞近鄰分類(lèi)算法的改進(jìn)來(lái)進(jìn)行研究和分析，主要研究?jī)?nèi)容如下：
　　首先，概括總結(jié)了幾種典型的近鄰分類(lèi)和樣本選擇方法，分析了它們各自的算法原理和其利弊，并

2、簡(jiǎn)述樣本選擇與近鄰分類(lèi)之間的密切聯(lián)系。
　　然后，針對(duì)近鄰分類(lèi)方法需要消耗大量的時(shí)間和空間，并且其分類(lèi)性能易受到噪聲樣本干擾的問(wèn)題，設(shè)計(jì)了融合互近鄰的樣本選擇方法(Sample Selection Algorithm Combined with Mutual Neighbors, MNSS)。MNSS算法利用互近鄰的原理來(lái)刪除原始數(shù)據(jù)集中的噪聲樣本和冗余點(diǎn)，提高數(shù)據(jù)集的質(zhì)量，使得分類(lèi)器更加魯棒。
　　其次，為了改善近鄰分類(lèi)的

3、分類(lèi)性能，將BP神經(jīng)網(wǎng)絡(luò)和基于類(lèi)間樣本之間相似性的偽最近鄰(Pseudo Nearest Neighbor, PNN)相結(jié)合，設(shè)計(jì)了基于BP神經(jīng)網(wǎng)絡(luò)的自適應(yīng)偽最近鄰分類(lèi)(Adaptive Pseudo Nearest Neighbor Classification Based on BP Neural Network, BPANN)。通過(guò)BP神經(jīng)網(wǎng)絡(luò)輸入輸出間的映射來(lái)自適應(yīng)的調(diào)節(jié)待測(cè)樣本與每類(lèi)訓(xùn)練集中各近鄰間的距離加權(quán)系數(shù)，從而彌補(bǔ)了P

4、NN中主觀確定距離加權(quán)系數(shù)造成算法不能得到最優(yōu)距離加權(quán)值這一缺陷。并通過(guò)實(shí)驗(yàn)驗(yàn)證了該算法的有效性。
　　最后，針對(duì)離群點(diǎn)對(duì)分類(lèi)結(jié)果的干擾，我們受到PNN和局部均值原理的啟發(fā)，提出了結(jié)合局部均值的偽最近鄰分類(lèi)(Pseudo Nearest Neighbor Combined with Local Mean, LMPNN)方法，進(jìn)一步的提高分類(lèi)器的分類(lèi)精度。LMPNN首先通過(guò)MNSS方法預(yù)處理數(shù)據(jù)集，再利用測(cè)試樣本在每類(lèi)訓(xùn)練樣本集里的