模式分類(lèi)中特征降維方法的研究.pdf

1、模式識(shí)別的主要任務(wù)就是利用樣本的特征，將樣本劃分為相應(yīng)的模式類(lèi)別。但在實(shí)際的處理過(guò)程中經(jīng)常會(huì)碰到高維數(shù)據(jù)樣本。一方面，數(shù)據(jù)的特征維數(shù)越大，則數(shù)據(jù)提供的有關(guān)客觀現(xiàn)象的信息就越多。但另一方面，高維數(shù)據(jù)卻給計(jì)算機(jī)的處理帶來(lái)了巨大的困難，而且其中可能存在著較大的相關(guān)性和冗余，影響分類(lèi)精度，這就是維數(shù)災(zāi)難問(wèn)題。因此，特征降維是進(jìn)行模式識(shí)別的重要任務(wù)之一。
　　 特征提取和選擇是特征降維的主要手段。特征排序是特征選擇的一個(gè)分支，其計(jì)算復(fù)雜度

2、低，易于應(yīng)用，能夠一次將所有的特征進(jìn)行排序，因此得到廣泛的應(yīng)用。本文提出了一種新的特征排序的方法用于處理降維過(guò)程中的特征選擇問(wèn)題。文中先回顧了特征降維的相關(guān)信息，介紹了概率密度函數(shù)估計(jì)，并重點(diǎn)論述了非參數(shù)估計(jì)法和Parzen窗口概率密度估計(jì)原理。然后設(shè)計(jì)一種應(yīng)用Gaussian窗函數(shù)的Parzen窗口概率密度估計(jì)進(jìn)行特征排序的方法，并討論該方法的無(wú)監(jiān)督和有監(jiān)督的情況。在無(wú)監(jiān)督的情況下，先對(duì)原始數(shù)據(jù)樣本進(jìn)行概率密度估計(jì)，然后對(duì)所有數(shù)據(jù)的某

3、一維特征進(jìn)行加權(quán)變換，再對(duì)變換后的數(shù)據(jù)樣本進(jìn)行概率密度估計(jì)，計(jì)算由該特征加權(quán)變換前后所引起的數(shù)據(jù)樣本的概率密度距離，即前后兩次概率密度的差值，把這個(gè)值作為該特征的評(píng)價(jià)得分，根據(jù)這個(gè)得分來(lái)對(duì)特征進(jìn)行排序，通過(guò)選擇合適的維數(shù)來(lái)達(dá)到降維的目的。在監(jiān)督的情況下，充分利用數(shù)據(jù)的類(lèi)別信息。先對(duì)所有數(shù)據(jù)的某一維特征進(jìn)行加權(quán)變換，然后計(jì)算變換后的類(lèi)別間的概率密度距離，類(lèi)別間的距離越大，說(shuō)明該特征對(duì)于區(qū)分各類(lèi)別數(shù)據(jù)的作用越大，即該特征越重要。因此，把總體