基于SVM和組合特征的分類算法研究.pdf

1、現(xiàn)代社會中，數(shù)據(jù)信息以爆炸式增長，數(shù)據(jù)的樣本量和維度都不斷增高。數(shù)據(jù)挖掘技術(shù)的出現(xiàn)，有效地解決了如何從海量數(shù)據(jù)中發(fā)現(xiàn)有價值信息的問題。分類是數(shù)據(jù)挖掘中最重要的技術(shù)之一，被廣泛應(yīng)用于多個領(lǐng)域。如何有效地利用特征信息，提高分類算法的效果，一直是分類技術(shù)研究的熱點。通過組合特征擴大特征空間的算法被證明可以有效地提高分類算法的分類效果。
　　TSP（Top Scoring Pair）算法以特征對的形式組合特征，并選擇最優(yōu)特征對進行分類，具

2、有簡單高效等優(yōu)點。k-TSP算法是對TSP算法的一種擴展，區(qū)別于TSP算法使用一對特征進行分類的方式，k-TSP算法使用k>0對特征進行分類。從組合特征的角度看，TSP算法使用固定的形式將任意兩個特征組合為特征對，是特征線性組合的一種特殊形式。組合方式的約束限制了 TSP算法中特征對的分類能力。本文使用 SVM（Support Vector Machine）算法構(gòu)造兩特征的線性組合，用其代替TSP算法中固定的特征組合，提出了 LC-TS

3、P算法，并將 LC-TSP算法擴展為使用多個線性組合特征進行分類的LC-k-TSP算法。在公共數(shù)據(jù)集上的實驗證明了LC-TSP算法和LC-k-TSP算法具有比TSP算法和k-TSP算法更優(yōu)的分類性能。
　　相關(guān)性組合特征是基于一對特征的皮爾森相關(guān)系數(shù)構(gòu)造出的新特征，有研究證明了其可以表示特征間相關(guān)性的變化，有利于發(fā)現(xiàn)類別區(qū)分能力強的特征。然而相關(guān)性組合特征的構(gòu)造會引入過多的特征，可能造成維數(shù)災(zāi)難。本文根據(jù)相關(guān)性組合特征的形式和原理