支持向量機的一般化能力與訓練樣本關系的研究.pdf

1、本文從支持向量機經(jīng)驗風險的利用、支持向量的合并約簡以及訓練樣本的精簡三方面進行論述。利用經(jīng)驗風險以提高分類器的泛化能力，對含有重復矛盾支持向量的合并約簡以減少支持向量的個數(shù)并提高測試速度，對訓練樣本精簡的目的是達到在泛化能力幾乎沒有下降的情況下提高支持向量機的訓練速度并減少支持向量的個數(shù)。 訓練支持向量機的過程之前往往要進行參數(shù)搜索以找到具有最優(yōu)泛化能力的訓練參數(shù)。在搜索過程中，有些參數(shù)使得經(jīng)驗風險幾乎為零、泛化能力最好、支持向

2、量很多，我們往往采用這些參數(shù)作為訓練參數(shù)。有些參數(shù)使得經(jīng)驗風險較大、泛化能力比最好稍差、支持向量很少。我們的實驗表明利用別的分類器結合后者的經(jīng)驗風險可以使后者的泛化能力比前者最好的泛化能力還要好。 有些訓練樣本中含有重復矛盾的樣本，訓練支持向量機的結果使得支持向量中仍然含有重復矛盾的支持向量，通過我們的合并約簡算法可以減少支持向量的個數(shù)，減少的程度與樣本重復的程度有關。樣本重復度高，減少的比例就大，反之減少的比例就小。