支持向量機(jī)的稀疏性與推廣誤差.pdf

1、學(xué) 號(hào) 1 9 墮蘭塑 研究類；f l | ! ——壁型嬰穿⑩煦； j ℃蕓- 蓄第器乏嗨瀵藿一’霉r 童餮麟鷲罐’瀑’碩士學(xué)位論文學(xué)科門類學(xué)科專業(yè)指導(dǎo)教師研究生論文題目廈＆撼如驢’黲 罐№繃赫理學(xué)應(yīng)用數(shù)學(xué)李落清教授陳 湘答辯日期： 2 ∞6 年5 月 。翻。一，差 一：誕 } | 謄：k 一瓣 _ 性 一蔬 一稀 一的 一機(jī) 酊鰓 一。持 一支A b s t r a c tI n t h el a s t f e w y e 懿st

2、h e r eh a v e b e e nv e r y s i g n m c a n td e v e l o p m e n t si nt h e t h c o r e t i c a l u n d e r s t a n d i n go f s u p p o r 七V b c t o rM a c l l i n e s ( S V M l 豁w e l la sa l g o r i t h m i cs t r

3、a t e g i e sf o ri m p I e m e n t i n gt h e m ，a n d a p p l i c a t i o n 8o f t h e a p p r o a c ht op r a c t i c a lp r o b l e m s ．T h eS V M ’sg e n e r a l l z a t i o ne r r o r 村w a y s i s t h eh o tt o p

4、i ci n t h eS V M c 1 8 s s m c a t i o na l g o r i t h mr e s e a r c h 矗e I d ． I n t h i s a r t i c l e ，w eb o u n dt h e g e n e r a l i z a t i o n e r r o r s o f L 1 一S V Ma n d Ⅳ一S V M ，b yu s i n g t h eL i p

5、 s c h i t zl o s sf u n c 乜o na n d t h eR a d e m a c h 髓c o m p l e 對(duì)t yo f 扎n c t l o nc l a s s e si nw h i c h t h ec l a s s i 缸r i 8 b e l o n g e d ．W ea 1 8 08 t u d yt h er i s ke r r o ro fs p a r s eS V M a

6、r l dd e r i v ea s y m p t o t i c 齟王yb o u n d so nt h en u m b e r o fs u p p o r tv e c t o r s f o rs e v e r “s t a n 出旺dt y p e so fS V M ．T h e r e s to ft h ep a p e ri s o r g a n i z e da sf o l l o w s ：I nt

7、h e 丘r s ts e c t i o n ，w ep r e V i e wb 8 s i cf r a m e w o r ko f1 e a r n i n gt h e o r y ) b o t ht h e m a j ni d e aa n d t h eb a c l ( g r o u l l d o fS V M a l g o r i t h m ．I ns e c t i o n 七1 礦ow e n o t

8、o n l yi I l t r o d u c et h et r a d i t i o n a lu p p e r b 。u n do Ⅱt h ed a s 8 i 6 盯7 sg e n e T a l i z a t i o ne r r o r ，b u t 出s op r o v et h e n e wu p p e rb o u n do nt h eg e n e r a U z a t i o ne 盯o ro

9、 ft h eL 1 一S V Ma n d ∥一S V M ．T h eb o u n dc o n s 誼t 8o ft h ee m p i r i c 址e r r o ro faL i p s c h i t zl o s s f 【l n c t i o na n d t h eR a d e m a c h e rc o m p l e ] ( i t yo ff u n c t i o nc l a 8 s e si n

10、w h i c h t h ec l a s s m e r i s b e I o n g e d ．I ns e c t i o n t h r e e w ei n d u c tt h e s p a r s eS v M a n d g a i n i t ’s r i s ke r r o r M o r e lo v e r ，Ⅵ帕c o m p a r et h ec o n c l u s i o n 謝七h(yuǎn)t h e

11、r i s ke r r o ro fe l a 8 s i c a lS V M ．T h e f o u r t hs e c t i o np r e s e n t st h e s p a r s e n e s so fS V M a n d t h e8 s y m p t o t i c a l l yl o w e ra n d u p p e rb o u n d o fs u p p o r t v e c t o

12、 r sf o rs e v e r a Js t a n d a r dt y p e so fS V MI na d d i t 沁n ，w eo b t a i ns o m ec o n c l u s i o n so n t h e s u p p o r tw c t o r 8 o ￡t h e Ⅳ一S V M ．F i n 以l y ) i Ⅱ8 e c t i o n 丘v e ，Ⅵ憎s u m m a r i z

13、et h e c o n c l u s i o n s i np r e v i o u 8s e c t i o n sa n d g i v eap r o s p e c tf o rf u t h e rr e s e a r c h ．K e y 、^ b r d sS V Mc l a s s m e r ．G e n e r a l i z a t l o n e r r o r ，S p a r s eS V M ．R