分位點(diǎn)學(xué)習(xí)及其相關(guān)問題.pdf

1、分位點(diǎn)回歸學(xué)習(xí)是統(tǒng)計(jì)學(xué)習(xí)理論中的研究領(lǐng)域之一，最初是由 Koenker和 Hallock提出，目的是為了估計(jì)條件分位點(diǎn)函數(shù)f?,?，現(xiàn)有的文獻(xiàn)主要采用再生核Hilbert空間作為假設(shè)空間(核為 Mercer核)，這促使我們把系數(shù)正則化的思想引入分位點(diǎn)回歸學(xué)習(xí)。所謂系數(shù)正則化，即是對(duì)廣義核函數(shù)(連續(xù)、有界的二元函數(shù))，通過樣本點(diǎn)得到算法的假設(shè)空間，進(jìn)而利用該假設(shè)空間中函數(shù)的線性展開的系數(shù)構(gòu)造懲罰項(xiàng)。本文具體研究基于?2、?1、?Q(1≤Q

2、≤2)范數(shù)的分位點(diǎn)系數(shù)正則化學(xué)習(xí)算法。我們利用積分算子的技巧，通過引入正則化函數(shù)fλ和屬于假設(shè)空間的函數(shù)^fz,λ，對(duì)誤差進(jìn)行分解，將之分成三部分，即逼近誤差，假設(shè)誤差，樣本誤差。采用覆蓋數(shù)的方法以及算子范數(shù)的估計(jì)，對(duì)上述誤差項(xiàng)分別進(jìn)行估計(jì)，得到算法的誤差界與學(xué)習(xí)速率。本文的內(nèi)容分為如下幾部分：
　　第一章主要介紹統(tǒng)計(jì)學(xué)習(xí)理論的發(fā)展歷史和基本框架。
　　第二章介紹正則化回歸學(xué)習(xí)，首先說明了正則化的基本思想，繼而給出核正則化算