因子分析原理

1、1,因子分析,2,§1 引言 因子分析(factor analysis)是一種數(shù)據(jù)簡(jiǎn)化的技術(shù)。它通過(guò)研究眾多變量之間的內(nèi)部依賴關(guān)系，探求觀測(cè)數(shù)據(jù)中的基本結(jié)構(gòu)，并用少數(shù)幾個(gè)假想變量來(lái)表示其基本的數(shù)據(jù)結(jié)構(gòu)。這幾個(gè)假想變量能夠反映原來(lái)眾多變量的主要信息。原始的變量是可觀測(cè)的顯在變量，而假想變量是不可觀測(cè)的潛在變量，稱為因子。 例如，在企業(yè)形象或品牌形象的研究中，消費(fèi)者可以通過(guò)一個(gè)有24個(gè)指標(biāo)構(gòu)成的評(píng)價(jià)體系，評(píng)價(jià)百貨商場(chǎng)的

2、24個(gè)方面的優(yōu)劣。,3,,,但消費(fèi)者主要關(guān)心的是三個(gè)方面，即商店的環(huán)境、商店的服務(wù)和商品的價(jià)格。因子分析方法可以通過(guò)24個(gè)變量，找出反映商店環(huán)境、商店服務(wù)水平和商品價(jià)格的三個(gè)潛在的因子，對(duì)商店進(jìn)行綜合評(píng)價(jià)。而這三個(gè)公共因子可以表示為：,,稱 是不可觀測(cè)的潛在因子。24個(gè)變量共享這三個(gè)因子，但是每個(gè)變量又有自己的個(gè)性，不被包含的部分 ，稱為特殊因子。,4,注： 因子分析與回歸分析不同，因子分析中的因

3、子是一個(gè)比較抽象的概念，而回歸因子有非常明確的實(shí)際意義； 主成分分析分析與因子分析也有不同，主成分分析僅僅是變量變換，而因子分析需要構(gòu)造因子模型。 主成分分析:原始變量的線性組合表示新的綜合變量，即主成分； 因子分析：潛在的假想變量和隨機(jī)影響變量的線性組合表示原始變量。,5,§ 2 因子分析模型,一、數(shù)學(xué)模型,設(shè) 個(gè)變量，如果表示為,6,稱為 公

4、共因子，是不可觀測(cè)的變量，他們的系數(shù)稱為因子載荷。 是特殊因子，是不能被前m個(gè)公共因子包含的部分。并且滿足：,即不相關(guān)；,即 互不相關(guān)，方差為1。,7,即互不相關(guān)，方差不一定相等， 。,8,用矩陣的表達(dá)方式,9,二、因子分析模型的性質(zhì),1、原始變量X的協(xié)方差矩陣的分解,D的主對(duì)角線上的元素值越小，則公共因子共享的成分越多。,10,2、模型不受計(jì)量單位的影響,將原始變量X做變換X*=CX,這里

5、C＝diag(c1,c2,…,cn),ci>0。,11,12,3、因子載荷不是惟一的,設(shè)T為一個(gè)p×p的正交矩陣，令A(yù)*=AT，F(xiàn)*=T’F，則模型可以表示為,且滿足條件因子模型的條件,13,三、 因子載荷矩陣中的幾個(gè)統(tǒng)計(jì)特征,1、因子載荷aij的統(tǒng)計(jì)意義,因子載荷 是第i個(gè)變量與第j個(gè)公共因子的相關(guān)系數(shù),模型為,在上式的左右兩邊乘以,,再求數(shù)學(xué)期望,根據(jù)公共因子的模型性質(zhì)，有,（載荷矩陣中第i行，第j列的元素）反

6、映了第i個(gè)變量與第j個(gè)公共因子的相關(guān)重要性。絕對(duì)值越大，相關(guān)的密切程度越高。,14,2、變量共同度的統(tǒng)計(jì)意義,定義：變量 的共同度是因子載荷矩陣的第i行的元素的平方和。記為,統(tǒng)計(jì)意義：,兩邊求方差,,,所有的公共因子和特殊因子對(duì)變量 的貢獻(xiàn)為1。如果 非?？拷?， 非常小，則因子分析的效果好，從原變量空間到公共因子空間的轉(zhuǎn)化性質(zhì)好。,15,3、公共因子 方差貢獻(xiàn)的統(tǒng)計(jì)意義,因子載荷矩陣中各列元素的平方和

7、稱為所有的 對(duì) 的方差貢獻(xiàn)和。衡量的相對(duì)重要性。,,,,16,§ 3 因子載荷矩陣的估計(jì)方法,設(shè)隨機(jī)向量 的均值為?，協(xié)方差為?, 為?的特征根， 為對(duì)應(yīng)的標(biāo)準(zhǔn)化特征向量，則,（一）主成分分析法,17,上式給出的?表達(dá)式是精確的，然而，它實(shí)際上是毫無(wú)

8、價(jià)值的，因?yàn)槲覀兊哪康氖菍で笥蒙贁?shù)幾個(gè)公共因子解釋，故略去后面的p-m項(xiàng)的貢獻(xiàn)，有,18,,上式有一個(gè)假定，模型中的特殊因子是不重要的，因而從?的分解中忽略了特殊因子的方差。,19,注：殘差矩陣,其中S為樣本的協(xié)方差矩陣。,20,（二）主因子法,主因子方法是對(duì)主成分方法的修正，假定我們首先對(duì)變量進(jìn)行標(biāo)準(zhǔn)化變換。則 R=AA’+D R*=AA’=R-D稱R*為約相關(guān)矩陣，

9、R*對(duì)角線上的元素是 ,而不是1。,21,直接求R*的前p個(gè)特征根和對(duì)應(yīng)的正交特征向量。得如下的矩陣：,22,,當(dāng)特殊因子 的方差不為且已知的，問(wèn)題非常好解決。,23,24,在實(shí)際的應(yīng)用中，個(gè)性方差矩陣一般都是未知的，可以通過(guò)一組樣本來(lái)估計(jì)。估計(jì)的方法有如下幾種：,首先，求 的初始估計(jì)值，構(gòu)造出,1）取 ，在這個(gè)情況下主因子解與主成分解等價(jià)； 2）取 ， 為xi與其他所有的原始變量xj的復(fù)相關(guān)

10、系數(shù)的平方，即xi對(duì)其余的p-1個(gè)xj的回歸方程的判定系數(shù)，這是因?yàn)閤i 與公共因子的關(guān)系是通過(guò)其余的p-1個(gè)xj 的線性組合聯(lián)系起來(lái)的；,,,25,2）取 ，這意味著取xi與其余的xj的簡(jiǎn)單相關(guān)系數(shù)的絕對(duì)值最大者；,4）取 ，其中要求該值為正數(shù)。,5）取 ，其中 是 的對(duì)角元素。,26,（三）極大似然估計(jì)法（略）,如果假定公共因子F和特殊因子?服從正態(tài)

11、分布，那么可以得到因子載荷和特殊因子方差的極大似然估計(jì)。設(shè) 為來(lái)自正態(tài)總體Np(?,?)的隨機(jī)樣本。,27,它通過(guò)?依賴?和??。上式并不能唯一確定?,為此可添加一個(gè)唯一性條件： 這里?式一個(gè)對(duì)角矩陣，用數(shù)值極大化的方法可以得到極大似然估計(jì) 。極大似然估計(jì) 將使 為對(duì)角陣，且似然函數(shù)達(dá)到最大。

12、 相應(yīng)的共同度的似然估計(jì)為： 第J個(gè)因子對(duì)總方差的貢獻(xiàn)：,28,例 假定某地固定資產(chǎn)投資率 ，通貨膨脹率 ，失業(yè)率 ，相關(guān)系數(shù)矩陣為試用主成分分析法求因子分析模型。,29,特征根為：,30,可取前兩個(gè)因子F1和F2為公共因子，第一公因子F1物價(jià)就業(yè)因子，對(duì)X的貢獻(xiàn)為1.55。第一公因子F2為投資因子，對(duì)X的貢獻(xiàn)為0.85。共同度分別為1，0.706，0.706。,31,假定某地固

13、定資產(chǎn)投資率 ，通貨膨脹率 ，失業(yè)率 ，相關(guān)系數(shù)矩陣為試用主因子分析法求因子分析模型。假定用代替初始的 。 。,32,特征根為：,對(duì)應(yīng)的非零特征向量為：,33,34,§ 4 因子旋轉(zhuǎn)（正交變換）,建立了因子分析數(shù)學(xué)目的不僅僅要找出公共因子以及對(duì)變量進(jìn)行分組，更重要的要知道每個(gè)公共因子的意義，以便進(jìn)行進(jìn)一步的分析，如果每個(gè)公共

14、因子的含義不清，則不便于進(jìn)行實(shí)際背景的解釋。由于因子載荷陣是不惟一的，所以應(yīng)該對(duì)因子載荷陣進(jìn)行旋轉(zhuǎn)。目的是使因子載荷陣的結(jié)構(gòu)簡(jiǎn)化，使載荷矩陣每列或行的元素平方值向0和1兩極分化。有三種主要的正交旋轉(zhuǎn)法。四次方最大法、方差最大法和等量最大法。,（一）為什么要旋轉(zhuǎn)因子,35,百米跑成績(jī) 跳遠(yuǎn)成績(jī) 鉛球成績(jī) 跳高成績(jī) 400米跑成績(jī) 百米跨欄 鐵餅成績(jī) 撐桿跳遠(yuǎn)成績(jī)

15、 標(biāo)槍成績(jī) 1500米跑成績(jī),奧運(yùn)會(huì)十項(xiàng)全能運(yùn)動(dòng)項(xiàng)目得分?jǐn)?shù)據(jù)的因子分析,36,,37,因子載荷矩陣可以看出，除第一因子在所有的變量在公共因子上有較大的正載荷，可以稱為一般運(yùn)動(dòng)因子。其他的3個(gè)因子不太容易解釋。似乎是跑和投擲的能力對(duì)比，似乎是長(zhǎng)跑耐力和短跑速度的對(duì)比。于是考慮旋轉(zhuǎn)因子，得下表,38,39,通過(guò)旋轉(zhuǎn)，因子有了較為明確的含義。 百米跑， 跳遠(yuǎn)和 400米跑，需要爆發(fā)力的項(xiàng)目在 有較大的載荷，

16、 可以稱為短跑速度因子； 鉛球， 鐵餅和 標(biāo)槍在 上有較大的載荷，可以稱為爆發(fā)性臂力因子； 百米跨欄， 撐桿跳遠(yuǎn)， 跳遠(yuǎn)和為 跳高在 上有較大的載荷， 爆發(fā)腿力因子； 長(zhǎng)跑耐力因子。,40,變換后因子的共同度,設(shè)?正交矩陣，做正交變換,變換后因子的共同度沒(méi)有發(fā)生變化！,（二）旋轉(zhuǎn)方法,41,變換后因子貢獻(xiàn),設(shè)?正交矩陣，做正交變換,變換后因子的貢獻(xiàn)發(fā)生了變化！

17、,42,1、方差最大法 方差最大法從簡(jiǎn)化因子載荷矩陣的每一列出發(fā)，使和每個(gè)因子有關(guān)的載荷的平方的方差最大。當(dāng)只有少數(shù)幾個(gè)變量在某個(gè)因子上又較高的載荷時(shí)，對(duì)因子的解釋最簡(jiǎn)單。方差最大的直觀意義是希望通過(guò)因子旋轉(zhuǎn)后，使每個(gè)因子上的載荷盡量拉開距離，一部分的載荷趨于?1，另一部分趨于0。,43,,,,,,44,45,46,1、四次方最大旋轉(zhuǎn) 四次方最大旋轉(zhuǎn)是從簡(jiǎn)化載荷矩陣的行出發(fā)，通過(guò)旋轉(zhuǎn)初始因子，使每個(gè)變量只在一個(gè)因子

18、上又較高的載荷，而在其它的因子上盡可能低的載荷。如果每個(gè)變量只在一個(gè)因子上又非零的載荷，這是的因子解釋是最簡(jiǎn)單的。 四次方最大法通過(guò)使因子載荷矩陣中每一行的因子載荷平方的方差達(dá)到最大。,,47,,48,3、等量最大法 等量最大法把四次方最大法和方差最大法結(jié)合起來(lái)求Q和V的加權(quán)平均最大。,權(quán)數(shù)?等于m/2，因子數(shù)有關(guān)。,49,§ 5 因子得分,（一）因子得分的概念,前面我們主要解決了用公共因子的線性

19、組合來(lái)表示一組觀測(cè)變量的有關(guān)問(wèn)題。如果我們要使用這些因子做其他的研究，比如把得到的因子作為自變量來(lái)做回歸分析，對(duì)樣本進(jìn)行分類或評(píng)價(jià)，這就需要我們對(duì)公共因子進(jìn)行測(cè)度，即給出公共因子的值。,50,人均要素變量因子分析。對(duì)我國(guó)32個(gè)省市自治區(qū)的要素狀況作因子分析。指標(biāo)體系中有如下指標(biāo)：X1 ：人口（萬(wàn)人） X2 ：面積（萬(wàn)平方公里）X3 ：GDP（億元） X4 ：人均水資源（立方米/人）

20、X5：人均生物量（噸/人） X6：萬(wàn)人擁有的大學(xué)生數(shù)（人）X7：萬(wàn)人擁有科學(xué)家、工程師數(shù)（人）,Rotated Factor Pattern FACTOR1 FACTOR2 FACTOR3 X1 -0.21522 -0.27397 0.89092 X2 0.63973 -0.28739 -0.28755 X3 -0.15791 0.06334 0.948

21、55 X4 0.95898 -0.01501 -0.07556 X5 0.97224 -0.06778 -0.17535 X6 -0.11416 0.98328 -0.08300 X7 -0.11041 0.97851 -0.07246,51,X1=-0.21522F1-0.27397F2+0.89092F3 X2=0.63973F1-0.28739F2-0.2875

22、5F3 X3=-0.15791F1+0.06334F2+0.94855F3 X4=0.95898F1-0.01501F2-0.07556F3 X5=0.97224F1-0.06778F2-0.17535F3 X6=-0.11416F1+0.98328F2-0.08300F3 X7=-0.11041F1+0.97851F2-0.07246F3,52,Standardized Scoring Coefficie

23、nts FACTOR1 FACTOR2 FACTOR3 X1 0.05764 -0.06098 0.50391 X2 0.22724 -0.09901 -0.07713 X3 0.14635 0.12957 0.59715 X4 0.47920 0.11228 0.17062 X5 0.45583 0.07419 0.10129

24、 X6 0.05416 0.48629 0.04099 X7 0.05790 0.48562 0.04822,F1=0.05764X1+0.22724X2+0.14635X3+0.47920X4+0.45583X5+0.05416X6+0.05790X7F2=-0.06098X1-0.09901X2+0.12957X3+0.11228X4+0.07419X5+0.48629X6+0.48562X7F

25、3=0.50391X1-0.07713X2+0.59715X3+0.17062X4+0.10129X5+0.04099X6+0.04822X7,53,前三個(gè)因子得分,54,因子分析的數(shù)學(xué)模型為：,原變量被表示為公共因子的線性組合，當(dāng)載荷矩陣旋轉(zhuǎn)之后，公共因子可以做出解釋，通常的情況下，我們還想反過(guò)來(lái)把公共因子表示為原變量的線性組合。,因子得分函數(shù)：,可見，要求得每個(gè)因子的得分，必須求得分函數(shù)的系數(shù)，而由于p>m，所以不能得到精確的

26、得分，只能通過(guò)估計(jì)。,55,1、巴特萊特因子得分(加權(quán)最小二乘法）,把 看作因變量；把因子載荷矩陣 看成自變量的觀測(cè)；把某個(gè)個(gè)案的得分 看著最小二乘法需要求的系數(shù) 。,1) 巴特萊特因子得分計(jì)算方法的思想,56,,由于特殊因子的方差相異，所以用加權(quán)最小二乘法求得分，每個(gè)各案作一次，要求出所有樣品的得分，需要作n次。,,57,用矩陣表達(dá)：,滿足上式的F是相應(yīng)個(gè)案的因子得分。,58,5

27、9,2）得分估計(jì)的無(wú)偏性,如果將f和?不相關(guān)的假定加強(qiáng)為相互獨(dú)立，則,60,3）,61,2、回歸方法,,,,,1) 思想,62,,,,,則，我們有如下的方程組：,63,,j=1,2,…,m,64,注：共需要解m次才能解出 所有的得分函數(shù)的系數(shù)。,65,矩陣表示方法,在因子模型中，假設(shè) 服從（m+p)元的正態(tài)分布，有,66,67,68,2）估計(jì)的有偏性,3）平均預(yù)報(bào)誤差,69,國(guó)民生活質(zhì)量的因素分析 國(guó)家發(fā)展的最

28、終目標(biāo)，是為了全面提高全體國(guó)民的生活質(zhì)量，滿足廣大國(guó)民日益增長(zhǎng)的物質(zhì)和文化的合理需求。在可持續(xù)發(fā)展消費(fèi)的統(tǒng)一理念下，增加社會(huì)財(cái)富，創(chuàng)自更多的物質(zhì)文明和精神文明，保持人類的健康延續(xù)和生生不息，在人類與自然協(xié)同進(jìn)化的基礎(chǔ)上，維系人類與自然的平衡，達(dá)到完整的代際公平和區(qū)際公平(即時(shí)間過(guò)程的最大合理性與空間分布的最大合理化)。 從1990年開始，聯(lián)合國(guó)開發(fā)計(jì)劃署(UYNP)首次采用“人文發(fā)展系數(shù)”指標(biāo)對(duì)于國(guó)民生活質(zhì)量進(jìn)行測(cè)度。人文發(fā)展

29、系數(shù)利用三類內(nèi)涵豐富的指標(biāo)組合，即人的健康狀況(使用出生時(shí)的人均預(yù)期壽命表達(dá))、人的智力程度(使用組合的教育成就表達(dá))、人的福利水平(使用人均國(guó)民收入或人均GDP表達(dá))，并且特別強(qiáng)調(diào)三類指標(biāo)組合的整體表達(dá)內(nèi)涵，去衡量一個(gè)國(guó)家或地區(qū)的社會(huì)發(fā)展總體狀況以及國(guó)民生活質(zhì)量的總水平。,70,在這個(gè)指標(biāo)體系中有如下的指標(biāo)：X1——預(yù)期壽命X2——成人識(shí)字率X3——綜合入學(xué)率X4——人均GDP（美圓）X5——預(yù)期壽命指數(shù)X6——教育成就指

30、數(shù)X7——人均GDP指數(shù),71,旋轉(zhuǎn)后的因子結(jié)構(gòu) Rotated Factor Pattern FACTOR1 FACTOR2 FACTOR3 X1 0.38129 0.41765 0.81714 X2

31、 0.12166 0.84828 0.45981 X3 0.64803 0.61822 0.22398 X4 0.90410 0.20531 0.34100 X5 0.38854 0.43295 0.80848

32、X6 0.28207 0.85325 0.43289 X7 0.90091 0.20612 0.35052 FACTOR1為經(jīng)濟(jì)發(fā)展因子 FACTOR2為教育成就因子 FACTOR3為健康水平因子,72,被每個(gè)因子解釋的方差和共同度 Variance e

33、xplained by each factor FACTOR1 FACTOR2 FACTOR3 2.439700 2.276317 2.009490 Final Communality Estimates: Total

34、= 6.725507 X1 X2 X3 X4 X5 0.987530 0.945796 0.852306 0.975830 0.992050 X6 X7 0.994995 0.976999,73,Standa

35、rdized Scoring Coefficients標(biāo)準(zhǔn)化得分系數(shù) FACTOR1 FACTOR2 FACTOR3 X1 -0.18875 -0.34397 0.85077 X2 -0.24109 0.60335 -0.10234 X3 0.35462 0.50232 -0.59895 X4 0.

36、53990 -0.17336 -0.10355 X5 -0.17918 -0.31604 0.81490 X6 -0.09230 0.62258 -0.24876,74,生育率的影響因素分析,生育率受社會(huì)、經(jīng)濟(jì)、文化、計(jì)劃生育政策等很多因素影響，但這些因素對(duì)生育率的影響并不是完全獨(dú)立的，而是交織在一起，如果直接用選定的變量對(duì)生育率進(jìn)行多元回歸分析，最終結(jié)果往往只能保留兩三個(gè)變

37、量，其他變量的信息就損失了。因此，考慮用因子分析的方法，找出變量間的數(shù)據(jù)結(jié)構(gòu)，在信息損失最少的情況下用新生成的因子對(duì)生育率進(jìn)行分析。 選擇的變量有：多子率、綜合節(jié)育率、初中以上文化程度比例、城鎮(zhèn)人口比例、人均國(guó)民收入。下表是1990年中國(guó)30個(gè)省、自治區(qū)、直轄市的數(shù)據(jù)。,75,76,特征根與各因子的貢獻(xiàn),77,沒(méi)有旋轉(zhuǎn)的因子結(jié)構(gòu),78,79,,在這個(gè)例子中我們得到了兩個(gè)因子，第一個(gè)因子是社會(huì)經(jīng)濟(jì)發(fā)展水平因子，第

38、二個(gè)是計(jì)劃生育因子。有了因子得分值后，則可以利用因子得分為變量，進(jìn)行其他的統(tǒng)計(jì)分析。,方差最大旋轉(zhuǎn)后的因子結(jié)構(gòu),標(biāo)準(zhǔn)化得分函數(shù),80,§ 6 因子分析的步驟、展望和建議,計(jì)算所選原始變量的相關(guān)系數(shù)矩陣 相關(guān)系數(shù)矩陣描述了原始變量之間的相關(guān)關(guān)系?？梢詭椭袛嘣甲兞恐g是否存在相關(guān)關(guān)系，這對(duì)因子分析是非常重要的，因?yàn)槿绻x變量之間無(wú)關(guān)系，做因子分析是不恰當(dāng)?shù)?。并且相關(guān)系數(shù)矩陣是估計(jì)因子結(jié)構(gòu)的基礎(chǔ)。,選擇分析的變

39、量 用定性分析和定量分析的方法選擇變量，因子分析的前提條件是觀測(cè)變量間有較強(qiáng)的相關(guān)性，因?yàn)槿绻兞恐g無(wú)相關(guān)性或相關(guān)性較小的話，他們不會(huì)有共享因子,所以原始變量間應(yīng)該有較強(qiáng)的相關(guān)性。,一、 因子分析通常包括以下五個(gè)步驟,81,提取公共因子 這一步要確定因子求解的方法和因子的個(gè)數(shù)。需要根據(jù)研究者的設(shè)計(jì)方案或有關(guān)的經(jīng)驗(yàn)或知識(shí)事先確定。因子個(gè)數(shù)的確定可以根據(jù)因子方差的大小。只取方差大于1(或特征值大于1)的那些因子，

40、因?yàn)榉讲钚∮?的因子其貢獻(xiàn)可能很??；按照因子的累計(jì)方差貢獻(xiàn)率來(lái)確定，一般認(rèn)為要達(dá)到60％才能符合要求； 因子旋轉(zhuǎn) 通過(guò)坐標(biāo)變換使每個(gè)原始變量在盡可能少的因子之間有密切的關(guān)系，這樣因子解的實(shí)際意義更容易解釋,并為每個(gè)潛在因子賦予有實(shí)際意義的名字。,82,計(jì)算因子得分 求出各樣本的因子得分，有了因子得分值，則可以在許多分析中使用這些因子，例如以因子的得分做聚類分析的變量，做回歸分析中的回歸因子。,83,因子

41、分析是十分主觀的，在許多出版的資料中，因子分析模型都用少數(shù)可闡述因子提供了合理解釋。實(shí)際上，絕大多數(shù)因子分析并沒(méi)有產(chǎn)生如此明確的結(jié)果。不幸的是，評(píng)價(jià)因子分析質(zhì)量的法則尚未很好量化，質(zhì)量問(wèn)題只好依賴一個(gè)“哇！”準(zhǔn)則,如果在仔細(xì)檢查因子分析的時(shí)候，研究人員能夠喊出“哇，我明白這些因子”的時(shí)候，就可看著是成功運(yùn)用了因子分析方法。,84,補(bǔ)充：變量聚類分析,一、簡(jiǎn)介 在實(shí)際工作中，變量聚類的應(yīng)用也十分重要。在系統(tǒng)分析或評(píng)估過(guò)程

42、中，為了避免某些重要因素的遺漏，人們往往在一開始選取指標(biāo)時(shí)，盡可能多地考慮所有的相關(guān)因素。而這樣做的結(jié)果，則是變量過(guò)多，變量相關(guān)度高，給系統(tǒng)分析與建模帶來(lái)很大的不便。因此，人們常常希望能研究變量間的相似關(guān)系，按照變量的相關(guān)關(guān)系把他們聚合為若干類，從而觀察和解釋影響系統(tǒng)的主要原因。,85,SAS/VARCLUS過(guò)程試圖把一組變量分為不重疊的一些類，所以VARCLUS過(guò)程可以用來(lái)壓縮變量，用信息損失很少的類分量來(lái)代替含有很多變量的變量集。例

43、如，一種教育情況的檢查可能包括有50項(xiàng)指標(biāo)，VARCLUS分析將這些項(xiàng)分為幾類，比如5個(gè)類，每類做部分檢查，檢查類分量的得分。,86,二、變量聚類的步驟VARCLUS過(guò)程開始把所有變量看為一個(gè)類,然后重復(fù)下面的步驟:1、  首先挑選一個(gè)將被分裂的類VARCLUS過(guò)程首先找出該大類的第一和第二公共因子，這兩個(gè)公共因子經(jīng)過(guò)正交坐標(biāo)變換，即因子分析中常用的Quartimax（四次方最大方法，按行簡(jiǎn)化因子載荷矩陣每行的結(jié)構(gòu)）旋轉(zhuǎn)

44、，讓原始變量?jī)H僅在一個(gè)公共因子上有高載荷。變量被指定歸入一個(gè)與其相關(guān)系數(shù)的平方較高的公共因子。如此原有的大類被分裂為二。,87,2、變量重新歸類 兩個(gè)（或兩個(gè)以上的）之中的一個(gè)類被選中，照第一步的方法再分裂為二。這個(gè)被選中的類通常擁有最大的第二特征根，或者是擁有最小的可被類向量解釋的變異數(shù)百分比。 3、第一步和第二步不停的交互進(jìn)行，直至類內(nèi)變量之間的第二特征根或可被類向量解釋的變異數(shù)百分比達(dá)到預(yù)設(shè)定的標(biāo)準(zhǔn)為