機器學(xué)習(xí)復(fù)習(xí)重點

1、機器學(xué)習(xí)復(fù)習(xí)重點 機器學(xué)習(xí)復(fù)習(xí)重點判斷題（共 判斷題（共 30 分，每題 分，每題 2 分，打 分，打√或×）1、如果問題本身就是非線性問題，使用支持向量機（SVM）是難以取得好的預(yù)測效果的。（×）2、只要使用的半監(jiān)督學(xué)習(xí)方法合適，利用 100 個標記樣本和 1000 個無標記樣本的預(yù)測效果，同樣可以達到利用 1100 個標記樣本使用監(jiān)督學(xué)習(xí)方法的預(yù)測效果。 （×）3、深度學(xué)習(xí)中應(yīng)該盡量避免過擬合。 （&#

2、215;）4、在隨機森林 Bagging 過程中，每次選取的特征個數(shù)為 m，m 的值過大會降低樹之間的關(guān)聯(lián)性和單棵樹的分類能力。 （×）5、決策樹學(xué)習(xí)的結(jié)果，是得到一組規(guī)則集，且其中的規(guī)則是可以解釋的。 （√）6、在 FCM 聚類算法中交替迭代優(yōu)化目標函數(shù)的方法不一定得到最優(yōu)解。 （√）7、在流形學(xué)習(xí) ISOMAP 中，測地距離即是歐氏距離。 （×）8、貝葉斯決策實質(zhì)上是按后驗概率進行決策的。 （√）9、非參數(shù)估計需

3、要較大數(shù)量的樣本才能取得較好的估計結(jié)果。 （√）10、不需要顯示定義特征是深度學(xué)習(xí)的優(yōu)勢之一。 （√）判斷題為反扣分題目；答對得 判斷題為反扣分題目；答對得 2 分，不答得 分，不答得 0 分，答錯得 分，答錯得-2 分； 分；問答題（共 問答題（共 60 分） 分）1、 從樣本集推斷總體概率分布的方法可以歸結(jié)為哪幾種類型？請分別簡要解釋之。監(jiān)督參數(shù)估計：樣本所屬的類別和各類的類條件概率密度函數(shù)的形式是已知的，而表征概率密度函數(shù)的某些參

4、數(shù)是未知的。非監(jiān)督參數(shù)估計：已知總體概率密度函數(shù)形式，但未知樣本所屬類別，要求判斷出概率密度函數(shù)的某些參數(shù)。非參數(shù)估計：已知樣本所屬類別，但未知各類的概率密度函數(shù)的形式，要求我們直接推斷概率密度函數(shù)本身。2、什么是 k-近鄰算法？k-近鄰算法的基本思想（3 分）：未知樣本 x，根據(jù)度量公式得到距離 x 最近的 k 個樣本。統(tǒng)計這 k 個樣本點中，各個類別的數(shù)量。數(shù)量最多的樣本是什么類別，我們就把這個數(shù)據(jù)點定為什么類別。, argmax

5、( ), K m n nnx m k k n ? ? ? 是個樣本中第類的樣本個數(shù)m 為所求類別。3、 決策樹的 C4.5 算法與 ID3 算法相比主要有哪些方面的改進？1) 用信息增益比來選擇屬性，克服了用信息增益選擇屬性時偏向選擇取值多的屬性的不足；2) 增加了后剪枝操作。測。形式化地說，多標記學(xué)習(xí)的任務(wù)是從數(shù)據(jù)集{(x1,Y1), (x2,Y2),…,(xm,Ym)}中學(xué)得函數(shù) f:x→2y，其中 xi∈x 為一個示例而 Yiy

6、為示例 xi 所屬的一組概念標記。9、就您的理解，談?wù)勈裁词蔷垲?？請簡要介紹您所熟悉的一種聚類方法。聚類是將多個對象按照某種相似度的度量方式分成不同的組（簇） 。K-means 聚類：算法過程：選擇 K 個點作為初始質(zhì)心Repeat將每個點指派到離它最近的質(zhì)心，形成 K 個簇重新計算每個簇的質(zhì)心Until 簇不再發(fā)生變化或者達到最大迭代次數(shù)計算題（共 計算題（共 10 分） 分）1、有如圖所示的神經(jīng)網(wǎng)絡(luò)。 Squash functio

7、n 為：，輸入樣本 , 1 ( ) 1 , 1x x f x x? ? ? ? ? ?，輸出節(jié)點為 ，第 次學(xué)習(xí)得到的權(quán)值為： 1 2 1, 0 x x ? ? z k。試求第 次前向傳播學(xué) 11 12 21 22 1 2 ( ) 0, ( ) 2, ( ) 2, ( ) 1, ( ) 1, ( ) 1 w k w k w k w k T k T k ? ? ? ? ? ? k習(xí)得到的輸出節(jié)點值 ，請給出求解過程和結(jié)果。 ( ) z k