機(jī)器學(xué)習(xí)算法優(yōu)缺點(diǎn)改進(jìn)總結(jié)

1、Lecture1IntroductiontoSupervisedLearning（1）ExpectatinMaximization(EM)Algithm(期望值最大)（2）LinearRegressionAlgithm(線性回歸)（3）LocalWeightedRegression(局部加權(quán)回歸)（4）kNearestNeighbAlgithmfRegression(回歸k近鄰)（5）LinearClassifier(線性分類)（6）P

2、erceptronAlgithm(線性分類)（7）FisherDiscriminantAnalysisLinearDiscriminantAnalysis(LDA)（8）kNNAlgithmfClassifier(分類k近鄰)（9）BayesianDecisionMethod(貝葉斯決策方法)Lecture2FeedfwardNeuralwksBPAlgithm（1）MultilayerPerceptron(多層感知器)（2）BPAlg

3、ithmLecture3RudimentsofSupptVectMachine（1）SupptVectMachine(支持向量機(jī))（此算法是重點(diǎn)，必考題）此處有一道必考題Lecture4IntroductiontoDecisionRuleMining（1）DecisionTreeAlgithm（2）ID3Algithm（3）C4.5Algithm（4）粗糙集……Lecture5ClassifierAssessmentEnsembleMe

4、thods（1）Bagging（2）Booting（3）AdaboostingLecture6IntroductiontoAssociationRuleMining（1）ApriiAlgithms（2）FPtreeAlgithmsLecture7IntroductiontoCusteringAnalysis（1）kmeansAlgithms（2）fuzzycmeansAlgithms（3）kmodeAlgithms（4）DBSCANAl

5、githmsLecture8BasicsofFeatureion（1）ReliefAlgithms（2）ReliefFAlgithms2Lecture1IntroductiontoSupervisedLearning（1）ExpectatinMaximization(EM)Algithm(期望值最大期望值最大)①算法思想：EM算法又稱期望最大化算法，是對(duì)參數(shù)極大似然估計(jì)的一種迭代優(yōu)化策略，它是一種可以從非完整的數(shù)據(jù)集中對(duì)參數(shù)進(jìn)行極大似然

6、估計(jì)的算法應(yīng)用于缺損數(shù)據(jù)，截尾數(shù)據(jù)，帶有噪聲的非完整數(shù)據(jù)。最大期望算法經(jīng)過兩個(gè)步驟交替進(jìn)行計(jì)算：第一步計(jì)算期望（E）：也就是將隱藏的變量對(duì)象能夠觀察到的一樣包含在內(nèi)，從而計(jì)算最大似然的期望值；另外一步是最大化（M），也就是最大化在E步上找到的最大似然期望值，從而計(jì)算參數(shù)的似然估計(jì)。M步上找到的參數(shù)然后用于另一個(gè)E步計(jì)算。重復(fù)上面2步直至收斂。②優(yōu)點(diǎn)：1）Ｍ步僅涉及完全數(shù)據(jù)極大似然，通常計(jì)算比較簡(jiǎn)單2）收斂是穩(wěn)定的，因?yàn)槊看蔚乃迫缓瘮?shù)