矩陣分解在數(shù)據挖掘中的應用.pdf

1、矩陣分解在很多需要數(shù)據挖掘技術的實際應用中非常熱門，例如信息檢索，機器視覺和模式識別等領域。矩陣分解旨在使用兩個或者更多的低維矩陣來逼近一個高維矩陣。在現(xiàn)實應用中，數(shù)據通常會有各種各樣的特點:數(shù)據可能會有全局幾何結構;數(shù)據也可能是非常稀疏的;訓練數(shù)據集可能是非常有限的。這就需要人們圍繞數(shù)據的特點設計不同的矩陣分解方法。本文研究了矩陣分解在實際應用中的一些突出問題?；诂F(xiàn)有的工作，我們借用不同的數(shù)據結構提出了不同的矩陣分解方法，用來解決實

2、際問題。本文的主要工作和貢獻在下面幾個方面:
　　1.針對數(shù)據表示中存在的問題，提出了一種坐標排序正則化非負矩陣分解方法，以更好的利用數(shù)據的全局流形幾何結構。這個方法的主要思想是結合非負矩陣分解和流形排序方法來同時利用數(shù)據的局部和全局幾何結構。在真實數(shù)據上的實驗結果說明了所提出算法的優(yōu)越性。
　　2.針對科學文章推薦存在的問題，提出了一種主題回歸矩陣分解模型。這種分解模型主要是使用概率主題建模對矩陣分解進行拓展。主題回歸矩陣

3、分解模型通過引入一個回歸模型對用戶隱藏變量進行正則化，這種正則化是基于一個假設:評價過相似項目的用戶有著相似的偏好。進一步，主題回歸矩陣分解模型可以為用戶和項目提供可解釋的隱藏變量,并且可以為社區(qū)用戶作出準確的預測。此外，我們在CiteULike網站提供的一個較大的真實數(shù)據集上驗證了算法的效率。實驗結果表明本算法在性能上要優(yōu)于現(xiàn)有的代表性算法。
　　3.針對科學文章中存在相關性結構的問題，我們提出了主題回歸多矩陣分解模型。這種分解

4、模型可以將主題回歸模型和相關性矩陣分解結合起來。此外，我們還提出了帶有相關性矩陣分解的協(xié)同主題回歸模型，此模型可以作為主題回歸多矩陣分解模型的基準比較算法。同樣,我們在CiteULike網站提供的一個較大的真實數(shù)據集上驗證了算法的效率。實驗結果表明主題回歸多矩陣分解模型要優(yōu)于其他現(xiàn)有的代表性算法。
　　4.針對標注問題中訓練集有限且含有噪聲問題，我們提出了多標簽約束的半參數(shù)正則支持向量機方法。這種方法可以通過半參數(shù)正則利用已標注和