用于信息檢索的代價敏感排序?qū)W習算法研究.pdf

1、隨著網(wǎng)絡技術的迅速發(fā)展和互聯(lián)網(wǎng)規(guī)模的不斷擴大，互聯(lián)網(wǎng)已經(jīng)成為了全球最大、最廣泛使用的信息庫，如何有效檢索這些海量信息成為當前重要的研究課題，因而信息檢索(InformationRetrieval，IR)技術越來越受到人們的重視。信息檢索是指從大量的文檔集合中查找到與給定的查詢(query)相關的信息子集，是處理海量文本信息的重要手段。本文主要研究基于大規(guī)模文本數(shù)據(jù)的信息檢索算法。 在目前絕大多數(shù)的信息檢索系統(tǒng)中，其檢索出來的信息

2、(如文檔等)都以排序的方式返回給用戶，因此，信息檢索模型研究的核心問題也就歸結為如何高效地為信息進行排序。目前，利用監(jiān)督學習的方法構造排序模型是信息檢索領域中對排序方法研究的熱點?；谌斯俗⒌臄?shù)據(jù)，排序?qū)W習算法構造出排序模型并且將其用于預測新的未標注數(shù)據(jù)。排序支持向量機是基于監(jiān)督學習的排序算法中的代表，其將排序的問題轉(zhuǎn)換成在有序?qū)臻g上的分類問題，然后用支持向量機(SupportVectorMachines，SVM)模型求解。

3、 在實際的信息檢索的應用中，我們發(fā)現(xiàn)位于序列頂部的信息要比位于序列中間或者尾部的信息更加重要，受到用戶更多的關注。例如在文檔檢索中，用戶通常只是閱讀位于序列頂部的文檔。因此，在基于有序?qū)Φ呐判蛑С窒蛄繖C的算法中，與序列頂部有關的有序?qū)ε判蛐阅艿挠绊懕绕渌行驅(qū)Ω?。然而，傳統(tǒng)的排序算法如排序支持向量機并沒有考慮到上述因素，它在訓練的過程中平均地利用了所有生成的有序?qū)?。在本文的研究工作中，我們把代價敏感的學習方法融入到排序支持向量機的學

4、習算法中，提出了代價敏感排序?qū)W習算法，對傳統(tǒng)的排序支持向量機做出了改進，顯著的提高了排序性能。實驗證明，與排序支持向量機相比，本文所提出的代價敏感排序?qū)W習算法能夠降低發(fā)生在序列頂部的錯誤，提高了排序性能。 本文針對于信息檢索中的排序?qū)W習問題，提出把代價敏感學習方法融入到排序支持向量機中去，在損失函數(shù)的構造、優(yōu)化以及算法應用等方面開展研究。 在系統(tǒng)的分析研究了信息檢索的實際需求和排序支持向量機算法的基礎上，本文創(chuàng)造性的將代

5、價敏感的學習方法融入到排序支持向量機中，提出了代價敏感的排序損失函數(shù)，并且對損失函數(shù)的構造進行了詳細的說明和分析，闡述了其工作原理和性質(zhì)。 針對提出的代價敏感的排序損失函數(shù)，本文采用梯度下降法和二次規(guī)劃法來優(yōu)化代價敏感的排序損失函數(shù)，提出了代價敏感排序?qū)W習算法。在梯度下降法中，本文證明了損失函數(shù)的凸性，并把最小化損失函數(shù)的問題看成無約束的優(yōu)化問題，設計了梯度下降算法對目標函數(shù)進行優(yōu)化求解；在二次規(guī)劃法中，本文證明了優(yōu)化代價敏感的

6、排序損失函數(shù)等價于優(yōu)化一個二次規(guī)劃問題，并且采用改進的支持向量機對其進行優(yōu)化求解。 基于模擬實驗，本文從排序模型、有序?qū)Φ念A測精度以及排序性能三個方面綜合分析比較了本文提出的代價敏感排序?qū)W習算法和傳統(tǒng)的排序支持向量機算法。模擬實驗的結果表明：在符合現(xiàn)實數(shù)據(jù)分布的實驗條件下，本文所提出的代價敏感排序?qū)W習算法能夠取得比傳統(tǒng)的排序支持向量機更好的排序性能。 代價敏感排序?qū)W習算法在信息檢索中有著非常廣泛的應用，基于文檔檢索中的文

7、本文檔檢索和網(wǎng)絡文檔檢索，本文驗證了代價敏感排序?qū)W習算法在信息檢索中的應用效果：基于大規(guī)模公共數(shù)據(jù)集合的實驗表明，本文提出的代價敏感排序?qū)W習算法能夠比包括排序支持向量機在內(nèi)的當前流行的檢索算法取得更好的檢索性能。 企業(yè)級搜索是目前信息檢索研究中的熱點問題，也是代價敏感排序?qū)W習算法的一個重要的應用領域。本文以定義搜索為例提出了從企業(yè)網(wǎng)絡文檔中搜索定義的方法，指出定義搜索的核心問題在于為候選定義進行排序，并且將本文提出的代價敏感排序