基于概率主題模型的情境建模方法研究.pdf

1、隨著IT產(chǎn)業(yè)尤其是互聯(lián)網(wǎng)的蓬勃發(fā)展，人類(lèi)社會(huì)逐漸進(jìn)入了大數(shù)據(jù)時(shí)代，我們每天都可以通過(guò)多種渠道接觸到海量的信息。如何從信息的海洋中獲取知識(shí)逐漸變得非常困難，為了應(yīng)對(duì)這種信息過(guò)載的問(wèn)題，數(shù)據(jù)挖掘技術(shù)應(yīng)運(yùn)而生。然而，傳統(tǒng)數(shù)據(jù)挖掘方法的解空間通常較大，其挖掘結(jié)果仍然難以滿足用戶(hù)需求。幸運(yùn)的是，移動(dòng)互聯(lián)網(wǎng)的崛起和智能移動(dòng)設(shè)備的應(yīng)用普及，使得與用戶(hù)的行為和周邊環(huán)境相關(guān)的情境數(shù)據(jù)被大規(guī)模的記錄、收集并逐年積累。通過(guò)對(duì)實(shí)體（用戶(hù)以及與其有交互關(guān)系的實(shí)物

2、如商品、文本等）進(jìn)行情境感知的建模，挖掘出實(shí)體在不同情境下的特性以及模式的情境數(shù)據(jù)挖掘，成為解決傳統(tǒng)數(shù)據(jù)挖掘方法解空間過(guò)大問(wèn)題的有效途徑，具有重要的研究?jī)r(jià)值和應(yīng)用意義。在此背景下，本文系統(tǒng)地研究了情境數(shù)據(jù)挖掘方法及其應(yīng)用問(wèn)題。特別的，本文在傳統(tǒng)互聯(lián)網(wǎng)環(huán)境以及移動(dòng)互聯(lián)網(wǎng)環(huán)境這兩個(gè)角度分別研究了三類(lèi)問(wèn)題:移動(dòng)用戶(hù)的情境識(shí)別、移動(dòng)情境中的用戶(hù)聯(lián)系人意圖建模以及面向互聯(lián)網(wǎng)信息的命名實(shí)體情境建模。具體而言，本文的主要研究?jī)?nèi)容如下:
　　首先

3、，提出了一種面向移動(dòng)用戶(hù)的半監(jiān)督情境識(shí)別模型。為了挖掘帶有語(yǔ)義信息的移動(dòng)用戶(hù)情境，以便為用戶(hù)提供更好的信息服務(wù)，學(xué)者們提出了有監(jiān)督模型或者無(wú)監(jiān)督模型的移動(dòng)情境建模方法。然而，有監(jiān)督模型過(guò)分依賴(lài)于標(biāo)注數(shù)據(jù)，使得這類(lèi)方法在現(xiàn)實(shí)應(yīng)用中難以應(yīng)用，而無(wú)監(jiān)督模型挖掘出來(lái)的情境缺乏潛在的語(yǔ)義信息，這使得挖掘出來(lái)的結(jié)果沒(méi)有很強(qiáng)的實(shí)用性。針對(duì)以上問(wèn)題，結(jié)合在現(xiàn)實(shí)環(huán)境中容易獲得用戶(hù)部分有標(biāo)注情境數(shù)據(jù)的現(xiàn)狀，本文提出了可以融合有標(biāo)注和無(wú)標(biāo)注數(shù)據(jù)的半監(jiān)督模型對(duì)

4、移動(dòng)用戶(hù)的情境進(jìn)行建模，同時(shí)本文還設(shè)計(jì)了對(duì)應(yīng)的半監(jiān)督學(xué)習(xí)算法。在模型中，我們稱(chēng)移動(dòng)用戶(hù)情境潛在的語(yǔ)義信息為情境主題，因?yàn)椴煌脩?hù)其情境主題是個(gè)性化的，意味著每個(gè)用戶(hù)有著不同的情境主題，且數(shù)目也不相同，因此，模型需要事先知道用戶(hù)的情境主題數(shù)目方能為其進(jìn)行情境建模，因?yàn)閭鹘y(tǒng)求解方法需要通過(guò)不斷嘗試不同值然后判斷出合適的主題數(shù)目而導(dǎo)致效率低下，因此本文提出了無(wú)參估計(jì)模型來(lái)對(duì)解情境主題的數(shù)目進(jìn)行建模，該模型能夠較為理想的對(duì)情境主題數(shù)目進(jìn)行估計(jì)，

5、同時(shí)在模型訓(xùn)練階段，其算法迭代結(jié)束后的一些變量可以直接用于情境建模模型的初始化過(guò)程中，實(shí)驗(yàn)表明這使得情境建模的模型訓(xùn)練時(shí)間縮短，并且，與隨機(jī)始化的方式相比能夠取得更優(yōu)的建模效果。另外本文還提出了一個(gè)完整的半監(jiān)督情境識(shí)別的系統(tǒng)框架圖，不僅包括標(biāo)注數(shù)據(jù)的收集與處理，也包括建模和估參等過(guò)程。最后在真實(shí)數(shù)據(jù)上的大量有針對(duì)性的實(shí)驗(yàn)表明本文提出的半監(jiān)督情境識(shí)別模型具有優(yōu)于已有研究工作的良好效果。
　　其次，通過(guò)研究用戶(hù)的移動(dòng)情境以及聯(lián)系日志，

6、提出一種基于概率主題模型的聯(lián)系人意圖建模方法，解決了移動(dòng)用戶(hù)意圖理解的困難。隨著智能移動(dòng)設(shè)備的普及，以及各種智能互聯(lián)網(wǎng)應(yīng)用的廣泛使用，“聯(lián)系”操作在諸多場(chǎng)景中被頻繁使用。另一方面，由于智能移動(dòng)設(shè)備存在一些弊端（如屏幕小等），這使得對(duì)用戶(hù)的聯(lián)系人意圖進(jìn)行建模從而為智能服務(wù)提供理論基礎(chǔ)顯得十分必要。針對(duì)該聯(lián)系人意圖理解的問(wèn)題，本文在數(shù)據(jù)預(yù)處理階段提出了簡(jiǎn)單有效的情境會(huì)話劃分算法以及情境區(qū)域劃分算法，并在此基礎(chǔ)之上提出了一種假設(shè):用戶(hù)在執(zhí)行一

7、個(gè)聯(lián)系操作的過(guò)程中通常會(huì)基于某種“意圖”，如“閑聊”、“公務(wù)”等，另外大都會(huì)以數(shù)次時(shí)間間隔很短的聯(lián)豕行為作為一個(gè)會(huì)話的形式出現(xiàn)，同時(shí)用戶(hù)的聯(lián)系意圖在很大程度上也與用戶(hù)所處的地理位置情境有關(guān)聯(lián)。基于以上假設(shè)，本文提出用概率主題模型對(duì)移動(dòng)用戶(hù)的潛在聯(lián)系意圖進(jìn)行建模的模型，實(shí)驗(yàn)表明該模型能夠較為合理的為用戶(hù)的聯(lián)系人進(jìn)行建模，并通過(guò)案例分析的方式驗(yàn)證了假設(shè)的合理性。
　　最后，通過(guò)從詞和命名實(shí)體兩種角度分析互聯(lián)網(wǎng)信息中的文本，提出一種基于

8、概率主題模型的命名實(shí)體情境建模方法，解決了實(shí)體歧義問(wèn)題。與面向用戶(hù)的情境建模相比，命名實(shí)體的情境建模同樣具有重要意義，因?yàn)檫@有助于我們更好的理解實(shí)體，進(jìn)而更準(zhǔn)確合理的利用命名實(shí)體為用戶(hù)提供更優(yōu)質(zhì)的服務(wù)。然而，由于實(shí)體歧義性問(wèn)題的存在，給實(shí)體建模和理解帶來(lái)了極大的挑戰(zhàn)。為此，本文將包含實(shí)體信息的文本解析成詞和命名實(shí)體兩種層面的信息，考慮到二者同屬于一篇文檔，應(yīng)當(dāng)具有相同的主題分布，因此可以將其映射到同一個(gè)主題空間中?；诖耍岢隽艘环N基于