基于模糊測試的加密協(xié)議漏洞挖掘方法研究.pdf

1、21世紀(jì)是信息化、網(wǎng)絡(luò)化的時代,通過網(wǎng)絡(luò)而進行的信息交換越來越多,軟件中所出現(xiàn)的漏洞也層出不窮,出于安全考慮,越來越多的軟件都對網(wǎng)絡(luò)協(xié)議進行了加密,惡意軟件也通過協(xié)議加密來阻止安全人員的逆向分析。加密協(xié)議格式逆向解析有助于軟件分析,也是漏洞挖掘的基礎(chǔ);而漏洞挖掘不僅暗含商業(yè)價值,也有助于保障信息安全。然而,當(dāng)前加密協(xié)議格式逆向技術(shù)尚不成熟,加密協(xié)議漏洞挖掘幾乎空白,所以具有廣袤的探索空間。
　　分析加密協(xié)議格式,首先需要找到解密函

2、數(shù),然后再找到解密后明文緩沖區(qū),最后分析明文格式。已有的研究成果在解密函數(shù)的篩選方面有很大的不足,針對這些不足,一方面對原有的篩選方式進行了改進,通過使用動態(tài)污點跟蹤還有函數(shù)代碼片段合并,大大減少了疑似解密函數(shù)的數(shù)量;另一方面提出了相關(guān)度和計算強度這兩個新的篩選方式。相關(guān)度用來排除與輸入數(shù)據(jù)相關(guān)度小的非解密函數(shù),計算強度用來排除邏輯簡單的非解密函數(shù)。使用這兩個新的篩選方法后,可以大大減少疑似函數(shù)的數(shù)量并降低誤報。
　　加密協(xié)議格式

3、逆向一方面指出了解密后明文緩沖區(qū)所在的位置,另一方面提供了明文數(shù)據(jù)格式。在此基礎(chǔ)上,將內(nèi)存模糊測試方法應(yīng)用到加密協(xié)議的測試上,依據(jù)逆向解析的數(shù)據(jù)格式,對解密后的明文緩沖區(qū)進行內(nèi)存模糊測試,實現(xiàn)了一種加密協(xié)議漏洞挖掘的方法。
　　在已有動態(tài)污點跟蹤平臺上實現(xiàn)了解密函數(shù)定位系統(tǒng),在pydbg上實現(xiàn)了加密協(xié)議模糊測試系統(tǒng)。為了測試解密函數(shù)定位方法的效果,使用原有方法和改進后的方法對部分聊天軟件、翻墻軟件進行了測試和對比分析,測試結(jié)果表明