分布式鍵值存儲(chǔ)系統(tǒng)高效能數(shù)據(jù)布局技術(shù)研究.pdf

1、分布式鍵值存儲(chǔ)系統(tǒng)是最常用的分布式存儲(chǔ)系統(tǒng)之一，目前被廣泛部署在大規(guī)模數(shù)據(jù)中心中。然而，大規(guī)模數(shù)據(jù)中心的能耗是一個(gè)亟待解決的問題。其中，服務(wù)器的能耗占到了整個(gè)數(shù)據(jù)中心的大部分能耗。隨著網(wǎng)絡(luò)數(shù)據(jù)量的持續(xù)增加，數(shù)據(jù)中心對(duì)服務(wù)器的需求量會(huì)越來越大。因此，服務(wù)器能耗已經(jīng)成為企業(yè)數(shù)據(jù)中心的一個(gè)嚴(yán)重問題。
　　目前，很多節(jié)能技術(shù)采用關(guān)閉存儲(chǔ)設(shè)備或者服務(wù)器的方式進(jìn)行節(jié)能。但是，在分布式鍵值存儲(chǔ)系統(tǒng)中關(guān)閉服務(wù)器是極具挑戰(zhàn)性的，因?yàn)橄到y(tǒng)可靠性可能會(huì)

2、降低。關(guān)閉存儲(chǔ)設(shè)備帶來的可靠性問題已經(jīng)成為節(jié)能研究的關(guān)注重點(diǎn)。
　　另外，由于固態(tài)盤在性能和能耗方面的優(yōu)勢(shì)，以及基于NAND閃存的固態(tài)盤存儲(chǔ)容量的持續(xù)增加和價(jià)格的降低，越來越多的固態(tài)盤被配置到服務(wù)器存儲(chǔ)系統(tǒng)中作為緩存或者存儲(chǔ)設(shè)備。但是，基于閃存的服務(wù)器之間的I/O負(fù)載是不均衡的，這種不均衡會(huì)導(dǎo)致閃存磨損不均衡。磨損不均衡會(huì)對(duì)整個(gè)鍵值存儲(chǔ)集群的可靠性、性能以及壽命產(chǎn)生負(fù)面影響。
　　針對(duì)基于一致性哈希的分布式鍵值存儲(chǔ)系統(tǒng)的能耗

3、問題，本文首先提出了GreenCHT節(jié)能技術(shù)，它包括一個(gè)分層副本放置策略和一個(gè)預(yù)測(cè)性能耗模式調(diào)節(jié)器PMS。數(shù)據(jù)對(duì)象的副本被分布到互不重疊的哈希環(huán)上而不是隨機(jī)放置在哈希環(huán)的某一些節(jié)點(diǎn)上。這種放置策略可以通過關(guān)閉部分服務(wù)器，使得系統(tǒng)進(jìn)入不同的能耗模式，而不會(huì)影響數(shù)據(jù)的可用性。另外，能耗模式調(diào)節(jié)器PMS能夠預(yù)測(cè)I/O負(fù)載，并且根據(jù)負(fù)載的高低波動(dòng)變化來相應(yīng)關(guān)閉或者開啟某些節(jié)點(diǎn)層，進(jìn)入不同的能耗模式。因此，系統(tǒng)的性能和能耗是與系統(tǒng)的負(fù)載成比例的。

4、通過關(guān)閉不同數(shù)目的節(jié)點(diǎn)層，系統(tǒng)可以切換到不同能耗模式來滿足不同的能耗和性能需求，同時(shí)不會(huì)影響數(shù)據(jù)的可用性。
　　為了解決低能耗數(shù)據(jù)布局中存在的可靠性問題，本文提出了一個(gè)分布式的Log-store來維持?jǐn)?shù)據(jù)的可靠性：當(dāng)一部分服務(wù)器被關(guān)閉后，所有的訪問待機(jī)服務(wù)器的寫請(qǐng)求都以一種可靠的數(shù)據(jù)布局方式被重新分布到其他活動(dòng)的服務(wù)器上。這樣的布局方式不僅可以保證數(shù)據(jù)的可靠性同時(shí)還能夠維護(hù)寫請(qǐng)求的并行性。即使是在低能耗狀態(tài)，Log-store也可

5、以保證副本的冗余度。當(dāng)系統(tǒng)出現(xiàn)服務(wù)器宕機(jī)時(shí)，系統(tǒng)可以開啟一層服務(wù)器并且開始數(shù)據(jù)恢復(fù)。這樣，即使是在部分節(jié)點(diǎn)被關(guān)閉的低能耗模式下，系統(tǒng)仍然可以容R-1個(gè)節(jié)點(diǎn)出錯(cuò)，其中R為副本的冗余度。本文還給出了分布式Log-store處理服務(wù)器故障的具體容錯(cuò)方案。
　　另外，本文提出了一個(gè)基于閃存耐久性的寫轉(zhuǎn)移技術(shù)稱為EWO，用來均衡不同閃存服務(wù)器之間的損耗差異。由于基于數(shù)據(jù)遷移的損耗均衡算法產(chǎn)生了大量的額外的寫請(qǐng)求，這些寫請(qǐng)求會(huì)導(dǎo)致相當(dāng)大的額外

6、磨損，EWO的設(shè)計(jì)是利用閃存存儲(chǔ)器異地更新的特性，通過將寫請(qǐng)求或者更新請(qǐng)求在不同閃存服務(wù)器之間轉(zhuǎn)移或者重定向來減少均衡過程帶來的額外損耗。為了將擦除次數(shù)均勻的分布到閃存服務(wù)器上，EWO首先基于垃圾回收的頻率計(jì)算出：多少寫請(qǐng)求需要從擦除次數(shù)比較多的閃存服務(wù)器轉(zhuǎn)移到擦除次數(shù)比較低的閃存服務(wù)器上，然后進(jìn)行寫請(qǐng)求重新分配或者重定向來均衡損耗。為了降低寫轉(zhuǎn)移操作帶來的元數(shù)據(jù)開銷，EWO采用了一個(gè)熱切片轉(zhuǎn)移策略HSO，來達(dá)到額外的損耗開銷和元數(shù)據(jù)開