基于Spark的Relion分布式實(shí)現(xiàn).pdf

1、Relion是冷凍電鏡圖片三維重建的事實(shí)標(biāo)準(zhǔn)軟件，通過Relion可以還原出被冷凍電鏡觀測(cè)物體的原有結(jié)構(gòu)。冷凍電鏡原本得到的二維圖片進(jìn)行三維重建問題的關(guān)鍵在于確定二維圖片的位置參數(shù)，即角度和距離，即得到的電鏡圖片是原來標(biāo)準(zhǔn)圖片如何旋轉(zhuǎn)和移動(dòng)得到的，其中角度等參數(shù)就是要求的關(guān)鍵。Relion在求這類參數(shù)時(shí)所使用的算法是一種最大似然估計(jì)，通過反復(fù)迭代計(jì)算優(yōu)化得到最終的還原結(jié)構(gòu)模型。Relion采用了MPI和Pthread的粗細(xì)粒度結(jié)合的并行

2、框架。在基于MPI實(shí)現(xiàn)多進(jìn)程的計(jì)算框架中，主節(jié)點(diǎn)負(fù)責(zé)分發(fā)任務(wù)，當(dāng)計(jì)算集群規(guī)模擴(kuò)大到一定規(guī)模以后，多個(gè)節(jié)點(diǎn)頻繁請(qǐng)求任務(wù)，主節(jié)點(diǎn)分發(fā)任務(wù)就會(huì)變的繁忙，成為一個(gè)瓶頸。另一方面，MPI本身缺乏容錯(cuò)機(jī)制，如果計(jì)算任務(wù)的某個(gè)實(shí)例計(jì)算失敗，則所有實(shí)例都需要重新計(jì)算，這也大大降低了并行計(jì)算效率和可擴(kuò)展性。值得一提的是，Relion中占絕大部分耗時(shí)的最大似然估計(jì)算法是一種較為簡(jiǎn)單的同步并行計(jì)算，非常適合移植到現(xiàn)有的Spark計(jì)算框架上。
　　在移植

3、到Spark計(jì)算框架過程中，為利用Spark特性來支持高性能計(jì)算主要做了以下三個(gè)方面的工作：利用一個(gè)Spark RDD對(duì)象產(chǎn)生的DAG實(shí)現(xiàn)作業(yè)調(diào)度，代替原來基于MPI通訊功能的主節(jié)點(diǎn)給各工作節(jié)點(diǎn)請(qǐng)求式分發(fā)任務(wù)的調(diào)度機(jī)制；通過Spark的RDD Shuffle和Broadcast操作代替原來基于MPI通訊功能的數(shù)據(jù)傳遞方式；通過JNA調(diào)用的C++代碼來使用native的BLAS等高性能線性代數(shù)計(jì)算庫，并利用JNA模擬結(jié)構(gòu)體進(jìn)行跨語言數(shù)據(jù)傳