基于FPGA的大規(guī)模脈沖深度神經(jīng)網(wǎng)絡(luò)片上系統(tǒng)設(shè)計(jì)與研究.pdf

1、自深度神經(jīng)網(wǎng)絡(luò)被提出以來，就因其在處理實(shí)際問題中所表現(xiàn)的優(yōu)秀性能而成為人工神經(jīng)網(wǎng)絡(luò)的主流研究方向。但是，隨著深度神經(jīng)網(wǎng)絡(luò)研究的不斷深入以及處理問題的復(fù)雜度不斷增加，深度神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)規(guī)模和網(wǎng)絡(luò)計(jì)算復(fù)雜度也隨之成倍提升。總體來說，在深度神經(jīng)網(wǎng)絡(luò)的計(jì)算中存在著存儲(chǔ)復(fù)雜度高，計(jì)算復(fù)雜度高，數(shù)據(jù)傳輸帶寬大的挑戰(zhàn)。
　　論文的研究目的是設(shè)計(jì)一種面向嵌入式系統(tǒng)的深度神經(jīng)網(wǎng)絡(luò)計(jì)算協(xié)處理器，用以實(shí)現(xiàn)低功耗，高效的大規(guī)模深度神經(jīng)網(wǎng)絡(luò)實(shí)時(shí)計(jì)算。論文通

2、過對(duì)包括對(duì)深度置信網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)兩種網(wǎng)絡(luò)模型的主流神經(jīng)網(wǎng)絡(luò)模型中存在的計(jì)算和存儲(chǔ)復(fù)雜的問題進(jìn)行研究，提出了一種面向硬件友好的脈沖深度神經(jīng)網(wǎng)絡(luò)模型及其訓(xùn)練算法，并且據(jù)此設(shè)計(jì)了一種基于片上系統(tǒng)的，具有可擴(kuò)展性和一致性的高速脈沖深度神經(jīng)網(wǎng)絡(luò)計(jì)算協(xié)處理器。
　　論文的主要研究成果如下：
　?、偬岢隽艘环N脈沖驅(qū)動(dòng)的深度神經(jīng)網(wǎng)絡(luò)模型及其訓(xùn)練算法。論文通過綜合分析具有較強(qiáng)實(shí)際問題處理能力的深度神經(jīng)網(wǎng)絡(luò)模型以及在硬件實(shí)現(xiàn)中具有易于實(shí)現(xiàn)和

3、低功耗特點(diǎn)的脈沖神經(jīng)網(wǎng)絡(luò)模型，提出了包含脈沖深度置信網(wǎng)絡(luò)和脈沖卷積神經(jīng)網(wǎng)絡(luò)在內(nèi)的脈沖深度神經(jīng)網(wǎng)絡(luò)模型及其訓(xùn)練算法。
　?、谠O(shè)計(jì)了一種通用的脈沖深度神經(jīng)網(wǎng)絡(luò)存儲(chǔ)和計(jì)算硬件架構(gòu)。為了實(shí)現(xiàn)兼容脈沖深度置信網(wǎng)絡(luò)和脈沖卷積神經(jīng)網(wǎng)絡(luò)兩種網(wǎng)絡(luò)模型的存儲(chǔ)和計(jì)算，論文提出了將兩種網(wǎng)絡(luò)模型轉(zhuǎn)換得到一致的稀疏前饋網(wǎng)絡(luò)結(jié)構(gòu)，然后設(shè)計(jì)了一種基于索引查找表的一致性硬件架構(gòu)來實(shí)現(xiàn)對(duì)轉(zhuǎn)換后的脈沖深度神經(jīng)網(wǎng)絡(luò)進(jìn)行計(jì)算，并且在硬件架構(gòu)設(shè)計(jì)中引入了層次化流水和低功耗的