切換網絡分布式Push-sum無梯度算法.pdf

1、近年來，伴隨著網絡、通迅、計算機等技術的快速發(fā)展，分布式優(yōu)化研究課題備受學者們關注，尤其是大數據時代的到來給分布式優(yōu)化算法提供了新的研究課題。多個體網絡是由眾多個體通過信息通訊耦合成的網絡化系統(tǒng)，其中每個個體均具有感知、處理和通迅的能力。分布式優(yōu)化目的是要求網絡中各個個體團隊合作解決網絡中各個目標函數之和的最小值問題，其優(yōu)點不僅能有效節(jié)約企業(yè)或公司中的投資成本而且具有極強的魯棒性。但現實中，很多通迅條件都會影響個體間信息通訊，如切換非平

2、衡網絡、個體目標函數次梯度計算復雜或者通迅通道故障等約束條件，因此目前研究切換網絡下分布式優(yōu)化算法意義重大。
　　本文主要解決多個體網絡中所有個體通過相互協作來尋求各個個體目標函數之和的最小值問題，其中每個個體僅知其自身目標函數且僅可以與其鄰居個體交互信息。針對個體目標函數次梯度計算復雜和不存在情況，以及對個體間信息通訊出現的其它復雜問題進行深入研究。本文包括兩部分主要內容:
　　一、針對多個體網絡中個體間信息通訊常會出現數

3、據丟包、個體目標函數通常是非光滑及單變量信息通迅具有一定局限性等問題，提出數據丟包情形下分布式無梯度Push-sum算法。通過增加虛擬節(jié)點進行系統(tǒng)擴維，為此建立一個有限的非均勻的馬爾可夫鏈，這意味著與網絡拓撲相對應的權矩陣為列隨機矩陣而無需雙隨機矩陣，因而網絡拓撲是切換非平衡的。并利用遍歷性系數的結論理論上驗證了算法的收斂性，其中誤差值與高斯近似函數的光滑參數、目標函數的lipschitz常數成正比。故有效解決了數據丟包及個體目標函數次

4、梯度計算復雜的分布式優(yōu)化問題。
　　二、針對多個體網絡中所有個體在同一時刻進行信息通迅使得信息量巨大致使信息擁塞或網絡坍塌的情況頻繁發(fā)生的問題，提出分布式流言Push-sum無梯度算法來解決上述問題。個體選擇鄰居進行信息通訊的過程均服從一個泊松分布時鐘的轉動規(guī)律，時鐘每轉動一次代表與選擇的鄰居信息通訊一次。接著在網絡連通和迭代步長下降的基礎上證明了所提算法具有收斂性。最后，通過MATLAB軟件分析得出的圖像驗證了所提算法理論結果的