Please enable JavaScript.
Coggle requires JavaScript to display documents.
IEEE - DFL + Non-IID - Coggle Diagram
IEEE - DFL + Non-IID
隱私安全
-
針對 FL 方法中的數據隱私和模型準確性
[20] 設計了一種基於品質的聚合方法和擴展動態貢獻廣播加密(DConBE)方案的隱私保護且可靠的DFL方案,在client間建立安全通道來增強數據隱私,同時還支援低延遲的client批量加入/離開,不僅有效避免低品質的更新,並保證了模型準確性和數據隱私之間的權衡
為了A-IoT的隱私保護
[21] 為了A-IoT的隱私保護,提出了基於委員會的共識算法並結合個性化激勵機制 - FL-SEC,且設計了 balanced sign SGD的1-bit梯度壓縮方法,透過交換梯度符號來實現隱私保護,同時保證通訊效率
-
-
-
-
異質性
數據
對於數據異質中的標籤分布偏差進行探討
[3] 提出一種稀疏拓樸 - D-Cliques,將client分群,群集內以全連方式通訊,而群之間只留下一條通訊link,在標籤分佈偏斜的情況下D-Cliques能降低通訊量並達到與全連拓樸相似的收斂速度
-
在DFL中數據異質性的情況下會導致學習性能下降
[22] 提出在DFL中使用相互知識轉移( MKT )的方法,稱為Def-KT,以避免用戶端漂移的負面影響,透過讓不同知識的兩個模型能夠相互學習,並且生成的模型從兩個模型中間接獲取知識,使收斂速度更快,學習性能更穩定
-
-
通訊資源
頻寬限制
-
-
針對無線網路上的資源限制問題及促進共識階段
[16] 提出在DFL中基於AirComp的DSGD且具有梯度跟蹤和方差減少(DSGT-VR)演算法,引入了預編碼和解碼策略,以應對通信資源的有限性,同時涉及梯度跟蹤和變異數縮減技術,可以進一步提高收斂性能
針對邊緣或行動裝置的頻寬資源限制及動態網路拓樸
[18] 針對邊緣或行動裝置的頻寬資源限制及動態網路拓樸,提出模型稀疏化結合八卦頻寬感知矩陣生成演算法的GossipFL,以減少用戶端上的通信流量和自適應對等選擇,不僅降低通訊流量,同時提高頻寬的使用率,讓收斂時間縮短
-
針對IoT的異構設備及有限的通訊資源
[36] 提出了一種基於原型學習演算法的時變分散聯邦學習(DeProFL),不是直接傳播需要大量傳輸量的大模型權重,而是在本地設備之間傳播原型( 類別的特徵或特性 )表示以減少傳輸,同時讓每個設備僅與相鄰設備共享其原型以進行協作學習,以提高系統穩定性並減少網路頻寬使用
-
-
-
-