近日,信息科學(xué)技術(shù)學(xué)院王玲玲副教授團(tuán)隊(duì)在人工智能安全領(lǐng)域取得了新進(jìn)展。其兩項(xiàng)研究成果以“TMT-FL: Enabling Trustworthy Model Training of Federated Learning with Malicious Participants”和“RaSA: Robust and Adaptive Secure Aggregation for Edge-Assisted Hierarchical Federated Learning”為題分別發(fā)表在IEEE Transactions on Dependable and Secure Computing(TDSC)和IEEE Transactions on Information Forensics & Security(TIFS)。TDSC和TIFS是IEEE旗下信息安全領(lǐng)域的頂級(jí)期刊,入選中國(guó)計(jì)算機(jī)學(xué)會(huì)(CCF)推薦的A類國(guó)際期刊和中科院一區(qū)TOP期刊。

圖1. TMT-FL的工作流程圖

圖2. RaSA的工作流程圖
聯(lián)邦學(xué)習(xí)作為一種隱私保護(hù)的分布式機(jī)器學(xué)習(xí)框架,在數(shù)據(jù)孤島與隱私合規(guī)雙重約束下的跨域協(xié)作場(chǎng)景中展現(xiàn)出廣闊的應(yīng)用前景。然而,開(kāi)放異構(gòu)的邊緣環(huán)境存在安全威脅加劇、資源異構(gòu)受限和動(dòng)態(tài)隱私保護(hù)困難等問(wèn)題,當(dāng)前聯(lián)邦學(xué)習(xí)研究面臨本地訓(xùn)練安全攻擊防御成本高、模型更新隱私保護(hù)算法適應(yīng)性不強(qiáng)、模型聚合策略與開(kāi)放異構(gòu)環(huán)境契合難等挑戰(zhàn)。為此,項(xiàng)目組針對(duì)開(kāi)放環(huán)境中惡意設(shè)備發(fā)動(dòng)的安全攻擊影響本地訓(xùn)練完整性和正確性的問(wèn)題,設(shè)計(jì)了輕量高效的可信證明與驗(yàn)證方法。同時(shí),針對(duì)邊緣環(huán)境資源受限特性和低延遲需求,提出了層次式架構(gòu)下安全攻擊和異構(gòu)魯棒的安全聚合方案。理論和實(shí)驗(yàn)分析證明了項(xiàng)目組所提方案的正確性和優(yōu)越性。
TMT-FL的第一作者為信息學(xué)院2021級(jí)碩士研究生陸忠鍇、RaSA的第一作者為王玲玲副教授,第二作者為信息學(xué)院2022級(jí)碩士研究生黃梅,通訊作者均為王玲玲副教授。本研究得到了國(guó)家自然科學(xué)基金、山東省自然科學(xué)基金以及青島市自然科學(xué)原創(chuàng)探索基金等多方資助。
論文信息:
[1] Zhongkai Lu, Lingling Wang*, Zhengyin Zhang, Mei Huang, Jingjing Wang, and Meng Li. TMT-FL: Enabling Trustworthy Model Training of Federated Learning with Malicious Participants[J]. IEEE Transactions on Dependable and Secure Computing, DOI: 10.1109/TDSC. 2024.3521377, 2024.
[2] Lingling Wang*, Mei Huang, Zhengyin Zhang, Meng Li, Jingjing Wang, and Keke Gai. RaSA: Robust and Adaptive Secure Aggregation for Edge-Assisted Hierarchical Federated Learning[J], IEEE Transactions on Information Forensics and Security, DOI: 10.1109/TIFS.2025.3559411, 2025.