西电主页 English 宣传部
西电要闻
表格等宽内容时,请左右滑动 <>
【创新西电】网信院陈晓峰教授团队最新研究成果获ACISP最佳论文奖
时间:2025-08-06 21:59:09来源:网络与信息安全学院点击:

西电新闻网讯(通讯员 张肖瑜714日至16日,30届澳洲密码年会30th Australasian Conference on Information Security and Privacy,简称ACISP在澳大利亚伍伦贡大学召开。学校网信院陈晓峰教授团队最新研究成果获ACISP“最佳论文奖”。
ACISP是信息安全领域高水平学术会议,被中国计算机学会(CCF)列为C类会议。此次会议,
陈晓峰教授团队的最新研究成果“Zeroth-Order Federated Private Tuning for Pretrained Large Language Models”被会议论文集收录,荣获Best Paper Award(最佳论文奖)。论文第一作者为睿云数据安全团队张肖瑜副教授。7月14日下午,张肖瑜在大会现场做口头报告,并由澳密会Program Chair澳大利亚伍伦贡大学的Willy Susilo教授和CSIRO Data61的 Josef Pieprzyk教授联合颁发获奖证书。

最佳论文奖证书

最佳论文奖颁奖现场

论文介绍

联邦学习作为预训练大语言模型的重要应用范式,在隐私敏感应用场景中具有重要价值。然而,在联邦学习场景下对预训练大语言模型进行隐私微调仍面临两大核心挑战:一方面,预训练大语言模型参数规模巨大,导致微调过程在计算、通信和内存资源上的消耗较大,难以适用于资源受限的轻量级设备;另一方面,即使不直接传输原始数据,模型参数或梯度的上传仍可能引发隐私泄露。现有研究多聚焦于优化效率或增强隐私中的单一目标,缺乏统一兼顾两者的解决方案。为此,本文提出FedDPZO,首次实现了预训练大语言模型联邦微调任务中对效率与隐私的统一建模与协同优化。FedDPZO在本地通过双点函数值估计构造伪梯度,并采用方向-幅度解耦机制,仅对与数据相关的幅度项进行裁剪与噪声注入,从而降低噪声维度,在保障隐私的同时显著降低计算与通信开销。在理论方面,FedDPZO给出了完整的隐私保护与收敛性分析理论证明,所提出方法的收敛速率仅依赖于梯度的有效秩,与模型参数维度几乎无关,适用于大模型优化场景。在实验验证方面,FedDPZO在多个任务中相较于传统差分隐私联邦方法实现了显著的性能提升,并在内存与时间开销上展现出更优效率。

该成果是睿云数据安全团队在人工智能安全领域的重要成果之一。本次成果荣获澳密会最佳论文奖,标志着睿云数据安全团队在该领域的研究能力获得国际学术界的高度认可,对于学校提升相关领域的学术影响力起到了一定的推动作用。

上一条:【创新西电】网信院李金库教授团队最新研究成果被网络安全国际顶会NDSS录用
下一条:【央广网】西安电子科技大学广州研究院岭南创新人才实验班开启首次招生

【创新西电】网信院陈晓峰教授团队最新研究成果获ACISP最佳论文奖
发布时间:2025-08-06 21:59:09来源:网络与信息安全学院点击:我要评论:

西电新闻网讯(通讯员 张肖瑜714日至16日,30届澳洲密码年会30th Australasian Conference on Information Security and Privacy,简称ACISP在澳大利亚伍伦贡大学召开。学校网信院陈晓峰教授团队最新研究成果获ACISP“最佳论文奖”。
ACISP是信息安全领域高水平学术会议,被中国计算机学会(CCF)列为C类会议。此次会议,
陈晓峰教授团队的最新研究成果“Zeroth-Order Federated Private Tuning for Pretrained Large Language Models”被会议论文集收录,荣获Best Paper Award(最佳论文奖)。论文第一作者为睿云数据安全团队张肖瑜副教授。7月14日下午,张肖瑜在大会现场做口头报告,并由澳密会Program Chair澳大利亚伍伦贡大学的Willy Susilo教授和CSIRO Data61的 Josef Pieprzyk教授联合颁发获奖证书。

最佳论文奖证书

最佳论文奖颁奖现场

论文介绍

联邦学习作为预训练大语言模型的重要应用范式,在隐私敏感应用场景中具有重要价值。然而,在联邦学习场景下对预训练大语言模型进行隐私微调仍面临两大核心挑战:一方面,预训练大语言模型参数规模巨大,导致微调过程在计算、通信和内存资源上的消耗较大,难以适用于资源受限的轻量级设备;另一方面,即使不直接传输原始数据,模型参数或梯度的上传仍可能引发隐私泄露。现有研究多聚焦于优化效率或增强隐私中的单一目标,缺乏统一兼顾两者的解决方案。为此,本文提出FedDPZO,首次实现了预训练大语言模型联邦微调任务中对效率与隐私的统一建模与协同优化。FedDPZO在本地通过双点函数值估计构造伪梯度,并采用方向-幅度解耦机制,仅对与数据相关的幅度项进行裁剪与噪声注入,从而降低噪声维度,在保障隐私的同时显著降低计算与通信开销。在理论方面,FedDPZO给出了完整的隐私保护与收敛性分析理论证明,所提出方法的收敛速率仅依赖于梯度的有效秩,与模型参数维度几乎无关,适用于大模型优化场景。在实验验证方面,FedDPZO在多个任务中相较于传统差分隐私联邦方法实现了显著的性能提升,并在内存与时间开销上展现出更优效率。

该成果是睿云数据安全团队在人工智能安全领域的重要成果之一。本次成果荣获澳密会最佳论文奖,标志着睿云数据安全团队在该领域的研究能力获得国际学术界的高度认可,对于学校提升相关领域的学术影响力起到了一定的推动作用。

责任编辑:唐羽琴
本月热点