近期,计信学院多智能体认知与协同团队郭桃林等人共同完成的隐私保护方面的研究论文“When input perturbation outperforms gradient perturbation: Achieving high-accuracy deep learning under local differential privacy, Information Processing and Management”在中科院一区TOP期刊Information Processing and Management发表。该论文作者包括来自我院的彭顺顺博士和郭桃林博士,张俊、胡琛星研究生,重庆大学吴全望教授、贵州师范大学王红兵教授以及澳大利亚联邦科学与工业研究院的Mengmeng Yang研究员。
深度学习在训练过程中易受成员推理等恶意攻击,面临严峻的用户隐私泄露风险。为应对这一威胁,现有方法通常对训练过程中的梯度进行差分隐私扰动,但该类方法依赖可信服务器,仍存在极大的隐私泄露隐患。相比之下,直接在用户端加噪的输入扰动方法虽彻底摆脱了对服务器的信任依赖,却常因添加过多噪声导致模型准确率严重退化。
针对这种高安全与高精度难以兼得的挑战,团队发现,输入扰动效果不佳的原因在于:传统的数据扰动范式通常是向原始数据叠加噪声,而深度学习模型更适合学习“数据乘以系数”的形式,而非“数据加上噪声”。为此,团队提出了DL-LDP框架。该框架摒弃了传统的加性噪声保护策略,将数据范围形式化建模为高功能性区间和低功能性区间,通过采样生成满足差分隐私约束的扰动数据,实现对标准化数据的有界扰动,确保加噪后的数据仍能落在“高可用”区间内,从而保留原始数据的核心特征。理论证明,在该策略下,扰动数据的期望等于原始数据乘以固定系数,高度契合深度学习模型的训练需求。实验结果表明,在同等隐私保护水平下,DL-LDP 的模型训练准确率不仅显著优于传统的输入扰动方法,甚至超越了现有的最优(SOTA)梯度扰动方法。
DP-LDP框架图
《Information Processing and Management》创刊于1963年,聚焦计算机科学、信息科学等领域的研究。期刊2025年影响因子为6.9,中科院2025年分区为计算机科学大类一区Top,被推荐为中国计算机学会(CCF B)类期刊。
论文链接:https://doi.org/10.1016/j.ipm.2026.104879