为什么神经网络后门攻击如此容易？

研究表明，赋予神经网络强大能力的特征学习机制反而会加剧其后门脆弱性。针对二次神经元的精确闭式分析显示，相比惰性学习所需的触发器强度比例 $\alpha \propto \pi^{-1/2}$，特征学习能将攻击预算优化至 $\alpha \propto \pi^{-1/4}$。这大幅降低了小投毒比例下所需的触发器强度，表明基于线性启发式的安全审计会系统性低估后门风险。