本研究针对现有人工智能系统中对抗性攻击防御方法计算成本高和实时防御挑战的问题,提出了一种基于边缘计算的框架设计。我们的方法通过采用注意力机制的对抗检测方法和轻量级检测网络,能够在边缘设备上高效适配各种神经网络,并在测试中达到了97.43%的f-score,显著降低了计算复杂性和成本。
本文评估了边缘计算和微控制器上量化和对抗示例的有效性。量化增加了决策边界的点距离,但可能导致梯度爆炸或消失。输入预处理防御在小扰动上效果好,但在扰动增加时表现不佳。基于训练的防御方法可以增加决策边界的平均点距,且在量化后仍有效。然而,需要解决量化偏移和梯度失调问题以对抗对qnns的敌对示例可迁移性。