HyperAIHyperAI

Command Palette

Search for a command to run...

理论上鲁棒性与准确性的权衡

Hongyang Zhang; Yaodong Yu; Jiantao Jiao; Eric P. Xing; Laurent El Ghaoui; Michael I. Jordan

摘要

我们在对抗样本防御的设计中发现了一个鲁棒性和准确率之间的权衡问题,这一问题可以作为指导原则。尽管这一问题已经得到了广泛的实证研究,但其背后的理论仍然有许多未知之处。在本研究中,我们将对抗样本的预测误差(鲁棒误差)分解为自然(分类)误差和边界误差之和,并利用分类校准损失的理论提供了一个可微分的上界,该上界被证明是在所有概率分布和可测预测器上均匀分布的最紧致的上界。受我们理论分析的启发,我们还设计了一种新的防御方法——TRADES,以在对抗鲁棒性和准确率之间进行权衡。我们的算法在实际数据集中的实验表现良好。该方法是我们参加NeurIPS 2018 对抗视觉挑战赛的基础,在约2,000份提交中,我们获得了第1名的成绩,平均2\ell_22扰动距离比第二名高出11.41%。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
理论上鲁棒性与准确性的权衡 | 论文 | HyperAI超神经