《表1：现有智能系统对抗攻击情况》

  提示：宽带有限、当前游客访问压缩模式

本系列图表出处文件名：随高清版一同展现

《人工智能安全与评测》

1. 获取 高清版本忘记账户？点击这里登录

1. 下载图表忘记账户？点击这里登录

除了对抗样本，美国加州大学伯克利分校的最新研究[14]表明，人工智能对于自然噪音也十分敏感和脆弱。与对抗噪音相比，这些包括雨、雪、雾、高斯噪音等在内的自然噪音更容易在真实场景中出现。Heaven D[15]等人在Nature发表的文章中指出深度学习模型的脆弱性具有普遍性，此类研究结果也进一步为真实世界中应用的人工智能系统的安全性和可信赖性敲响了警钟。