《表1 可解释性方法:深度学习模型可解释性的研究进展》
本质上可解释模型:利用本质上可解释的模型近似模拟黑盒模型,然后通过查看可解释性模型内部的参数或者特征统计信息来解释该黑盒模型[36-37]。比如借助可解释的决策模型或稀疏性的线性模型来近似黑盒模型,可以通过蒸馏等方法,在可解释的模型上建立输入和输出之间的关系,实现可解释性的迁移。这种可解释模型近似的方法通常不考虑黑盒模型内部的参数,直接对模型进行“端到端”的近似。下面将对这些可解释性方法进行详细的介绍,见表1。
图表编号 | XD00174277000 严禁用于非法目的 |
---|---|
绘制时间 | 2020.05.01 |
作者 | 化盈盈、张岱墀、葛仕明 |
绘制单位 | 中国科学院信息工程研究所、中国科学院大学网络空间安全学院、中国科学院信息工程研究所、中国科学院大学网络空间安全学院、中国科学院信息工程研究所 |
更多格式 | 高清、无水印(增值服务) |