《表3 不同网络结构测试误差》
接下来对本文设计的网络各个部分进行深入分析,表3给出了不同的网络设计对最终测试误差的影响。Dropout[22]正则化是最简单的网络正则化方法:通过任意丢弃网络层中的参数来减少神经元之间复杂的共适应关系,迫使网络去学习更加鲁棒的特征,缓解过拟合的发生,起到正则化的作用。然而加入Dropout反而增加了大约10 mm的误差,分析原因,可能由于Dropout随机删除卷积层参数,破坏了一维卷积提取时序信息的连续特征过程。与此同时,BN层的加入减少了14.9 mm的测试误差,大幅提高了网络的泛化性能。另外,残差连接的设计也为本文的网络带来了0.6 mm误差的减小。
图表编号 | XD00115222900 严禁用于非法目的 |
---|---|
绘制时间 | 2019.12.01 |
作者 | 杨彬、李和平、曾慧 |
绘制单位 | 北京科技大学自动化学院、北京市工业波谱成像工程技术研究中心、中国科学院自动化研究所、北京科技大学自动化学院、北京市工业波谱成像工程技术研究中心 |
更多格式 | 高清、无水印(增值服务) |