《表4 激活函数后移实验结果Tab.4 Experiment Results of activation backward》
由于卷积层的输出神经元数量较大,经测试发现激活函数运算所消耗的时间已经占据前向计算总时间的近50%。为减少不必要的计算量,采取激活函数后移的方式,在采样层之后进行激活函数计算。表4给出了激活函数后移的实验效果。权值矩阵矢量化结合激活函数后移的方法,网络前向计算时间由1 635 s进一步降至1 241 s;输入矩阵矢量化结合激活函数后移的方法,网络前向计算时间由1 041 s降至653 s。
图表编号 | XD006297300 严禁用于非法目的 |
---|---|
绘制时间 | 2018.06.01 |
作者 | 王智超、徐及、张鹏远、颜永红 |
绘制单位 | 中国科学院语言声学与内容理解重点实验室、中国科学院语言声学与内容理解重点实验室、中国科学院语言声学与内容理解重点实验室、中国科学院语言声学与内容理解重点实验室、中国科学院新疆理化技术研究所新疆民族语音语言信息处理实验室 |
更多格式 | 高清、无水印(增值服务) |