《表4 激活函数后移实验结果Tab.4 Experiment Results of activation backward》

《表4 激活函数后移实验结果Tab.4 Experiment Results of activation backward》   提示:宽带有限、当前游客访问压缩模式
本系列图表出处文件名:随高清版一同展现
《卷积神经网络声学模型的结构优化和加速计算》


  1. 获取 高清版本忘记账户?点击这里登录
  1. 下载图表忘记账户?点击这里登录

由于卷积层的输出神经元数量较大,经测试发现激活函数运算所消耗的时间已经占据前向计算总时间的近50%。为减少不必要的计算量,采取激活函数后移的方式,在采样层之后进行激活函数计算。表4给出了激活函数后移的实验效果。权值矩阵矢量化结合激活函数后移的方法,网络前向计算时间由1 635 s进一步降至1 241 s;输入矩阵矢量化结合激活函数后移的方法,网络前向计算时间由1 041 s降至653 s。