《表1 BP神经网络训练函数及特征》
BP神经网络作为一种前馈性神经计算模型具有强大的计算能力,可表达各种复杂映射,具有自学能力和泛化能力。但BP神经网络存在许多固有缺点,如学习速度慢、局部搜索的优化方法在求解复杂非线性函数全局极值时可能陷入局部极值、网络的学习和泛化能力对训练文本集的依赖性很大、神经网络的结构选择依赖经验、存在过拟合的现象等问题[11]。梯度下降法是最基础的BP算法:线性收敛,速度慢。之后BP算法不断得到改进和发展,总体上可以分为两类:一类是包含动量算法和自适应算法的启发式算法;另一类是包含共轭梯度法和牛顿法的数值优化算法。启发式算法虽然易理解,但其性能特征难以满足,因此,在计算机计算能力大幅提升的情况下,数值优化算法要胜于启发式算法。共轭梯度法是用于解决各种最优化问题的著名数值技术,现已发展多种基于共轭梯度法训练多层感知器。表1为各种训练算法的基本状况[12]:
图表编号 | XD0091184600 严禁用于非法目的 |
---|---|
绘制时间 | 2019.09.10 |
作者 | 马洪超、郭力、彭恒利 |
绘制单位 | 北京语言大学语言科学院 |
更多格式 | 高清、无水印(增值服务) |