多层感知机方法在混沌时间序列预测中的应用

多层感知机神经网络是一种最基本的前馈神经网络[2]，通常为三层结构，其拓扑结构如图5.2所示。

图5.2　多层感知机神经网络结构图

输出为线性单元，包含单隐层的多层感知机网络方程可以写为

式中：y为网络输出量；X=[x1，x2，…，xm]T为网络输入向量；sigm（·）是Sigmoid 函数；Wo、Wi、bo和bi分别为输出、输入连接权值、输出偏置和输入偏置。(www.xing528.com)

多层感知机的训练采用标准反向传播算法，其实质是最速下降算法。网络学习分为正向和反向传播两个过程。在正向传播过程中，每一层各神经元的状态输出只传输到下一层各神经元。如果输出层不能得到期望输出，就转入反向传播过程，将误差信号沿原来的连接通路返回，逐次修改各层神经元的输入连接权值。正向传播和反向修正这两个过程的反复运用，使得网络输出误差信号最小。即通过对网络权值的修正，使误差函数（目标函数）沿负梯度方向下降。通常情况下，纯梯度的学习算法收敛速度较慢，可以使用数值优化算法进行训练，常用的算法有共轭梯度算法、伪牛顿算法和LevenbergMarquardt算法。

多层感知机的有效复杂性可以通过使用正则项方法控制。常用的训练误差函数为

式中：yi为网络输出；为期望输出；Tn为训练样本个数；目标函数的第二项为正则项，W 为多层感知机的权值向量；C为正则项系数。