BP神经网络的基本构成和工作原理

BP神经网络由BP神经元、前向结构及架构参数和BP算法三个基本部分组成：

（1）BP神经元。BP神经网络是由大量BP神经元广泛连接而形成的多层前馈网络。神经网络的信息处理主要是通过最基本的元素神经元的相互作用、相互连接来实现。神经元的通用的结构模型如式（6-19）和图6-5所示。其中ui为神经元i的内部状态，θi为阈值，x j为输入信号，wij表示x j对神经元的加权系数，si表示某一外部输入的控制信号。

图6-5　神经元结构图
Eig.6-5　Model of neuron structure

神经元常用的主要有以下4种函数形式，假设神经元的输出由函数f表示，则：

第1种：阈值型转移函数，是神经元模型中最简单最基本的模型；

第2种：非线性转移函数，主要包括单极性Sigmoid函数和双极性Sigmoid函数；

第3种：分段线性转移函数；

第4种：概率型转移函数；

（2）前向结构及架构参数。BP神经网络是具有三层或以上阶层结构的神经网络，由输入层、隐层和输出层组成。每层都包含若干个神经元，层与层之间的神经元通过权值连接。其网络结构如图6-6所示。

图6-6　三层BP神经网络结构模型图
Eig.6-6　Structure of BP network with three layers

在图6-6中，输入向量为X=（x 1，x 2，…，x n）T，隐层输入向量为Y=（y 1，y 2，…，ym）T，输出层输出向量为O=（o1，o2，…，ol）T，期望输出向量为D=（d 1，d 2，…，d l）T。输入层到隐层之间的权值矩阵为V=（v1，v2，…，vm），隐层到输出层之间的权值矩阵为W=（w1，w2，…，wl）。各层之间的数学关系如下：(www.xing528.com)

对于输出层有：

对于隐层有：

式（6-25）和式（6-26）中，转移函数f（x）一般选用单调递增的有界非线性Sigmoid函数，与式（6-21）共同构成了三层BP人工神经网络的架构。

（3）BP算法。是一种信号正向传递，误差反向传播的算法，是在对BP神经网络的神经元进行设定并对BP神经网络架构进行设计后，制定的管理BP神经网络的规则。BP算法的基本思想是样本信息由输入层输入经过各隐层逐层处理后传向输出层；与此同时预测误差则通过隐层向输入层传递，作为调整网络权值和阈值的依据。如此不断重复进行，直到预测误差达到指定要求为止。

（4）工作原理。对于一个三层BP神经网络而言，当网络输出结果和预期值不相等时，存在输出误差E：

将输出误差E反向传递到隐层，则有：

输出误差E由隐层反向传递到输入层，则有：

由于网络输出误差E的大小是修正输入层、输出层等所有神经元权值的依据，因此当输出误差没有达到要求时可以通过调解权值w jk、vij以减小输出误差，即

其中，η为学习率，取值范围在0.01～0.9之间，由式（6-30）可知，神经元权值的大小受到学习率、输出误差信号和输入信号的共同影响，根据三层BP神经网络的基本结构和算法可以构建其工作原理，如图6-7所示。

图6-7　BP神经网络预警模型工作原理图
Eig.6-7　BP neural network prediction model principle diagram