BP神经网络简介及优化方法

9.2.5.1　基本的网络结构简介

BP神经网络借助于模拟神经元之间的相互链接关系实现自适应训练。BP模型结构一般为含有两层或两层以上的神经元，即利用输入输出层和隐含层神经元之间相互链接、彼此反馈进行训练计算，图9-2表示BP神经网络各层的内部训练结构，参阅图9-1，网络结构中的各层神经元（节点）之间相互连接，但是隐含层内部的各个节点（神经元）之间则完全独立[吕军城，2015]。

图9-2　BP神经网络结构图(www.xing528.com)

假设输入样本为I=（a1，a2，…an），期望输出为T=（y1，y2…，ym）；隐含层单元的输入向量为S=（s1，s2，…，sp），输出向量为B=（b1，b2，…bp）；输出层单元的输入向量为L=（l1，l2，…，lm），实际输出向量为O=（c1，c2，…，cm）；输入层到隐含层的连接权为ωij（i=1，2，…，n；j=1，2，…，p），隐含层到输出层的连接权为νjt=（j=1，2，…，p；t=1，2，…，m），隐含层中各神经元的输出阈值是θj（j=1，2，…，p），输出层中各神经元的输出阈值是γt（t=1，2，…，m）。

9.2.5.2　BP神经网络的基本学习过程

自适应的计算误差反馈是BP神经网络具备较强学习能力的核心因素。其学习过程包含信号（数据）从输入层向输出层的正向流动、计算误差的逆向反馈。通过输入层输入训练样本数据（训练数据库），输入输出层神经元节点与隐含层各个节点产生彼此作用和链接作用，得到预期训练值；逆向传播，即期望输出没有出现时，训练结果会自动与期望值进行比较，计算训练误差，并将训练误差反馈给隐含层和输入层。误差反馈时得到误差被系统自动传输给各层（隐含层和输入层）的各个节点（神经单元）。训练误差的反馈性逆向传播、数据信号的训练性正向传播使得BP神经网络各层节点均可以受到输入信号数据和误差反馈的影响，利用正向传播和逆向传播反复进行，直至网络输出层的运算结果与期望值之间的误差符合运算要求时，网络运算结束，此时BP神经网络将输入层、输出层和隐含层各个节点之间的链接权重予以记忆，达到相对稳定的网络结构和运算模式，一旦训练再次出现误差不符合条件是，网络结构会自适应地进行再次调整，直至满足误差条件[吕军城，2015]。