简单神经元学习方法-现代中长期水文预报方法及其应用

将单个神经元按一定规则连接成网络后，应能完成某些功能。但是人们对人工神经网络的期望并不在于此，而是希望通过对人工神经网络进行训练后能完成新的工作，也就是希望人工神经网络具有学习能力或自适应性。正是人工神经网络的学习能力，才使得这门技术成为许多学者关注的热点，从而获得了蓬勃的发展。

为了寻找人工神经网络所能理解的最简单的学习规则，观察一下生物神经的学习过程会给我们一些有意的启迪。比如，学生在考试中考了高分，会得到老师和家长的肯定；如果做了错事会受到老师或家长的责备。一般来说，训练过程就是对正确行为的肯定而对错误行为进行否定的过程。这一原则就用于人工神经网络的训练过程中。

对人工神经网络进行训练的原则之一是让它从错误中学习，不断肯定他的正确输出，不断减少它的错误输出。对人工神经网络的训练就是要不断改变它的净输入，而改变净输入的办法就是调整输入权重。因此，人工神经网络的训练过程就是调整神经网络的权重的过程。现以有监督学习为例来说明人工神经网络的训练过程。

如果有两组需要由人工神经网络识别的对象，一组为不同写法的字母A，另一组为不同写法的字母B。要求当人工神经网络读入字母A时输出为1，读入字母B时输出为0，其训练过程如下：

（1）设定输入权重和阈值的初始值。设ωi（t）为第i 根输入线（图6.2）在t 时刻的权重，θ为该节点的阈值，将阈值也看成是一个输入，具体做法是ω0＝－θ，x0＝1，将ωi（0）随机地设定为一个很小的正数，这样就设定了所有的输入权重初始值和阈值。

（2）给定输入值x0，x1，…，xn和正确的输出值d（t）。

（3）按下式计算实际的输出值：

（4）按式（6.9）～式（6.11）调整权重系数。如果输出正确，则

如果正确的输出值为1 而实际的输出值为0，则

如果正确的输出值为0而实际的输出值为1，则(www.xing528.com)

（5）重复以上步骤，直至输出满意的结果。

以上说明的是感知器学习的基本方法，可以对基本算法进行某些修正。比如，可以引入一个小于1 的系数，在接近正确值时减小步长，以便放慢权重变化的速度。于是当输出值不正确时，权重调整变为：

式中：η为小于1 的系数，通常称为动量系数。