现代应用的人工神经元技术

图6.2给出了一个简单的人工神经元模型，图中x1，x2，…，xn表示其他神经元的输出，为图中神经元的输入。相应的wi1，wi2，…，win表示神经元1，2，…，n与第i 个神经元的连接强度，即连接权重。将输入量分别乘上各自的权重后求和，得到神经元i 的净输入neti为：

式中：n表示与神经元i 相连的所有神经元。

图6.2　单个人工神经元模型

以净输入neti和当前阈值作为自变量，再经某一非线性映射产生神经元i 的输出，作为下一个神经元的输入。整个过程可以分解为三个计算步骤：

（1）加权。对每个输入信号进行程度不等的加权计算。

（2）求和。进行全部输入信号的组合效果的求和计算。

（3）映射。通过转移函数计算输出结果。

下面以数学公式描述神经元的响应过程。

设列向量X 表示输入向量：

神经元i 的连接权重向量为：

神经元i 的净输入neti为：

在最初的神经元模型中，神经元的输出是二值的，即只取0和1 两个值，神经元要么有输出，要么没有输出。将总输入值neti与阈值θ进行比较，当neti－θ＞0时该神经元被激活并输出1，否则输出0。称输入和输出之间的映射关系为功能函数（或转移函数），记为f（·），其作用是模拟生物神经元的非线性转移特性。这种0—1 输出的映射关系可写为：

这种功能函数呈阶跃形式，是最简单的一种。常用的功能函数有以下两种：

（1）线性函数：

其图形如图6.3（a）所示。线性函数的特点是没有上下界，函数单调递增。

（2）对数形式的Sigmoid函数（S形曲线）：(www.xing528.com)

其图形如图6.3（b）所示。特点是有上下界，函数单调递增，连续且光滑。

图6.3　常用功能函数

（a）线性函数；（b）对数形式的Sigmoid函数

图6.2中给出的神经元没有考虑神经元中实际存在的复杂模式，没有考虑输入与输出之间的延迟，也没有考虑更接近实际输入与输出之间的连续映射关系，因此该模型无法复制和再现人脑神经元的功能。如何将简单的神经元连接起来，构成一个能完成复杂功能的系统是研究人工神经元的根本目的。

F.Rosenblatt于1962 年提出了感知器的概念，它是按简单方式连接起来的神经元，是一种简化了的神经网络，当用它来模拟生物神经系统时，生物神经的某些功能被抑制了，而另一些功能却被放大了。感知器是可以完成某种功能的与生物神经网络有某些相似之处的基本模型，通过对感知器模型的研究可以了解人工神经网络的性质。

人脑大约由1010个神经元组成，每个神经元又与其他大约104个神经元相连接，形成一个连接十分紧密的巨型系统。而目前的人工神经网络至多用了数百个神经元。因此人工神经网络与人脑网络之间有着天壤之别。