文档介绍
7-1人工神经网络模型•生物背景•神经元MP模型•感知器模型•多层感知器模型(MLP)和BP算法•自组织网络生物神经元(I)生物神经元(II)•树突：接受信号，以突触为界面。•轴突：传递和输出信号，以突触为界面。•突触(Synapse):生物神经元之间的相互连接从而让传递的部位。•细胞体：信号处理器生物神经元(III)•细胞的状态，激发和抑制。•细胞的状态与接受到的总信号强度有关，只有当总信号集聚到一定的程度才引起细胞的激发。•神经元之间的作用强度可以不同，而且具有可塑性(Hebb律)。•神经细胞数1011量级。4•每个神经元连接通道10量级。MP模型(I)•McCulloch,Pitts神经元模型(1943).x1w1w2yx2··w·nxnMP模型(II)•状态1或者-1。•Wi为连接(强度)权。•g(x)为反应函数。•θ:神经元的阈值，可以看成一个特殊的连接(强度)。MP模型(III)•符号函数•Sigmoid函数Sigmoid函数感知器(Perceptron)模型•1957年FrankRosenblatt在CornellAeronauticalLaboratory所给出的人工神经网络模型•线性器•如果令X=(x,1)T,W=(w,b),则线性器表示为•即用n+1上的超平面来区分样本线性可分•如果n中的超平面y=wx+b,使得该平面能够将两类样本完全。则称样本线性可分(或样本输入函数线性可分)。感知器(Perceptron)模型•感知器最重要的特征是给出了学习算法•误差学习算法:误差学习算法步骤a)选择一组初始w(0)。ib)计算某一输入模式对应的实际输出与期望输出的误差δc)如果δ小于给定值，结束，否则继续。d)更新e)返回(b)，重复，直到对所有训练样本模式，网络输出均能满足要求。感知器收敛定理(I)•[定理]如果样本输入函数是线性可分的，那么误差学习算法经过有