第五讲从感知器算法到机器学习.ppt

文档介绍：第五讲从感知器算法到机器学****br/>§ 人工神经元的构造依据
两态工作:兴奋----抑制
阈值作用:超过阈值才兴奋
多输入/单输出:获得其他神经元的众多输入,由轴突输出。
空间/时间叠加：激励/响应关系的互动作用与交互叠加。
可塑性连接：突触部分的连接强度可以调节。
§ M-P模型
1943年，McCulloch 和Pitts 提出了一种神经元模型：
其中输入向量为：
权值向量为：
神经元的输入/输出关系为：
§ 构造人工神经网络的基本要素
（1）神经元的激励函数（输入/输出特性）
（2）网络的拓扑结构
（3）确定权值的方法——学****算法
§ 感知器算法原理
（1）历史背景
1958年, Frank Rosenblatt提出了感知机(Perceptron)。
史称第一个机器学****模型。标志着对学****过程进行数学
研究的开端。
（2）单个神经元的的感知机
利用McCulloch 和Pitts 神经元模型，选激励函数为：
令 则
（3）感知器学****算法（ 学****规则）
Step 1，随机初始化权值和域值
Step 2，在样本集合 或 中任选一个类属已知的样本 作为感知器的输入，计算其实际输出


Step 3，对 Step 2中所得输出结果进行甄别检验，若分类正确，则不需要进行权值调整，若分类出错，则按Step 4中的算式进行权值调整。（可见，感知过程是一个有错必改的过程。）
Step 4，设n0为当前迭代次数，则权值调整算式为

其中 为类属标志的期望输出， 为学****率。
Step 5，重新从已知类属的样本集合 或 中选取
另一样本进行学****即重复Step 2至Step 5，直到对于
所有i=1，2，…,(n+1),恒有

则学****过程结束，权值调整完毕。