文档介绍:该【人工神经网络课程nn02 】是由【海洋里徜徉知识】上传分享,文档一共【34】页,该文档可以免费在线阅读,需要了解更多关于【人工神经网络课程nn02 】的内容,可以使用淘豆网的站内搜索功能,选择自己适合的文档,以下文字是截取该文章内的部分文字,如需要获得完整电子版,请下载此文档到您的设备,方便您编辑和打印。 线性阈值单元组成的前馈网络
线性阈值单元:
输入 是一个 维实数矢量,权 也是一个 维实数矢量,阈值 是一个实数,而输出y是一个二值变量。综合在一起得:
x
n
W
n
5/28/2025
1
马尽文
线性阈值单元组成的前馈网络
M-P模型
M-P模型是由McCulloch和Pitts提出的,它是由固定的结构和权组成的,它的权分为兴奋型(1)和抑制型(-1),结构如下:
5/28/2025
2
马尽文
线性阈值单元组成的前馈网络
(i). “或”运算
0
0
0
0
1
1
1
0
1
1
1
1
1
x
2
x
2
1
x
x
y
Ú
=
1
x
2
x
5/28/2025
3
马尽文
线性阈值单元组成的前馈网络
实际上, M-P模型是无法实现XOR运算的,这从右图就可以清楚的看出。
M-P模型或网络的权、输入、
输出都是二值变量,这同用
逻辑门组成的逻辑式的实现
区别不大,又由于其权无法
调节,因而现在很少有人单
独使用。
5/28/2025
6
马尽文
线性阈值单元组成的前馈网络
2. 感知机组成的神经网络
感知机是M-P模型的的一种发展或推广:
*非离散输入
*非离散权值
*权可以修正或学习
*建立了完整的学习算法
*多层感知机网络可以进行复杂的分类
*为BP网络发展提供了模型和理论基础
5/28/2025
7
马尽文
线性阈值单元组成的前馈网络
A. 单层感知机
5/28/2025
8
马尽文
线性阈值单元组成的前馈网络
(单个)感知机模型(权向量 ,阈值 )
输入向量
输出值
其中
…
感知机模型
5/28/2025
9
马尽文
线性阈值单元组成的前馈网络
B. 感知机的功能与线性可分性
(i).对 的点进行二元分类,通过超平面
通过调整权值 和 ,可以得到不同的二元分类器。
(ii).给定一组样本及其分类结果:
能否自动求出二元分类器?
5/28/2025
10
马尽文
线性阈值单元组成的前馈网络
(iii). 线性可分性
若存在权向量 和阈值 使得
则称样本组 对于目标 是线性可分性。
显然,若 对 线性可分
性,它们的线性分割
面(超平面)存在无
穷多种。
q
5/28/2025
11
马尽文
线性阈值单元组成的前馈网络
C. 感知机学习算法
(1)给出初始权值 和阈值 ;
(2)在时刻 ,选取样本 ;
(3)计算实际输出:
(4)修正权值和阈值:
其中 是 的目标输出, 为学习率,。(当令 ,算法符合 学习律)
5/28/2025
12
马尽文