神经网络设计课件_Ch11_反向传播(BP).pdf

文档介绍：11 多层感知机(MLP)
反向传播(BP)
1
11 基本逻辑运算的实现
设计能够实现“与”、“或”和“异或”的感知机
•“与”操作运算:
0 0 1 1
{P1 0 ,t1  0}{P2 1 ,t2  0}{P3 0 ,t3  0}{P4 1,t4 1}
p  p   0
1 2 p 1
1 a
∧
p2
1

判定边界: p1  p 2   0 ,W [1, 1], b 1 .5 。
2
11 基本逻辑运算的实现
•“或”操作运算:
0 0 1 1
{P1 0 ,t1  0}{P2 1 ,t2 1}{P3 0 ,t3 1}{P4 1,t4 1}
p1  p2   0
p 1
1 a
∨
p2
1

判定边界: p 1  p 2  0 . 5  0 ,W [ 1 , 1 ], b  0 . 5 。
3
11 基本逻辑运算的实现
•“异或”操作运算:
0 0 1 1
{P1 0 ,t1  0}{P2 1 ,t2 1}{P3 0 ,t3 1}{P4 1,t4  0}
判定边界?W=?b=?
1 1
p1  p2   0 p
1 1 a
1 ∧
p2 1
p1  p2   0 1 ∨


4
11 多层感知机模型
R – S1 – S2 – work
5
11 分类例子
6
11 多个判定边界
第一个边界:
1
a1 = hardlim–1 0 p + 
第二个边界:
a1 = hardlim p + 
0 2 0 –1
第一个子网
7
11 多个判定边界
3 第三个边界:
1
a3 = hardlim 1 0 p – 
第四个边界:
4
a1 = hardlim p –
0 4 0 1
第二个子网络
8
11 拼接两个网络
0
0
OR
0
–1 0
1
W = 0 –1 b1 =
0 1 0 –
0 1 –
2
W = 1 1 0 0 b2 = –
0 0 1 1 –
9
11 整个网络
–1 0
1
W = 0 –1 b1 =
1 0 –
0 1 –
2
W = 1 1 0 0 b2 = –
0 0 1 1 –
0
3 3
W = 1 1 b = –
1
0