文档介绍：人 工 智 能
1
人工智能及其应用
第1页
第七章 机器学习
机器学习定义、研究意义与发展历史
机器学习主要策略与基本结构
– 几个惯用学习方法
知识发觉
诊疗
2. 观察发觉学习（learning from observation and discovery）
观察学习：事例聚类，形成概念描述；
机器发觉：发觉规律，产生定理或规则；
14
人工智能及其应用
第14页
类比学习
类比推理和类比学习方式
类比学习（learning by analogy）就是经过类比，即经过对相同事物加以比较所进行一个学习 。
其推理过程以下 ：
回想与联想 选择 建立对应关系转换
P(a) ∧ Q(a) , P(a) ≌ P(b) ├ Q(b)Q(a)
15
人工智能及其应用
第15页
类比学习过程与研究类型
类比学习主要包含以下四个过程：
输入一组已知条件和一组未完全确定条件 。
对两组出入条件寻找其可类比对应关系。
依据相同转换方法，进行映射。
对类推得到知识进行校验。
类比学习
16
人工智能及其应用
第16页
类比学习研究可分为两大类：
(1) 问题求解型类比学习
(2) 预测推定型类比学习。它又分为两种方式：
一是传统类比法
另一是因果关系型类比
类比学习
17
人工智能及其应用
第17页
解释学习(explanation-based learning)
解释学习过程和算法
1986年米切尔（Mitchell）等人为基于解释学习提出了一个统一算法EBG：
训练例子
操作准则
知识库
新规则
目标概念
18
人工智能及其应用
第18页
EBG求解问题形式可描述于下:
给定：
(1) 目标概念描述TC；
(2) 训练实例TE；
(3) 领域知识DT；
(4) 操作准则OC。
求解：
训练实例普通化概括，使之满足：
(1) 目标概念充分概括描述TC；
(2) 操作准则OC。
解释学习
19
人工智能及其应用
第19页
神经学习
基于反向传输网络学习
反向传输（back-propagation,BP）算法是一个计算单个权值改变引发网络性能改变值较为简单方法。BP算法过程包含从输出节点开始，反向地向第一隐含层传输由总误差引发权值修正。
20
人工智能及其应用
第20页
BP算法
网络模型：
BP网络前向计算关系：
以三层网络为例，n个输入结点，m个输出结点，H个隐层结点，训练样本由（xk，dk）（k=1,2…p）组成训练对，转移函数微f（）
当输入第k个样本数据时隐层结点h与输出层结点j加权和与输出分别为：
x1
x2
xn
y1
y2
ym
Wih
Whj
d1
e2
dm
e1
em
yh(k)
xi(k)
yj(k)
21
人工智能及其应用
第21页
BP算法权值调整方法：
令输出结点家j误差为 则k个训练样本误差平方和为性能指标
隐层到输出层权值调整（梯度法）：
输入层到隐层权值调整（梯度法）：
BP网络训练步骤：
用小随机数初始化网络各层权值；
样本数据输入；
误差计算；
权值改变量计算；
权值调整
22
人工智能及其应用
第22页
基于Hopfield网络学习
反馈神经网络，它是一个动态反馈系统，比前馈网络含有更强计算能力。
Hopfield网络是一个含有正反相输出带反馈人工神经元。
神经学习
23
人工智能及其应用
第23页
反馈型神经网络（Hopfield网络）
Hopfield网络结构
Hopfield离散随机网络是Hopfield于1982提出，1984年又提出了连续时间模型。普通在进行计算机仿真时采取离散模型，而在硬件实现时采取连续模型。
Hopfield网络主要意义；
f (.)
f (.)
f (.)
I1
I2
In
Vn
V2
V1
W2n
W22
W12
24
人工智能及其应用
第24页
一个特定Hopfield离散网络特征（CAM）
f(.)=sign(.)
网络计算：
Hopfield证实当Wij＝Wji，网络是收敛。
数据网络演变