文档介绍:绝对RBF神经网络
1. Gauss(高斯)函数:
2. 反演S型函数:
3. 拟多二次函数:
σ 称为基函数扩展常数或宽度, σ越小, 径向基函数宽度越小, 基函数就越有选择性。
径向基函数(RBF)
全局迫近和局部迫近
全局迫近网络
局部迫近网络
当神经网络一个或多个可调参数(权值和阈值)对任何一个输出都有影响, 则称该神经网络为全局迫近网络。
对网络输入空间某个局部区域只有少数多个连接权影响网络输出, 则称该网络为局部迫近网络
学****速度很慢, 无法满足实时性要求应用
学****速度快, 有可能满足有实时性要求应用
RBF网络工作原理
函数迫近:
以任意精度迫近任一连续函数。通常函数都可表示成一组
基函数线性组合, RBF网络相当于用隐层单元输出构
成一组基函数, 然后用输出层来进行线性组合, 以完成
迫近功效。
分类:
处理非线性可分问题。RBF网络用隐层单元先将非线性可
分输入空间设法变换到线性可分特征空间(通常是高
维空间), 然后用输出层来进行线性划分, 完成份类功效。
RBF神经网络两种模型
正规化网络RN
广义网络GN
通用迫近器
模式分类
基础思想:
经过加入一个含有解先验知识约束来
控制映射函数光滑性, 若输入一输出映射
函数是光滑, 则重建问题解是连续,
意味着相同输入对应着相同输出。
基础思想:
用径向基函数作为隐单元“基”, 组成隐含
层空间。隐含层对输入向量进行变换, 将低维
空间模式变换到高维空间内, 使得在低维
空间内线性不可分问题在高维空间内线性可分。
两种模型比较
隐节点=输入样本数
隐节点<输入样本数
全部输入样本设为
径向基函数中心
径向基函数中心
由训练算法确定
径向基函数
取统一扩展常数
径向基函数扩展常数
不再统一由训练算法确定
没有设置阈值
输出函数线性中包含阈值参数,
用于赔偿基函数在样本集上
平均值与目标值之平均值之间差异。
RN
GN
函数迫近问题(内插值)
通常函数都可表示成一组基函数线性组合, RBF网络相当于用隐层单元输出组成一组基函数, 然后用输出层来进行线性组合, 以完成迫近功效。①给定样本数据
②寻求函数, 使其满足:
。
。
。
:
设第j 个隐节点在第i个样本输出为:
可矩阵表示: ,若R可逆, 则解为
依据Micchelli定理可得, 假如隐节点激活函数采取
径向基函数, 且 各不相同, 则线性方程组
有唯一解。
RBF网络输出
举例: RBF网络实现函数迫近
: 假设以下输入输出样本, 输入向量为[-1 1]区间上等间隔数组成向量P,对应期望值向量为T。
P=-1::1;
T=[- - - - - - - - - - -];
%以输入向量为横坐标, 期望值为纵坐标, 绘制训练用样本数据点。
figure;
plot(P,T,'+')
title('训练样本')
xlabel('输入矢量P')
ylabel('目标矢量T')
grid on
%目是找到一个函数能够满足这21个数据点输入/输出关系, 其中一个方法是经过构建径向基函数网络来进行曲线拟合
: 设计一个径向基函数网络, 网络有两层, 隐含层为径向基神经元, 输出层为线性神经元。
p=-3::3;a=radbas(p);figure;plot(p,a)title('径向基传输函数')xlabel('输入p')ylabel('输出a')
grid on
% 每一层神经元权值和阈值都与径向基函数位置和宽度相关系, 输出层线性神经元将这些径向基函数权值相加。假如隐含层神经元数目足够, 每一层权值和阈值正确, 那么径向基函数网络就完全能够正确迫近任意函数。
a2=radbas(p-);a3=radbas(p+2);a4=a+a2*1+a3*;figure;plot(p,a,'b-',p,a2,'b-',p,a3,'b-',p,a4,'m--');title