RBF神经网络.doc

文档介绍：RBF神经网络：
RBF神经网络又称为径向基函数神经网络是一类常用的3层前馈网络，也可用于函数逼近及分类，常用的RBF网络为n-h-m结构，即网络具有n个输入，h个隐节点，m个输出。
RBF的常用算法用：聚类方法，梯度训练方法，正交最小RBF神经网络：
RBF神经网络又称为径向基函数神经网络是一类常用的3层前馈网络，也可用于函数逼近及分类，常用的RBF网络为n-h-m结构，即网络具有n个输入，h个隐节点，m个输出。
RBF的常用算法用：聚类方法，梯度训练方法，正交最小二乘算法等等，在本次算法实现过程中，主要用到了聚类方法和梯度训练方法。
常用的RBF算法实现流程是：
算法初始化：选择h个不同的初始聚类中心，并令k=1。初始聚类中心的方法很多，比如，从样本输入中随机选取，或者选择前h个样本输入，但这h个初始数据中心必须取不同值。
计算所有样本输入X j与聚类中心的距离||X j–c i（k）||，i=1,2,···,h，j=1,2,···,N。
对样本输入X j按最小距离原则对其进行分类：即当i(X j)=min||X j–c i（k）||，i=1,2,···,h时，X j即被归化为第i类，将n个输入分为h类。
重新计算各类的新的聚类中心：
C i（k+1）=1Nix∈wi(k)x，i=1,2,···,h
式中，N i为第i个聚类域w i（k）中包含的样本数。
如果c i（k+1）≠c i(k)，转到步骤2；否则聚类过程结束，转到步骤6。
根据各中心之间的距离确定各隐节点的扩展常数(高斯因子)。
一旦各隐节点的数据中心和扩展常数确定了,输出权矢量w就可以用有监督学****方法训练得到,也可以使用最小二乘方法(LMS)直接计算。
LMS：
当输入为X i，i=1,2,···,N时，第j个隐节点的输出h ij=Uj（||X i-c j||），所以隐层输出阵为：
H=[hi j]
则网络的输出矢量为：
y=Hw
所以权值w可以通过最小二乘法求得：
w=H+y（H+ 为H的伪逆）。
H+ =（HT H）-1 HT。
在用此方法计算时，由于H的维数可能会很大，所以传统的矩阵求逆方法（伴随矩阵之类）计算量会很大，延时也很严重，因此此处我们不能采用传统的矩阵求逆方法。
梯度训练：
RBF网的梯度训练方法是通过最小化目标函数实现对各隐节点数据中心、扩展常数和输出权值的调节，通过不断调整数据中心、扩展常数和输出权值的值，最终使得得到的测试结果与给定的结果的误差最小。这样RBF神经网络就训练好了。
本次算法的实现过程如下：
将RBF神经网络定义为类class RBFNet；
调用其构造函数RBFNet::RBFNet(int inputNum,int outputNum,int dataNum)，相继输