文档介绍：第5章最小二乘法辨识
把待辨识的系统看作“黑箱”,只考虑系统的输入-输出特性,而不强调系统的内部机理。
本章主要讨论单输入-单输出系统的差分方程作为模型的系统辨识问题。
差分方程模型的辨识问题包括阶的确定和参数估计2个方面。
本章讨论采用最小二乘法进行参数估计。
1、最小二乘法
设单输入-单输出线性定常系统的差分方程为
(1)
式中: 为输入信号; 为理论上的输出值。
的观测值可表示为
式中为随机干扰,则:
将代入差分方程中,有
(4)
往往把看作白噪声
设
则式(4)可写成
(5)
假设不仅包含了的测量误差,而且还包含的测量误差和系统内部噪声。
假定是不相关随机序列。
现分别测出个输出输入值,
设
可得到
(8)
式中: 为N维输出向量; 为N维噪声向量; 为维参数向量; 为测量矩阵。
式(8)式一个含有个未知参数,由N个方程组成方程组。
当,方程数少于未知数数目,则方程组的解是不定的。
当,方程数正好与未知数相等,当噪声时,就能准确的解出
如果噪声,则
从上式可以看出噪声对参数估计有影响,为了尽量减少噪声对估值的影响,应取
此时,要采用数理统计的方法求的值,以减少噪声对估计值的影响。
最小二乘估计算法
设表示的最优估值, 表示的最优估值,则有
式中
设表示与之差,即
式中
将称为残差。把分别代入上式可得残差。设
则有
最小二乘估计要求残差的平方和为最小,即按照目标函数
为最小来确定估值。
求J对的偏导数并令其等于0,可得
J为极小值的充分条件是
即矩阵为正定矩阵。