单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,医学信号处理:参数估计,第五章 信号的参数估计,定义:信号估计,(,Estimations,)在受噪声干扰的观测中,信号参量和波形的确定,问题。,根据受到噪声污染的观测数据来估计随机变量或随机过程的运算。,参量估计的,目的,:在有限个信号观测样值中,以最佳方式估计信号的参数。,参数估计,被估计的量是随机变量(静态估计),波形估计,被估计的量是随机过程(动态估计),1,第五章 信号的参数估计定义:信号估计(Estimations,设,x,=x,1,x,2,.,x,N,为随机变量,s,的独立同分布的N个观测样值,而f(,x,1,x,2,.,x,N,)是用来估计参量,a,的观测样值函数(统计量),称:,f(,x,1,x,2,.,x,N,),(31),为参量,a,的估计量。的均值即为,E,=,E,f(,x,1,x,2,.,x,N,),。,数学描述:,2,设x=x1,x2,.,xN为随机变量s的独立同分布的N个,非线性估计,已知待估参数的先验概率和条件先验概率,依据某些最优判据,通过非线性数理统计算法估计参数;,随机参量其特性用概率密度来表征,贝叶斯估计,非随机参量仅为一般的未知量,最大似然估计,线性估计,在估计参数,a,为观察值,x,的线性函数,在最小均方误差意义下进行估计。,参数估计方法:,3,非线性估计已知待估参数的先验概率和条件先验概率,依据某些,51、估计准则,估计偏差,估计方差,估计值的均方误差,有效估计,一致估计,4,51、估计准则估计偏差4,52、贝叶斯估计,5,52、贝叶斯估计5,(c)均匀代价函数,6,(c)均匀代价函数 6,情况(a),平方误差情况下,风险函数最小的估计量称为,最小均方估值,(minimum mean square estimation),其风险函数为:,由于,则风险函数为:,p,(,x,)0 故MS最小即等效为上式括号 内项最小,7,情况(a)平方误差情况下,风险函数最小的估计量称为最小均方估,由于,故,此最小均方估值,,表示已知,x,时,,的条件均值。,8,由于故 此最小均方估值,表示已知x时,的条件均值。8,情况(b),绝对值误差,情况下,风险函数为:,上式括号 内项为:,故R,MS,最小即等效为上式括号 内项最小。于是,可令上式对,的导数为零,则有:,ABS估计应取在后验概率密度函数面积的平分线上。,9,情况(b)绝对值误差情况下,风险函数为:上式括号 内项为,情况(c),均匀估计,代价函数,号中的后面一项为:,当此式最大,即,p,(,s,|,x,),最大时,,Runf,最小。,此时,称为最大后验估值,(Maximum a Posteriori),;,10,情况(c)均匀估计代价函数 号中的后面一项为:当此式最大,最后,将三种情况估计式中后验概率密度函数借助于贝叶斯公式用先验概率代替得到:,ABS估计为,MAP估计为,MS估计为,11,最后,将三种情况估计式中后验概率密度函数借助于贝叶斯公式用先,53、极大似然估计,(,Maximum Likelihood Estimation-MLE,),此式为必要条件,而不是充分条件。,12,53、极大似然估计此式为必要条件,而不是充分条件。12,13,13,如果要估ABS、,MAP、MS,还需,要已知p(s)。,14,如果要估ABS、14,15,15,54、线性估计,16,54、线性估计16,17,17,18,18,19,19,20,20,21,21,22,22,递归线性最小均方估计,观察值:,x,j,=,s,+,n,j,j,=1,2,先验统计信息:,用递归线性最小均方估计算法,估计判据为使均方误差最小:,23,递归线性最小均方估计观察值:xj=s+nj,j=1,2,基于已经证明的公式:,得到的递归估计算法流程见第84页。,24,基于已经证明的公式:得到的递归估计算法流程见第84页。24,递归线性最小均方估计算法,当k很大时,,递归过程最终收敛。,25,递归线性最小均方估计算法当k很大时,递归过程最终收敛。25,55、最小二乘估计,26,55、最小二乘估计26,最小二乘法的估计准则就是选,s,的估计值 ,使得各次测量的误差平方和最小,即:,测,线性测量方法得到的理论值,,由测量方法决定的系数;,各次测量的误差,上式对,求导,得到:,也就是:,27,最小二乘法的估计准则就是选s的估计值 ,使得各次测,以上结论可推广到待估计量s为多维矢量的情况。,以上,S,LS,为m维待估矢量,,C,为nm维已知系数矩阵,,X,为n维观察矢量。,28,以上结论可推广到待估计量s为多维矢量的情况。以上SLS为m维,得:,29,得:29,贝叶斯估计:三种估计,ABS估计为,MAP估计为,MS估计为,30,贝叶斯估计:三种估计ABS估计为MAP估计为MS估计为30,极大似然估计,此式为必要条件,而不是充分条件。,31,极大似然估计此式为必要条件,而不是充分条件。31,线性均方估计,32,线性均方估计32,33,33,最小二乘法的估计准则就是选,s,的估计值 ,使得各次测量的误差平方和最小,即:,测,线性测量方法得到的理论值,,由测量方法决定的系数;,各次测量的误差,上式对,求导,得到,最小二乘估计,估计量s为多维矢量的情况:,以上,S,LS,为m维待估矢量,,C,为nm维已知系数矩阵,,X,为n维观察矢量。,即:,34,最小二乘法的估计准则就是选s的估计值 ,使得各次测,典型例题:,例5.2 观察信号由随机信号加高斯噪声。,例5.3 观察信号由均匀分布的随机信号加高斯噪声。,例5.6 服从指数分布的脉冲序列的发放率的估计。,例5.7 观察信号由非随机变量加高斯噪声。,例5.8 观察信号由随机信号加高斯噪声。,线性估计,35,典型例题:线性估计35,