2023年6月。
cramer-rao不等式的证明。
定义:设为参数的估计子,参数的估计子的偏差定义为该估计子误差的期望值,即。
则估计子称为无偏估计子。若变差等于零或者,即估计子的期望值等于真实参数,则成估计子的渐进无偏估计子。无偏性反映了参数估计量的取值在真值周围摆动程度。
一个参数往往具有不止一个无偏估计子,因此引入了估计量的有效性这一概念来判断偏估计的优劣,以方差大小来衡量无偏估计子的有效性。
假定参数存在无偏估计子和,若具有比更大的方差,即,则对于相对有效。
对于任意参数,我们自然希望得到其更为有效的无偏估计子,即要求方差值尽量小。究竟无偏估计量的方差能够小到什么程度,是否有下界?如果有,是否有估计子能达到这一下届?
这就是本次要讨论的cramer-rao下界。
定义:参数的估计子的均方误差定义为该估计子与真实参数的误差平方的期望值,即。
定理:(cramer-rao不等式)令为样本向量。若参数估计是真实参数的无偏估计,并且和存在,则的均方误差所能达到的下界成为cramer-rao下界等于fisher信息的倒数,即。
不等式中等号成立的充分必要条件是。其中是的某个正函数,并与样本无关。
定义:品质函数的的方差成为fisher信息,用表示,定义为。
证明cramer-rao不等式:
由假设条件可得,则可得。
对式(1)两边求偏导,得。
即可得2)另,由复合函数求导法可得
又有 (4)
将式(3)和式(4)代入到式(2),得。
可改写为5)
由cauchy-schwartz不等式,可得。
则6)由cauchy-schwartz不等式等号成立的条件可知:当且仅当,不等式可取等号。
因为,故有。
又因8)将式(7)与式(8)代入式(6)中,即可得到cramer-rao不等式。
维纳滤波器(wienerfilter)的应用综述。
1、维纳滤波。
从连续的(或离散的)输入信号中滤除噪声和干扰以提取有用信息的过程称为滤波,则相应的设备成为滤波器。如何最大限度地抑制噪声,将有用信号提取出来,是信号处理基本的问题。滤波器研究的一个基本课题就是:
如何设计和制造最佳的或最优的滤波器。所谓最佳滤波器是指能够根据某一最佳准则进行滤波的滤波器。
20世纪40年代,维纳奠定了关于最佳滤波器研究的基础。即假定线性滤波器的输入为有用信号和噪声之和,两者均为广义平稳过程且知它们的二阶统计特性,维纳根据最小均方误差准则(滤波器的输出信号与需要信号之差的均方值最小),求得了最佳线性滤波器的参数,这种滤波器被称为维纳滤波器。
若有一个线性滤波系统,其单位脉冲响应为,输入系统的信号为,在只考虑加性噪声的情况下,则观测信号为,经滤波系统得到的实际输出为。我们希望系统输出的尽量接近与,因此是的估计或者逼近,即。对信号处理,可以看成是对期望信号的估计,可以将滤波系统看作是估计器,信号处理的目的是要得到信号的一个最佳估计。
已知,估计以后时刻的信号值,这样的估计问题称为**问题。已知,估计当前的信号值,称为过滤或滤波。维纳(wiener)滤波用于解决从噪声中提取信号的滤波或**问题,并以估计值与真值之间的误差均方值最小作为最佳准则。
维纳滤波器的优点是适应面较广,无论平稳随机过程是连续的还是离散的,是标量的还是向量的,都可应用。对某些问题,还可求出滤波器传递函数的显式解,并进而采用由简单的物理元件组成的网络构成维纳滤波器。维纳滤波器的缺点是,要求得到半无限时间区间内的全部观察数据的条件很难满足,同时它也不能用于噪声为非平稳的随机过程的情况,对于向量情况应用也不方便。
因此,维纳滤波在实际问题中应用不多。
2、基于维纳滤波的应用。
a. 维纳滤波在图像处理中的应用。
在图像处理中,噪声问题是经常会遇到的问题,因为从实验中得到的信号或多或少伴随着噪声。如何消除或者减弱噪声,恢复真实的信号,是信号处理面临的首要问题。一种最重要的自适应滤波器是维纳滤波器,它是一种最优的线性最小二乘滤波器,广泛用于**、估计、内插、信号和噪声的过滤等领域。
由于噪声信号的干扰降低了信噪比,使得图像信息受损,导致图像质量下降,这种现象称为图像“退化”。如何尽可能地滤去噪声,恢复真实的信号.是图像处理中关键的问题。维纳滤波是一种常见的图像复原方法,该方法的思想是使复原的图像与原图像的均方误差最小原则采复原图像。
维纳滤波是假设图像信号可以近似看成平稳随机过程的前提下,按照输入图像和恢复图像之间的均方误差达到最小的准则函数来实现图像恢复的方法。如果我们知道退化图像的psf,那么可以利用维纳滤波进行图像恢复,能够得到良好的效果。
几类简单、常用的滤波器如维纳滤波器和卡尔曼滤波器等都是假定噪声是高斯的且是加性的,噪声和信号相互独立,这样能得到最小均方误差意义下的最优滤波。对于实际问题中遇到的非加性噪声,也能通过基于维纳滤波器的思想计算,求出适合的滤波器算式。比如在处理乘性噪声时使用的方法就是基于维纳滤波器的思想,还有在处理图像运动模糊复原时的频域估计算法中也使用到基于维纳滤波器的一些推广算法。
b. 迭代维纳滤波在语音分离中的应用。
语音分离式语音信号处理中的一个重要的研究领域,其目前是在有多个话者的语音同时存在时提取特定话者(目标话者)的语音,这对于鲁棒性语音识别以及信息抽取均具有十分重要的意义。由于语音信号的非平稳性,传统的语音增强方法如频谱减算法等方法在处理语音分离问题时存在局限性。频谱减算法在假定加性噪声和短时平稳的语音信号相互独立的条件下,通过从含有噪声语音信号谱减去估计的噪声谱,从而得到去噪后的语音信号谱。
但由于其局部平稳性的假设与实际情况不符,因此效果不理想,导致残留**噪声较大等问题。
围绕语音信号去噪增强科技工作前仆后继研究工作着,研究出了迭代维纳滤波方法。对于多种非高斯噪声和强背景噪声下声音信号难以提取的实际问题,提出的迭代维纳滤波方法,在提高信噪比、噪声的去除等方面都有相当优越的表现,其效果明显优于传统的均值滤波器和小波去噪法。
3. ma模型的输出功率谱为:
题中给出的二阶滑动平均过程(ma(2))为:
定义,式中表示正态分布,其均值为零、方差为。
则该平均过程的功率谱为:
4. 信号的函数表达式如下所示:
其中为一随机过程,为经过390—410hz带通滤波器后的高斯白噪声,为高斯白噪声。
matlab模拟实现的原始信号如下图所示:
图1 输入信号波形。
1) 利用现代信号处理知识进行信号的谱估计;
本次,选择使用welch法与music法对信号进行谱估计。效果图如下所示:
图2 music法与welch法处理后的功率谱。
2) 利用现代信号处理知识进行信号的频率提取;
采用快速傅里叶变换的方法对信号进行频率提取。使用matlab对信号进行频率提取后的效果图如下所示:
图3 原信号频率图。
由上图提取效果可以看出信号的主频为100hz和300hz。
3) 分别利用wiener滤波和kalman滤波进行去噪;
其滤波的效果图如下:
4) 利用wigner-ville分布分析信号的时频特征;
5. arma模型的数学表达式为:
其中: 为后移算子。
可以用以下arma模型进行电力系统负荷**:
通过对电力系统负责采样的数据,使用arma模型方法进行**。效果图如下所示:
a. 4月28日-5月5日**波形图
b. 5月5日**波形图。
由上图可以看出:从总体波形上来看,由arma模型**估计出的负荷值与实际测量的负荷真实值基本符合。而针对5月5日的负荷**,在序列点176处与实际值产生了较大误差。
附件1:4题程序**:
clear all
fs = 1000;
t = 0:1/fs:2.047;
n = size(t,2数据样值点数。
randn('state',0);
e1=randn(1,2048高斯白噪声。
f2=390;
f3=410; %带通频率。
wc1=2*f2/fs;
wc2=2*f3/fs;
f1=[0 wc1-0.05 wc1 wc2 wc2+0.05 1];%归一化频率f1
b=[0 0 1 1 0 0];%设置带通或带阻,1为带通,0为带阻。
weigh=[1 1 1 ];设置通带和阻带的权重。
b=remez(50,f1,b,weigh);%传函分子。
e2=filter(b,1,e1);%产生带通滤波后的高斯白噪声。
a=normrnd(0,1,1,2048); 产生随机过程。
x = sin(2*pi*t*100) +1.5*sin(2*pi*t*300)+a.*sin(2*pi*t*200)+e1+e2; %原信号。
figure(1);
plot(t,x);
title('原始信号');
xlabel('t/s');
ylabel('幅值');
axis([0 2.06 -6 6]);
nfft=1024; %fft的长度。
order1=50;
range='half'; 频率间隔为[0 fs/2],只计算一半的频率。
magunits='db';%采用分贝格式画图。
figure(2);
subplot(211);
pmusic(x,[7,1.1],nfft,fs,32,16); music法谱估计。
title('music法');xlabel('f/khz');ylabel('功率/db')
grid on
pxx,f4] =pwelch(x,50,nfft,fs); welch法谱估计。
plot_pxx=10*log10(pxx);
subplot(212);
现代信号处理作业
中国矿业大学。20 级硕士研究生课程考试试卷。考试科目现代信号处理基础 考试时间。学生姓名。学生学号。所在院系信电学院 任课教师。中国矿业大学研究生院培养管理处印制。一 自适应滤波。1 自适应df的工作原理 自适应滤波器是以最小均方误差为准则的最佳滤波器,它能自动调节其本身的单位脉冲响应h n 特性...
现代信号处理作业
中北大学。研究生 现代信号处理 作业。所在院 系 信息与通信工程学院 专业 测试计量技术及仪器 姓名王栋。学号 s20100329 班级 y100503 156 小波变换与matlab相关程序的学习 小波变换是在傅里叶变换的基础上发展起来的,它优于傅里叶分析的地方是它在时域与空域都是局部化的,其局部...
现代信号处理作业
1.总结学过的滤波器设计方法,用matlab 例子分析不同设计方法的滤波器的性能及适应场合。答 1.1模拟低通滤波器的设计方法。1.1.1 butterworth滤波器设计步骤 确定阶次n 1 已知 c s和as求butterworth df阶数n 由 求出n 2 已知 c s和 p 的衰减ap 求...