矩阵的奇异值理论提出至今己经有很长的一段时间。奇异值分解理论由beltrami和jordan于十九世纪七十年代提出至今,由于其内在的一些良好特性,奇异值分解正成为应用数学和数学模型领域的一个极有价值的工具。奇异值分解在很多领域得到了应用,它在数据挖掘及搜索引擎中被用来对数据库文件进行规类,近年来,它在图像压缩方面的应用也越来越受到相关学者的重视。
关键字:图像压缩;奇异值分解。
数字图像处理技术中的数字图像压缩,或者叫图像编码。二维形式呈现的数字图像,其信息量很大,给传输、处理、储存、显示等都带来了不少的问题。另一方面,图像中又有很多冗余信息,根据香农(shannon)的率失真理论。
无论在传输或者储存时,都可对数字图像进行一定方式编码,删除其中冗余信息,实现不失真压缩,或在容许失真限度内进行有失真压缩,以换取更大的压缩率。对于供人**的图像,如电视信号,这时人是通信系统中的一环,人的视觉特征,如掩盖效应,对灰度分辨率和空间分辨率的有限性等,也可以用来为压缩服务。数字图像以数据矩阵形式储存在存储器中,这就使得通过操作数据矩阵的方式压缩图像成为可能。
事实上矩阵的奇异值本身具有可降维的特性,若能合理的利用矩阵奇异值的这一特性,svd方法在图像压缩领域必将会有广阔的应用前景。
矩阵的奇异值分解(svd)目前在信号处理、模式分析等领域得到了较为广泛的应用。由于数字图像矩阵通常是由数据量较大的阵列矩阵所构成,这就给基于svd变换的算法构造添加了很大的难度,所以svd变换目前在数据压缩领域得到的应用还不是很多,从svd变换算法的研究着手,研究大矩阵奇异值的分布情况以及他们在图像恢复时所起到的作用,并在此基础上展开对svd变换算法在数据压缩领域应用的研究,构造能将svd变换实际应用到数据压缩领域的快速、高效的算法是十分必要的。
2.1.1奇异值分解。
奇异值分解最早由beltrami在2023年针对实正方矩阵提出来的。beltrami从双线性函数出发,通过引用线性变换,将双线性函数变为,其中。
beltrami观测到,如果约束u和v为正交矩阵,则他们的选择各存在个自由度。他提出利用这些自由度使矩阵s的除对角线以外的元素全部为零,即矩阵为对角矩阵。于是,用u和分别左乘和右乘式(2-1),并利用u和v的正交性,立即得到。
这就是beltrami于2023年得到的实正方矩阵的奇异值分解。2023年,jordan也独立推导了实正方矩阵的奇异值分解。
后来,autonne于2023年把奇异值分解推广到复正方矩阵;eckart与young于2023年又进一步把他推广到一般的长方矩阵。因此,现在通常将任意复长方矩阵的奇异值分解称为autonne-eckart-young定理,如下。
定理1(矩阵的奇异值分解) 令,则存在正交(或酉)矩阵和使得。
式中。且,其中其对角线元素按照顺序,其中。此时称数值连同一起称作矩阵a的奇异值。
2.1.2关于奇异值分解的几点解释和标记。
1)矩阵v为酉矩阵,用v右乘式(2一3),得到,其列向量。形式为。
因此v的列向量称为矩阵a的右奇异向量(right singular vector),v称为a的右奇异向量矩阵(right singular vector matrix)。
2)矩阵u为酉矩阵,用左乘式(2-3),得,其列向量形式为。
因此u的列向量成为矩阵a的左奇异向量(left singular vector),并称u为a的左奇异向量矩阵(left singular vector matrix)。
3)矩阵a的奇异值分解式(2-3)可以改写成向量表达形式:
这种表达式有时称为a的并向量(奇异值)分解(dyadic decomposition)。
4)由式(2-3)易得。
这表明,矩阵a的奇异值是矩阵乘积的特征值(这些特征值是非负的)的正平方根。
5)当矩阵a的秩时,由于,故奇异值分解公式(2-3)可以简化为。
式(2-9)称为矩阵a的截尾奇异值分解(truncated svd)或薄奇异值分解(thin svd)。与之形成鲜明对照,式(2-3)称为全奇异值分解(fun svd)。
2.2矩阵奇异值的性质及应用。
2.2.1奇异值服从的不等式关系。
1)矩阵式和其复共厄转置矩阵具有相同的奇异值。
2)矩阵的非零奇异值是或的非零特征值的正平方根。
3)是矩阵的单奇异值,当且仅当是或的单特征值。
4)若,且是矩阵的奇异值,则。
5)矩阵行列式的绝对值等于矩阵奇异值之乘积,即。
6)矩阵a的谱范数等于a的最大奇异值,即。
7)若,则对于矩阵有。
8) 若,则对于矩阵有。
9)若矩阵a非奇异,则。
10)若是矩阵a的奇异值分解,则a的moore-penrose
逆矩阵。11)若是矩阵a的非零奇异值(其中,),则矩阵。
具有2p个,和个零奇异值。
2.2.2奇异值服从的不等式关系。
1)若a和b是矩阵,则对于,有。
特别的,当j=1时,
成立。2)对矩阵,,有。
3)若a和b是矩阵,则。
4)若的奇异值,则。
5)若,且和的奇异值排列为和,则。
6)设矩阵b是删去矩阵a任意一列得到的矩阵,并且它们的。
奇异值都按照非降顺序排列,则。
式中,。7)矩阵的最大奇异值满足不等式。
2.2.3矩阵奇异值的特征及应用。
综合前面提到的奇异值所满足的一些等式、不等式关系,可以总结出矩阵。
奇异值的一些基本特征。
1.矩阵奇异值的第一个特征是可以降维。若a表示n个m维向量,可以通过。
奇异值分解可表示成个r维向量,若a的秩r远远小于m和n,则通。
过奇异值分解可以大大降低a的维数。可以计算出,当时,可以达到降维的目的,同时可以降低计算机对存贮器的要求。
2.奇异值分解的第二个特征是奇异值对矩阵的扰动不敏感,在数学上可以证明,奇异值的变化不会超过相应矩阵的变化。即对任何相同阶数的实矩阵a、b的按从大到小排列的奇异值和,有。
3.矩阵奇异值的第三个特征是比例不变性,即的奇异值是a的奇异值的倍。
4.奇异值的第四个特征是旋转不变性。即若p是正交阵pa的奇异值与a的奇异值相同。奇异值的比例跟旋转不变性特征在数字图像的旋转、镜像、平移、放大、缩小等几何变化方面有很好的应用。
5.奇异值的第五个特征是容易得到矩阵a的秩为的一个最佳逼近矩阵。奇异值的这个特征可以用于信号的分解和重构,提取有用信息,消除信号噪声。
6.奇异值分解的第六个特征:若a、b都有相同的奇异向量,则。
也就是说,可以通过控制奇异值的大小来控制两个矩阵空间的距离。
理论的发展很自然的要带动应用的提高。由于奇异值具备的良好的数学特。
征,目前奇异值不仅应用在主成分分析、图像压缩、数字水印和文章分类等技。
术中,实际上它的应用己经渗透到了科学世界的许多其它领域。它在信号分解、
信号重构、数据融合、目标识别、故障检测和神经网络中都有着很好的应用,随着科学工作者的不断探索,可以预见在不久的将来奇异值分解的应用范围必。
将不断的得到推广。
假设一幅图像有个像素,如果将这个数据一起传送,数据量往往会很大。因此,我们希望能够改为传送一些比较少的数据,并且接收端可以利用这些传送的数据重构原图像。
不妨假设用矩阵a表示要传送的原个像素。假定对矩阵a进行奇异值分解,便得到,其中,奇异值按照从大到小的顺序排列。如果从中选择k个大奇异值以及与这些奇异值相对应的左右奇异向量逼近原图像,便可以使用个数值代替原来的个图像数据。
这个被选择的新数据是矩阵a的前k个奇异值、左奇异向量矩阵u的前k列和右奇异向量矩阵v的前k列的元素。比率。
称为图像的压缩比。显然,被选择的大奇异值的个数k应该满足条件,即,也就是说k只要在图3-1描述的曲线下方取值就能达到压缩目的。
图3.1 有效压缩曲线图。
此时,在传送图像的过程中,就无需传送nxn个原始数据,而只需要传送k(2n+l)个有关奇异值和奇异向量的数据即可。另外,在接收端接收到奇异值。
以及左奇异向量和右奇异向量后,即可通过截尾的奇异值分解公式。
重构出原图像。
这里有一个容易理解的事实是:若k值偏小,则压缩比偏大,重构的图像质量较差。反之,过大的k值又会导致压缩比过小,降低图像压缩的效率。
根据对大量的图像svd压缩处理后的结果做分析,我们发现一般当所选的奇异值之和占到原数据矩阵奇异值总和的85%,重构后的图像质量就基本上能达到较好的效果,且压缩效率较高。
根据上面的原理,假定已经提取了一幅图像的数据矩阵,记这个矩阵为a。根据前面章节介绍的方法,我们的目标首先应该是提取数据矩阵a的奇异值,因为事先假设这个矩阵a是个超大型矩阵,这需要用到第三章提出了随机抽样算法对矩阵a进行奇异值估计,在对其奇异值做出正确估计的情况下,选择合适的大奇异值数量对数字图像进行压缩处理,最后重构数字图像矩阵,还原图像。图3-2给出了压缩流程,图3-3给出重构流程。
矩阵论大作业
矩阵论 课程研究报告。科目 矩阵理论及其应用教师。姓名学号。专业 机械设计及理论类别。上课时间 2013年2月至2013年5月。考生成绩。阅卷评语。阅卷教师 签名。利用矩阵论相关知识求解传动轴。固有频率的有限元分析法。摘要 在结构力学中,求解结构自由振动的固有频率是十分重要的内容。本文通过对某机器传...
矩阵论结课大作业
引言随着现在科学技术的发展,在近代计算数学领域越来越需要引入矩阵,同时计算矩阵特征值就变成了一个比较重要的问题了。通过矩阵的分解简化矩阵,可以求出矩阵的特征值和特征向量。矩阵的分解中有一种很重要的分解是qr分解,francis利用矩阵的qr分解建立了计算矩阵特征值的qr方法,是计算一般中小型矩阵全部...
《矩阵分析应用》编程作业
矩阵分析与应用 programming 编程 1 题目 测试矩阵。1.1编程要求 1 不限编程语言,程序为可执行文件,例如 m文件等,不能是word或者txt文档 2 程序可以实现任意矩阵的lu分解,并附上简单实例 3 同时提交程序的说明文档,对程序简单说明 1.2 测试矩阵。程序编写后,将从讲义的...