第5期21)09年5月电子学报v01.37N0.5AclmⅡEcI胃ONIo~SINlC^M目2009压缩感知理论及其研究进展石光明1,刘丹华1,高大化1一,刘哲3,林杰1,王良君1(1.西安电子科技大学智能感知与图像理解教育部重点实验室,陕西西安710071;2.空军工程大学理学院,陕西西安710051;3.西北工业大学理学院,陕西西安7100"/2)摘要:信号采样是联系模拟信源和数字信息的桥梁.人们对信息的巨量需求造成了信号采样、传输和存储的巨大压力.如何缓解这种压力又能有效提取承载在信号中的有用信息是信号与信息处理中急需解决的问题之一.近年国际上出现的压缩感知理论(c0叫玎嘲edSensing,Cs)为缓解这些压力提供了解决方法.本文综述了cs理论框架及关键技术问题,并着重介绍了信号稀疏变换、观测矩阵设计和重构算法三个方面的最新进展,评述了其中的公开问题,对研究中现存的难点问题进行了探讨。最后介绍了cs理论的应用领域.关键词:信息采样;压缩感知;稀疏表示;观测矩阵1N911.72中图分类号:文献标识码:A文章编号:0372-2112(2∞9)05.1070-12AdvancesinTheoryandApplicationofCompressedSensing(I。Intd蛳Pd蛳and脚踟幽嘲删螗研缸钿哪吖of麒rll嘶矿尉晌。Y,id/an洳呐.箍’∞,黼础试710071,饶妇‘2.洲矿蜘.^‘rf缸凸驴咖踟・嘞,,If/’荫,霸衄谢710051。(轧眦;3.Shod矿蜘,Nort,keacnP0伽融,删踟岫,崩’∞,S6aand710072,G|l妇)AI葛妇歧:sa如p_IiDgistheSHIG删畸咄1,LIUDan.hual,GAODa_hual,2,LIUZhe3,LINJiel,WANGLiang-junlbfid护be幅怕朗analog∞呷∞signalmm鲫血豳∞andrecentanddigitalsignal.WiththeIapidptogte燃ofinfotmmionchal-Ur-technologies,tlzdemandsforinformation肿incI嘲_singl朋黟ofhighspeedsampnng,largevolmrtdata蹦吐pfobl锄inelecuvnicinformationfields.In(CS)providesproblemsandaof∞蛐弘酬即n血19re畔ntafioa。clesignl-ecoll蚍,fionalgonth.Thm岫咿alsoopea咖lems芦d岫.Inapplicationco皿碑刚∞峨砒in缸妇lced.KI影wDnds:sampling;com口酬sensing;sp哪c他掣∞印蜘;m髓sutememandgold匝oppotumityforsolvingthispIdIkm.Thisin洲dticientlyyears,an既∞咖lh∞叮ofsignal∞ql血朗蛸廿一compressedl捌uet把咖她lheo删cal龟m掣触andkeystor咎.Howto∽qLli地informationtheofinCStheoryandd吻matically.Sothe“istingsystemsmverydifficultto恻theisallsensingtechnicalinmxtuces山ela坨或dcwd哪啪即噍sofsignalsparsemvicwsseveralmeasla-ememmatrixdi∞uss嚣thecxiflfillgdifficulttheend,thefieldsofinformationmatrix1引言信息技术的飞速发展使得人们对信息的需求量剧增.现实世界的模拟化和信号处理工具的数字化决定了信号采样是从模拟信源获取数字信息的必经之路.奈奎斯特采样定理则是指导如何采样的重要理论基础.它指出,采样速率必须达到信号带宽的两倍以上才能精确重构信号.然而随着人们对信息需求量的增加,携带信息的信号带宽越来越宽,以此为基础的信号处理框架要求的采样速率和处理速度也越来越高,因而对宽带信号处理的困难在日益加剧.例如高分辨率地理资源观测,其巨量数据传输和存储就是一个艰难的工作.另一方面,在实际应用中,为了降低存储、处理和传输的成本,人们常采用压缩方式以较少的比特数表示信号,大量的非重要的数据被抛弃.这种高速采样再压缩的过程浪费了大量的采样资源,于是很自然地引出一个问题:能否利用其它变换空间描述信号,建立新的信号描述和处理的理论框架,使得在保证信息不损失的情况下,用远低于奈奎斯特采样定理要求的速率采样信号,同时又可以完全恢复信号?即能否将对信号的采样转变成对信息的采样?如果这个问题被解决,就可以极大地降低信号的采样频率及数据存储和传输代价,显著牧稿日期:2009-07-02;惨回日期:∞∞.11.10基金项目:国家自然科学基金(No.60776795。No.60736043。No.60672125,No.60()07010),教育江学者和创新团队支持计划(No.IR'ID645),国家863高技术研研发展计划(No.20ff'/AAOIZ307)万方数据 第5期石光明:压缩感知理论及其研究进展107l地降低信号处理时间和计算成本,并将带领信号处理进入一个新的时代.近几年来出现的一种新颖的理论——C0唧删的璐iIlg(也称为Compressivesampling)u制表明这是可能的.目前还没有一个统一的中文词汇与之对应,有人称之为压缩传感,也有人称其为“压缩感知”。(以下均采用“压缩感知”).压缩感知理论与传统奈奎斯特采样定理不同,它指出,只要信号是可压缩的或在某个变换域是稀疏的,那么就可以用一个与变换基不相关的观测矩阵将变换所得高维信号投影到一个低维空间上,然后通过求解一个优化问题就可以从这些少量的投影中以高概率重构出原信号,可以证明这样的投影包含了重构信号的足够信息.在该理论框架下,采样速率不决定于信号的带宽,而决定于信息在信号中的结构和内容.事实上,压缩感知理论的某些抽象结论源于蛐创立的范函分析和逼近论一J,最近由Cand两,R舭Ibe耐3|,TaoE8]和DonohoC4]等人构造了具体的算法并且通过研究表明了这一理论的巨大应用前景.从信号分析角度来讲,傅立叶变换是信号和数字图像处理的理论基础,小波分析将信号和数字图像处理带入到一个崭新的领域.多尺度几何分析恻9是继小波分析后的新一代信号分析工具,它具有多分辨、局部化和多方向性等优良特性,更适合于处理图像等高维信号.这些研究工作都为压缩感知理论奠定了基础.显然,在压缩感知理论中,图像/信号的采样和压缩同时以低速率进行,使传感器的采样和计算成本大大降低,而信号的恢复过程是一个优化计算的过程.因此,该理论指出了将模拟信号直接采样压缩为数字形式的有效途径,具有直接信息采样特性.由于从理论上讲任何信号都具有可压缩性,只要能找到其相应的稀疏表示空间,就可以有效地进行压缩采样,这一理论必将给信号采样方法带来一次新的.压缩感知理论的引人之处还在于它对应用科学和工程的许多领域具有重要的影响和实践意义,如统计学、信息论、编码等[1】.本文以稀疏信号的压缩观测及重构为主线,综述了压缩感知理论以及与之相关的信号稀疏变换、观测矩阵设计、重构算法等一系列最新理论成果和应用研究,描述了国内外的研究进展,讨论了其中的公开问题,展望了未来的研究方向.2压缩感知理论框架及其主要进展2.1问题描述考虑一个实值的有限长一维离散时间信号X,可以看作为一个∥空间JI、r×1的维的列向量,元素为X[厅],n=1,2,…J『\『.∥空间的任何信号都可以用N×1万 方数据维的基向量{墨}曼。的线性组合表示.为简化问题,假定这些基是规范正交的.把向量{氍}墨。作为列向量形成N×N的基矩阵哆:=[甲l,%….,蚧],于是任意信号X都可以表示为【tOJ:x=乞佛暖二orx=,阿(1)其中修是投影系数9=[仇]=[<X,觋>]构成的Nxl的列向量.显然,X和。是同一个信号的等价表示,X是信号在时域的表示,D则是信号在甲域的表示.如果9的非零个数比Ⅳ小很多,则表明该信号是可压缩的.一般而言,可压缩信号是指可以用置个大系数很好地逼近的信号,即它在某个正交基下的展开的系数按一定量级呈现指数衰减,具有非常少的大系数和许多小系数.这种通过变换实现压缩的方法称为变换编码.变换编码在数据采样系统中,比如数码相机,发挥了重要作用.在这些系统中,采样速率高但信号是可压缩的,采样得到Ⅳ点采样信号X;通过o=妒x变换后计算出完整的变换系数集合{岛};确定K个大系数的位置,然后扔掉N-K个小系数;对K个大系数的值和位置进行编码,从而达到压缩的目的[toJ.I....................._JI..............._JI......._J【......_JI..................._J图1传统方法压缩过程显然,这种传统的以奈奎斯特采样定理为准则的高速采样后再压缩的过程浪费了大量的采样资源.例如数码相机具有百万像素的图像传感器,最后却只使用到对图像进行变换压缩后的几百勋yte的数据….近两年兴起的压缩感知理论表明,可以在不丢失逼近原信号所需信息的情况下,用最少的观测次数来采样信号,实现信号的降维处理,即直接对信号进行较少采样得到信号的压缩表示,且不经过进行』v次采样的中间阶段,从而在节约采样和传输成本的情况下,达到了在采样的同时进行压缩的目的.压缩感知理论首先由cand穗…、Ron她d引、Tao[8]和DonohoHo等人在2004年提出,文献直到2006年才发表.Candbs证明了只要信号在某一个正交空间具有稀疏性,就能以较低的频率(J】I,《Ⅳ)采样信号,而且可以以高概率重构该信号.目前国内已经有科研单位的学者对其展开研究。如西安电子科技大学课题组基于该理论提出采用超低速率采样检测超宽带回波信号[儿】.压缩感知理论指出,设长度为Ⅳ的信号X在某组正交基或紧框架甲上的变换系数是稀疏的,如果我们用一个与变换基甲不相关的观测基巾:M×N(M《N)・由清华大学戴琼海教授翻译1072电子对系数向量进行线性变换,并得到观测集合y:M×1.那么就可以利用优化求解方l可压缩信号l法从观测集合中精确或离概率地重构原L—一始信号X.压缩感知理论是一种新的在采样的同时实现压缩目的的理论框架,其压缩采样过程如图2所示。首先,如果信号x∈j∥在某个正交基或紧框架,上是可压缩的,求出变换系数9=叫oX,9是掣的等价或逼近的稀疏表示;第二步,设计一个平稳的、与变换基掣不相关的MxN维的观测矩阵西,对9进行观测得到观测集合y=∞=埘旷.)|f,该过程也可以表示为信号X通过矩阵A岱进行非自适应观测:y=A唿(其中A岱=口妒)。Aa称为Cs信息算子【m1;最后,利用0.范数意义下的优化问题求解x的精确或近似逼近戈:rainll妙xI}os.t.A唿=圳x=y(2)求得的向量j在甲基上的表示最稀疏.压缩感知理论主要涉及以下几个方面的内容:(1)对于信号x∈掣,如何找到某个正交基或紧框架y,使其在甲上的表示是稀疏的,即信号的稀疏表示问题.(2)如何设计一个平稳的、与变换基甲不相关的M×N维的观测矩阵口,保证稀疏向量e从Ⅳ维降维到膨维时重要信息不遭破坏,即信号低速采样问题.(3)如何设计快速重构算法,从线性观测y=A唿中恢复信号,即信号重构问题.下面将从这三个方面介绍压缩感知理论的最新发展.2.2信号的稀疏表示从傅立叶变换到小波变换再到后来兴起的多尺度几何分析(PddgeletE圳,Curvel“川,Bandel“14】,Con.toud015】),科学家们的研究目的均是为了研究如何在不同的函数空间为信号提供一种更加简洁、直接的分析方式,所有这些变换都旨在发掘信号的特征并稀疏表示它,或者说旨在提高信号的非线性函数逼近能力,进一步研究用某空间的一组基表示信号的稀疏程度或分解系数的能量集中程度.文献[4]给出稀疏的数学定义:信号x在正交基甲下的变换系数向量为9=sp'rx,假如对于0<p<2和R>0,这些系数满足:II911,耋(∑旧I9)Ⅳ9≤R(3)则说明系数向量0在某种意义下是稀疏的.文献[1]给出另一种定义:如果变换系数Oi=<x,氍>的支撑域{i:岛≠O}的势小于等于x,则可以说信号X是妊项稀疏.如何找到信号最佳的稀疏域?这是压缩感知理论应用的基础和前提,只有选择合适的基表示信号才能万 方数据学报2009年第一步第二步第三步稀疏变换观嗣得到的^f维向量I堡竺:竺堡lo=甲1Xr;口oIminll、eTXIIos.1一晔r重构信号低速压镭采样:I'=,,ICSX图2压缩感知理论框架保证信号的稀疏度,从而保证信号的恢复精度.在研究信号的稀疏表示时,可以通过变换系数衰减速度来衡量变换基的稀疏表示能力.Cand两和TaoE8]研究表明,满足具有幂次(powevMw)速度衰减的信号,可利用压缩感知理论得到恢复,并且重构误差满足:E=0X—x02≤C・(K/logN)6)一7(4)其中r=1/p一1/2,0<P<1.文献[8]指出光滑信号的Fourier系数、小波系数、有界变差函数的全变差范数、振荡信号的Cabor系数及具有不连续边缘的图像信号的Curvelet系数等都具有足够的稀疏性,可以通过压缩感知理论恢复信号.如何找到或构造适合一类信号的正交基,以求得信号的最稀疏表示,这是一个有待进一步研究的问题.Peyr色把变换基是正交基的条件扩展到了由多个正交基构成的正交基字典¨引.即在某个正交基字典里,自适应地寻找可以逼近某一种信号特征的最优正交基,根据不同的信号寻找最适合信号特性的一个正交基,对信号进行变换以得到最稀疏的信号表示.最近几年,对稀疏表示研究的另一个热点是信号在冗余字典下的稀疏分解.这是一种全新的信号表示理论:用超完备的冗余函数库取代基函数,称之为冗余字典,字典中的元素被称为原子.字典的选择应尽可能好地符合被逼近信号的结构,其构成可以没有任何.从从冗余字典中找到具有最佳线性组合的K项原子来表示一个信号,称作信号的稀疏逼近或高度非线性逼近[17,18|.超完备库下的信号稀疏表示方法最早由Mallat和Zllsjlg[19]=j:21993年首次提出,并引入了匹配追踪(march.mgpursuit,MP)算法.文献以浅显易懂的表达说明了超完备冗余字典对信号表示的必要性,同时还指出字典的构成应尽量符合信号本身所固有的特性【17].目前信号在冗余字典下的稀疏表示的研究集中在两个方面:(1)如何构造一个适合某一类信号的冗余字典;(2)如何设计快速有效的稀疏分解算法.这两个问题也一直是该领域研究的热点,学者们对此已做了一些探索[舢圳,其中,以非相干字典为基础的一系列理论证明得到了进一步改进[17,21,22,捌t】.笔者也对稀疏表示问题进行了认真研究,并基于多组正交基级联而成的冗余字典提出一种新的稀疏分解方法【251.从非线性逼近角度来讲,信号的稀疏逼近包含两第5期石光明:压缩感知理论及其研究进展1073个层面【17,18]:一是根据目标函数从一个给定的基库中挑选好的或最好的基;二是从这个好的基中挑选最佳的K项组合.从冗余字典的构成角度来讲,文献[16]中提出使用局部Cosine基来刻画声音信号的局部频域特性;利用bandlet基来刻画图像中的几何边缘.还可以把其它的具有不同形状的基函数归人字典,如适合刻画纹理的Gabor基、适合刻画轮廓的Curvelet基等等.从稀疏分解算法角度来讲,在音视频信号处理方面,基于贪婪迭代思想的MP(Match吨Pursuit)算法表现出极大的优越性汹],但不是全局最优解.Donoho等人∞J另辟蹊径,提出了基追踪(basispursuit,BP)算法.BP算法具有全局最优的优点,但计算复杂度极高,例如对于长度为8192的信号,采用小波字典分解,等价于求解一个长度为8192"X-212992的线性规划旧J.MP算法虽然收敛速度较BP快,但不具备全局最优性,且计算复杂度仍然很大.之后又出现了一系列同样基于贪婪迭代思想的改进算法,如正交匹配追踪算法(O耐2S.29])。树形匹配追踪(’舳)[列,分段匹配追踪(St0御)算法【31】等.2.3观测矩阵的设计压缩感知理论中,通过变换得到信号的稀疏系数向量9=妒X后,需要设计压缩采样系统的观测部分,它围绕观测矩阵。展开.观测器的设计目的是如何采样得到肘个观测值,并保证从中能重构出长度为Ⅳ的信号x或者基掣下等价的稀疏系数向量@.显然,如果观测过程破坏了x中的信息,重构是不可能的【lo].观测过程实际就是利用MXN观测矩阵口的肘个行向量{访}墨l对稀疏系数向量进行投影,即计算O和各个观测向量{竹}墨I之间的内积,得到肘个观测值乃=<D,竹>(J『=1,2….J|If),记观测向量Y=(Yl’3"2,…,插),即y=∞=OWrX=A叼(5)图3(口)是(5)式的形象描述.这里,采样过程是非自适应的。也就是说,口无须根据信号x而变化,观测的不再是信号的点采样而是信号的更一般的K线性泛函[10J.对于给定的y从式(5)中求出O是一个线性规划问题,但由于M.c:N,即方程的个数少于未知数的个数,这是一个欠定问题,一般来讲无确定解.然而,如果D具有K-项稀疏性(K《肘),则该问题有望求出确定解.此时。只要设法确定出9中的X个非零系数B的合适位置,由于观测向量y是这些非零系数Oi对应少的K个列向量的线性组合,从而可以形成一个M×K的线性方程组来求解这些非零项的具体值.对此,有限等距万 方数据性质(RestrictedIsomettyProperty,aiP)E2mJ给出了存在确定解的充要条件.这个充要条件和Cand爸s、Tao等人提出的稀疏信号在观测矩阵作用下必须保持的几何性质相一致.即,要想使信号完全重构,必须保证观测矩阵不会把两个不同的忌项稀疏信号映射到同一个采样集合中,这就要求从观测矩阵中抽取的每M个列向量构成的矩阵是非奇异的.从中可以看出,问题的关键是如何确定非零系数的位置来构造出一个可解的MxK线性方程组.然而,判断给定的ACS是否具有RIP性质是一个组合复杂度问题【lo】.为了降低问题的复杂度,能否找到一种易于实现RIP条件的替代方法成为构造观测矩阵。的关键.文献[10]指出如果保证观测矩阵口和稀疏基,不相干,则A岱在很大概率上满足RIP性质.不相干是指向量{卿}不能用{%}稀疏表示【2,4,28J.不相干性越强,互相表示时所需的系数越多;反之,相关性则越强。通过选择高斯随机矩阵。作为即可高概率保证不相干性和R/P性质.例如。可以生成多个零均值、方差为1/Ⅳ的随机高斯函数,将它们作为观测矩阵口的元素储,使得A岱以很高的概率具有RIP性质.随机高斯矩阵西具有一个有用的性质[10J:对于一个M×N的随机高斯矩阵口,可以证明当M≥c/flog(N/K)时州‘=Acs在很大概率下具有RIP性质(其中c是一个很小的常数)【2・4∞J.因此可以从M个观测值Y=(Yl,Y2….,yM)中以很高的概率去恢复长度为Ⅳ的尽项稀疏信号.总之,随机高斯矩阵与大多数固定正交基构成的矩阵不相关,这一特性决定了选它作为观测矩阵,其它正交基作为稀疏变换基时,Acs满足RIP性质.为进一步简化观测矩阵o,在某些条件下,以随机±1为元素构成的Rademacher矩阵也可以证明具有RIP性质和普适性【33J.目前,对观测矩阵的研究是压缩感知理论的一个重要方面.在该理论中,对观测矩阵的约束是比较宽松的,Donoho在文献[6]中给出了观测矩阵所必需具备的三个条件,并指出大部分一致分布的随机矩阵都具备这三个条件,均可作为观测矩阵,如:部分Fourier集、部分Hadamard集、一致分布的随机投影(tmiformRandomProjection)集等,这与对RIP性质进行研究得出的结论相一致.但是,使用上述各种观测矩阵进行观测后,都仅仅能保证以很高的概率去恢复信号,而不能保证百分之百地精确重构信号.对于任何稳定的重构算法是否存在一个真实的确定性的观测矩阵仍是一个有待研究的问题.文献[34]则从信息论角度描述了信息论与cs之间的联系.它指出,在模拟系统中,观测噪声也是1074电子刚筹燃销㈣豁烈对信号J进行DcT变换后再进行观测.(6)(口)图的另一种表靠季美象蒙墨袅器㈣囊裴馥祟蓉曩褊磊线性规划问题.兰墨孽睡鬟徽芝曼蹙鬯曼盟:!篁-,翌畏!煦璺堡斐非零大系数,白色表示零系数,浅灰色表示接近0的小系数)J徉线住规划Icu是咀.影响观测次数的重要因素,为说明这一点,作者从信息Tropp和Gilbert提出利用匹配追踪(御)和正交匹论的角度研究了稀疏信号的率失真函数,给出了观测噪声对信号重建效果的影响.2.4信号重构在压缩感知理论中,由于观测数量M远小于信号长度N,因此不得不面对求解欠定方程组y:ACSX的问题.表面上看,求解欠定方程组似乎是无望的,但是,文献[8]和[4]均指出由于信号x是稀疏的或可压缩的,这个前提从根本上改变了问题,使得问题可解,而观测矩阵具有IuP性质也为从M个观测值中精确恢复信号提供了理论保证[10j.为更清晰地描述压缩感知理论的信号重构问题,Donoho等人提出了分段正交匹配追踪(St0州31I,stage・首先定义向量X:{石I,茹2,…,靠}的p.范数为IIx㈦p----∑“㈣1印当p=0时得到O-范数,它实际上表示x中非零项㈤焉裟絮隳裟篡蚕冀善的个数・削,腿),提出了求解最小1.范数大规模问题的方法,适于是,在信号x稀疏或可压缩的前提下,求解欠定方程组y=AcsX的问题转化为最小O・范数问题:nfinli甲1xIlo8.t.ACSx=卯1X=lr(7)但是,它需要列出X中所有非零项位置的c{}种可能的线性组合,才能得到最优解.因此,求解式(7)的数值计算极不稳定而且是NP难问题【10】.注意,这和稀疏分解问题从数学意义上讲是同样的问题.于是稀疏分解的已有算法可以应用到Cs重构中.Chen,Donoho和Saundem指出啪J,求解一个更加简单的zl优化问题会产生同等的解(要求口和甲不相关):rainII妒XIll8.t.A唿=口妒X=Y(8)万 方数据学报2009仨稍微的差别使得问题变成了一个凸优化问题,于是司以方便地化简为线性规划问题,典型算法代表:B一2-4】算法.尽管BP算法可行,但在实际应用中存在两个问题[5】:第一,即使是常见的图像尺寸,算法的计算复杂度也难以忍受,在采样点个数满足肘≥cK,c—l092(MK+I)时,重构计算复杂度的量级在0(N3);第二,由于1.范数无法区分稀疏系数尺度的位置,所以尽管整体上重构信号在欧氏距离上逼近原信号,但存在低尺度能量搬移到了高尺度的现象,从而容易出现一些人工效应,如一维信号会在高频出现振荡.基于上述问题,2005年1月Cand萌和Romberg提出箍馨耋淼嚣嬲滋淼麓差妻馨了不同的信号恢复方法[5J,该方法要求对原信号具有明望特性,以约束重构信号的特性.通过在凸集上交替投影(ProjectionsontoConvexsets)ffl方法[35J,可以快速求“一’…”一。配追踪(OMP)算法来求解优化问题重构信号,大大提高了计算的速度,且易于实现.树形匹配追踪(TMP)算法啪1是2005年La和NDo提出的.该方法针对BP、MP和0脚方法没有考虑信号的多尺度分解时稀疏信号在各子带位置的关系,将稀疏系数的树型结构加以利用,进一步提升了重构信号的精度和求解的速度.匹配追踪类算法都是基于贪婪迭代算法,以多于BP算法需要的采样数目换取计算复杂度的降低.例如0肿算法,需要肘≥旅,c*2lrI(Ⅳ)个采样点数才能以较高的概率恢复信号,信号重构的计算复杂度为0(NK2).2006年wiseO御)算法・它将0船进行一定程度的简化,以逼近裂(0pe眦0r.Split吨)算子和同伦算子(HomotopyAlgo.用于求解纠错编码、磁共振成像、NMR波谱研究等领域的大规模问题.在上述各种方法中,观测矩阵中的所有值都非零,这样信号采样过程的计算量是0(MN),在大规模的数据面前,这个量级还是非常大的.因此一类利用稀疏矩阵作为观测矩阵进行采样的方法出现了.com毗[竹3等人,提出利用分组测试和随机子集选取来估计稀疏信号的非零系数的位置和取值,该方法需要的采样数为M=0(阳《N),信号重构的计算复杂度为0(Ⅺo矿Ⅳ),得到重构信号的速度更快.Gdbelt[堑】等人在2006年4月提出了链式追踪(cP,QlainiI】gPumuit)方法来恢复可压缩信号.利用第5期石光明:压缩感知理论及其研究进展1075o(Xqo孑N)个采样观测重构信号,需要计算量为o(朋。孑NIo孑K),该方法对特别稀疏信号的恢复计算性能较高,但当信号的稀疏度减少,需要的采样点数会迅速增加,甚至超过信号本身的长度,这就失去了压缩采样的意义.总之,目前为止出现的重构算法都可归人以下三大类[剪】:(1)贪婪追踪算法:这类方法是通过每次迭代时选择一个局部最优解来逐步逼近原始信号.这些算法包括l旧算法,OMP算法汹】,分段OMP算法(STOMP)[3t]和正则化OMP(ROMP)算法[40,4tJ.(2)凸松弛法:这类方法通过将非凸问题转化为凸问题求解找到信号的逼近,如BP算法,内点法【2m],梯度投影方法【铂J和迭代阈值法[441.(3)组合算法:这类方法要求信号的采样支持通过分组测试快速重建,如傅立叶采样[45,46],链式追踪[鹞]和HHS(HeavgHittersOilSteroids)追踪旧J等.可以看出,每种算法都有其固有的缺点.凸松弛法重构信号所需的观测次数最少,但往往计算负担很重.贪婪追踪算法在运行时间和采样效率上都位于另两类算法之间.由上面的分析可知,重构算法和所需的观测次数密切相关.当前,压缩感知理论的信号重构问题的研究主要集中在如何构造稳定的、计算复杂度较低的、对观测数量要求较少的重构算法来精确地恢复原信号.3压缩感知理论推广及其应用3.1信号在冗余字典上的压缩感知理论在压缩感知理论中,信号越稀疏,恢复信号就越准确.而对于具有复杂特征的信号如自然图像、声音信号来说,固定的正交基有时不足以捕获信号的多种特征,使图像在变换域足够稀疏.例如,正交小波变换由于缺乏平移旋转不变性而不能有效压缩几何图像[引.目前对于压缩感知理论的研究还大多集中在固定的正交基空间.压缩感知理论的一个重要前提要找到信号的稀疏域,它直接关系到压缩感知的重构精度.对于信号的稀疏表示问题,大量的研究表明超完备冗余字典下的信号稀疏表示更加有效,而这方面的研究也有了一定的进展.于是,能否将压缩感知理论中的稀疏表示从固定的正交基扩展到冗余字典,引起了人们巨大的研究兴趣旧J.文献[49]表明如果信号在冗余字典而不是正交基下稀疏.且某些类型的随机矩阵和确定性的字典组合而成的矩阵具有很小的有限等距常量(满足RIP性质),则在冗余字典下稀疏的信号就可以通过BP算法从少量的随机观测值中恢复出来.该文献还指出将稀疏变换y替换为冗余字典之后,在保持信号万 方数据在冗余字典上的稀疏特性的条件下,现有的大多数重构算法(如BP和0徊)仍然适用,并进一步对可用于信号重建的阈值法和BP及OMP算法作了实验对比分析.显然,采用冗余字典之后,可以增强信号的稀疏性,进而可以以更高的概率从更少的观测中恢复信号.当然,另一方面由于冗余字典中的原子数量一般情况下都很大,如稀疏表示声音信号的复杂成分或自然图像中的几何特征都需要大量的原子,故基于冗余字典的压缩感知理论在理论上寻优的稳定性问题及计算复杂度高的问题,还有待进一步深入地研究.3.2信息采样理论(Analog.to-Information)尽管压缩感知理论提出之初针对的是离散的数字信号,但是人们立刻注意到了它在由模拟信号向数字信息转换过程中的巨大作用.不仅如此。有些学者还提出了基于压缩感知理论的模拟信号的直接信息采样方法旧谁J,也就是所谓的模拟.信息采样(A.to-i)理论.文速采样器,开发出一套实用的模拟.信息转换器(埘os-献[52]基于压缩感知理论,利用宽带伪随机解调器和低to-InformationConverter,AIC)的设计框架,实验表明该AIC框架对大多数可压缩信号均是有效的,如图4所示.量化器p酗)图41s21AIC设计方案目前,对Analog-to-Information的研究仍处在起步阶段,它涉及到了滤波器设计[50,51】、电路实现[52]等多方面的内容.3.3压缩感知理论初步应用直接信息采样特性使得压缩感知理论具有巨大的吸引力和应用前景,随之出现的是相关的理论完善和实践成果.应用研究已经涉及到众多领域,如:cs雷达[s3J、Dcs(DistributedCompressedSe璐ing)理论【54J、无线传感网络【别、图像采集设备的开发[矧、医学图像处理[引、生物传感[训、Analog-to-Information[卯・5¨、光谱分析[圳、超谱图像处理[印]及遥感图像处理C61]等.在成像方面,压缩感知理论的出现激起了人们研究新型传感器的热情,压缩感知采样对昂贵的成像器件的设计产生重大影响.在地震勘探成像和核磁共振成像中,对目标信号将有望采用少量的随机观测次数就能获得高精度重构[配,∞1;取代传统数码相机拍照时采集大量像素的一种新型单像素釜相机已经得到论证[剐.美国Rice大学也已经研制出“单像素相机[56,矾]”,如图5.该相机是一种全新的相机结构,使用数字微镜阵列(DigitalMicromirmrArray)完成图像在伪随1076电子机二值模型上的线性投影的光学计算.它可利用单一的信号光子检测器采样得到比图像像素点数少得多的点恢复得到一幅图像。并具有对图像波长自适应的能力,这种自适应能力是传统的CCD和CMOS成像器件所不具备的.圈5【矧单像秉CS相机在宽带无线频率信号分析中,由于目前A/D转换器技术的,可以用远低于奈奎斯特采样频率的速率采集信号£引.在x射线和生物医学中,可以通过采集远少于未知像素点数的观测样本来获取感兴趣的图像图从少量的观测样本中,例如几十种来推断成千上万在压缩感知理论中,信号的恢复质量与观测的样提出了基于CompressedSensing框架的多描述编码方法L僻J,取得了良好效果.p.范数优化问题压缩感知理论在图像压缩编码等方面也应该有很意义下,数据之间还有很大的冗余性没有去除,相比传problem),对它的研究将推动压缩的优化问题,其中有很多数学问题有待解决.有关P范OumrandE回]用典型的合成数据做了一些实验,表明在一(restrictedison嘭try)。由于有了严格的约束,完全适合于以及将p范数非凸函数转换为近似凸函数优化等方万 方数据学报2009年能减少信号的冗余.该思路正在研究之中.4.2含噪信号的恢复算法在实际工程应用中,待处理信号一般都不同程度地受到各种噪声的污染.含噪信号不是严格的稀疏信号,但是仍属于可压缩信号.现有的压缩感知理论中,恢复信号的最基本依据是信号在某个变换空间的分解系数是稀疏的,而噪声的存在则破坏了信号在空间中的稀疏性.在使用优化方法恢复信号时,如果对含噪信号采用单一的稀疏性约束原则,则无法有效恢复原始稀疏信号.这时,压缩感知理论仍然可以采用其它有效的恢复信号的方法,主要的不同之处在于恢复过程所使用的优化目标函数的形式不同,参数的设置不同.不同的优化目标函数使得信号的恢复效果也不尽相同.文献[6]提出,在噪声分布已知的情况,沿用BP方法对噪声的抑制方法,即CSDN方法,修改其约束条件,minIIxIIls.t.|JAX—l,02≤仃(9)当已知信号的稀疏程度(1一范数大小)时,则可以采用LASSO方法来对信号进行有效恢复[71】:rainlIAX—ylI28.t.}fx¨≤f(10)当对信号和噪声都是未知时,文献[43]把寻找稀疏勰问题归结为带约束二次规划(BSQP)问题,并提出了利用梯度投影(GP)算法来有效求解.rain|lAX—yI|2+A||x01(11)上述各种情况的不同的参数设定之间有着紧密的联系,它们之间的对应关系在文献[72]中给出了详尽的分析.上述提到的信号恢复方法对信号稀疏度都采用1一范数的约束条件.FOCUSS方法[73,74]把此约束条件扩展到矿范数(0<p<1),可见上述各方法都是Fo.CUSS的一种特例.贪婪算法[筠・丛・31t40,41,75,76】也是常用的恢复信号方法之一,不过对于同样的恢复效果,此类方法通常要比BP方法所需的观测样本多.上述各算法中,不同之处在于对于信号稀疏性采用了不同的约束形式,而对噪声的抑制所有方法都采用2.范数的约束形式.由于2.范数不能体现信号的稀疏性,恢复得到的信号的稀疏度无法精确达到真正的无噪信号的稀疏度,这时恢复信号的系数幅度无法达到真正信号系数幅度值.这就是在压缩感知理论中恢复含噪信号时普遍存在的现象——幅度损失.这种情况是现有恢复方法中的一个难点问题.在含噪信号的恢复方法中,由于噪声对算法的影响,使得对含噪信号的恢复在信噪比较低时(低于15dB)效果都欠佳.4.3观测矩阵与恢复性能关系前面提到,观测矩阵与稀疏变换基的不相干特性是压缩感知理论具有良好性能的基础.由于随机高斯分布的观测矩阵具有与其它固定基都不相关的特性而信息旧瑚J.基因表达研究也开始使用压缩感知理论,试种基因的表达旧J.本数在某个区间内存在正比关系,利用这一特性,笔者4研究的公开问题4.1广泛的前景,但由于信号的恢复方法是建立在1.范数统的小波变换编码,压缩感知理论应用于图像压缩的效果还不理想.p-范数的优化是提高基于压缩感知理论的压缩算法效果的必经之路.P范数的优化方法是—个公开问题(open感知理论在压缩方面的应用,具有很深远的意义.1.范数意义下的优化问题是一个凸函数优化问题,目前已有一些成熟的算法,但p-范数的优化是一个非凸函数数非凸函数优化问题,也有一些学者开展研究.如Rick定的稀疏误差范围内,可以得到最小值.在文献[70]中,他进一步给出了变换基空间内的系数严格的等距条件大多数实际的信号.笔者期望通过借用自然优化计算法,提出一种新的求解p.范数范数的优化问题,以实现在p.范数意义下的压缩感知理论的信号恢复,最大可第5期石光明:压缩感知理论及其研究进展1077被广泛采用.但在实际的应用中,这种观测矩阵存在存储矩阵元素容量巨大、计算复杂度高的缺点mj.文献[77]提出一种部分傅立叶变换采样的方法.它首先对信号进行傅立叶变换再对变换系数进行随机抽取.这种随机抽取使得各观测值具有随机不相关的特性.由于变换时可以采用快速算法而使得计算量大大降低.但由于傅立叶基仅与在空域稀疏的信号不相干,故这种观测矩阵的应用范围受到很大的.此外,采用随机滤波器滤波178J也是一种有效的观测方法,不过目前仍缺乏理论基础,也缺少对其性能的详细分析.文献[79]将伪高斯矩阵和部分傅立叶方法巧妙的结合在一起,提出了一种结构化的随机观测矩阵设计方法,这种观测矩阵具有与所有基不相干的特性,同时也有较快的计算速度.总结以上的工作可以得出如下结论:观测矩阵的随机不相关特性是正确恢复信号的一个充分条件,观测矩阵和信号的高度不相干是有效恢复信号的保证.但是,现在仍然无法确定随机不相关特性是否是最优恢复信号的必要条件,这仍是一个公开问题.另外,如何衡量观测矩阵的不相干特性,以及它们与恢复性能之间的关系也是一个尚未解决的问题.另外。自适应的观测矩阵设计也是观测矩阵设计的一个重要方面,在众多有关压缩感知理论的文献中,大部分的观测矩阵都是预先设计好的,不需要根据观测信号而自适应变化.实际上,如果能够进行自适应的观测,压缩感知的压缩性能可以得到进一步的提高.在文献[80]中,作者用]]ayes估计的观点对压缩感知做出了一种全新的解释.在文献中,压缩感知的解的可信度可以通过微分熵来衡量,这样在已有观测的基础上,下一次最优的观测向量应该使问题解的微分熵下降最快,它可以由已有的观测向量和观测值唯一确定.而且。幸运的是这一特性在编码端和解码端是同样的.由于对观测矩阵的最优化设计,BayesianCS与使用普通的随机观测矩阵相比,在同等观测次数的情况下,性能得到了很大的提高.当然这也付出了一定的代价,计算最优观测向量需要很大的计算量,所以能够简捷有效地确定最优观测向量仍是这方面的一个有待解决的问题.4.4分布式压缩感知理论(DistributedCompressedSensing。DCS)目前,针对单个信号的压缩感知的研究和应用已经开展得比较深入,但是对分布式信号的处理仍然研究得不够.例如,对于一个包含大量传感器节点的传感器网络,每个传感器都会采集大量的数据,这些数据将会传输到一个控制中心,也会在各个节点之问传输.显万 方数据然,在这种分布式传感器网络中,数据传输对功耗和带宽的需求非常大,那么,如何对分布式信号进行压缩以减少通信压力成为非常紧迫的需求.2006年,Haupt和Nowak将压缩感知理论应用到多个信号的环境中旧¨,然而他们的方法仅研究了多个信号的互相关性,却没有考虑单个信号的内相关性.Baron等人在压缩感知理论的基础上提出了分布式压缩感知(DCS)[54],进一步扩展了压缩感知理论的应用,将单信号的压缩采样扩展到了信号群的压缩采样,它着重研究如何利用信号内相关性和互相关性对多个信号进行联合重构.这种联合重构的重要意义在于,相对于压缩感知,分布式压缩感知可节约相当可观的观测数目.文献[54]中的实验结果表明对于两个相关的信号可节约的观测数目大约为30%.DCS理论建立在一个称之为信号群的“联合稀疏(JsM)”概念上.它指出,如果多个信号都在某个基下稀疏,并且这些信号彼此有关,那么每个信号都能够通过利用另一个不相关基(例如一个随机矩阵)进行观测和编码,得到远少于信号长度的编码.将每个编码后的少量数据传输到解码端,那么在适当的条件(如JSM.1)下,解码端利用接收到的少量数据就能够精确重建每一个信号.文献[54]系统地阐述了DCS理论及其应用,提出了相应的压缩感知方法及恢复算法,并采用稀疏的随机投影矩阵作为观测矩阵,详细分析了分布式压缩感知理论的观测过程,而文献[82]则从重构误差估计的角度对分布式压缩感知理论进行了研究.DCS理论为分布式信号的处理提供了新的方法,目前的热点和难点主要集中在如何将其应用到各种复杂的实际传感器网络中.在某种意义上,DCS是一种分布式信源压缩的框架,它在很长时间内都将是一个具有挑战性的公开难题.5总结与展望压缩感知理论利用了信号的稀疏特性,将原来基于奈奎斯特采样定理的信号采样过程转化为基于优化计算恢复信号的观测过程.也就是利用长时间积分换取采样频率的降低,省去了高速采样过程中获得大批冗余数据然后再舍去大部分无用数据的中间过程,从而有效缓解了高速采样实现的压力,减少了处理、存储和传输的成本,使得用低成本的传感器将模拟信息转化为数字信息成为可能.这种新的采样理论将可能成为将采样和压缩过程合二为一的方法的理论基础.本文对压缩感知理论框架的全过程进行了描述,详细阐述了压缩感知理论所涉及的关键技术,综述了国内外研究成果、存在的公开问题及最新的相关理论1078电子扩展,如冗余字典下的压缩感知理论、模拟.信息理论、分布式压缩感知理论等.并对其中的问题进行了概括性讨论.压缩感知理论的研究已经有了一些成果,但是仍然存在大量的阅题需要研究.概括为以下几个方面:(1)对于稳定的重构算法是否存在一个最优的确定性的观测矩阵;(2)如何构造稳定的、计算复杂度较低的、对观测次数较少的重构算法来精确地恢复可压缩信号;(3)如何找到一种有效且快速的稀疏分解算法是冗余字典下的压缩感知理论的难点所在;(4)如何设计有效的软硬件来应用压缩感知理论解决大量的实际问题,这方面的研究还远远不够;(5)对于p_范数优化问题的求解研究还远远不够;(6)含噪信号或采样过程中引入噪声时的信号重构问题也是难点所在,研究结果尚不理想.此外,压缩感知理论与信号处理其它领域的融合也远不够,如信号检测、特征提取等.cs理论与机器学习旧j等领域的内在联系方面的研究工作已经开始.压缩感知理论是新诞生的,虽然还有许多问题待研究,但它是对传统信号处理的一个极好的补充和完善,是一种具有强大生命力的理论,其研究成果可能对信号处理等领域产生重大影响.致谢:感谢与焦李成教授、戴琼海教授进行的有益讨论,感谢他们对本文提出的宝贵建议!参考文献:[1]ECandb.Cc和删vc鲫啦[A].1'roccedingsofnlcIMIcI'-nationalo湖乒啷ofMat删ciansrC].Madrid,spain,2006,3:1433一1452.[2]EC曲,JR,Inberg,TerenceTao.R0bIl或m日maimy咖-pies:Exactsig衄lrecomtn卜etionfromMghlyincomplete丘e-quencyi皿formation【J].固匪Tram,∞Information脚,2006,51(z):489-509.[3]ECalx懿andJRomberg.QuanfilalJverobust咖∞咖prin-ciplesandoiximaUysp留sedeeomt戚tiom[J].F|跚球laI幻监ofCx,n椰Math,加06,6(2):227-254.[4]DLliota"rheory.2006,52(4):1289-1306.JaDonoho.cc粕p11嚣sed蛐ing[J].珊匝Tram.011Candb,J黜曲berg.Practicalnuel/粼ery.r,dfInforma-[5]Esigmafromrandompfojectiolls[OLJ.http://www.acm.ealteela.edu/一锄・[6]Dm,Tsaig.E咖菌∞s,recoveryLDonollo,Yof∞蜘牟酬靶逝[J].sigmlna。essing.2006,86(3):533-548.[7]BKashin."hiewidthsofcertainlinitedimemiomlsetsandclIIsS盥of皿lDclhfunetioos[J].1zvAkadNaukSSSR.1977,41(2):334-351.[8]EJC_an懿andT‰.Near倒signalrecoveryfromran-万 方数据学报2009年doraprojections:Universalencodingstrategies[JJ.IEEETram.1slfo,Ttle田.2006,52(12)=5406-5425.[9]焦李成,谭山.图像的多尺度几何分析:回顾和展望[J].电子学报.2003。31(12A):1975.1981.JiaoI.i-cheng,TanShah.DevelolmleutaridproslJeCtofnmltiscale蓼a触analysis[J].ActaimageSinicaEll矧l-oDiea,2003,31(12A):1975.1981.(inaline)[10]RB越'aniuk,Alecture011c0叫髓ssive蚓估吨[J].哑Sig・[11]GI啪啦驯,JiehalProcessingMaga血,2007,24(4):118-121.Lin,XuyangCllen,FeiQi,D-dllhuaI.iuandLi弛,UWBeelaosignaJdetectiotiwitIlultra-lowratesamplingbasedOil佣皿碑删鸵啦[J].IEEETram.OnCii谢tsandSystems-II:E)【pfI磷Briefs,2008,55(4):379-383.【12]Card。SEJ.Ridgelets..1lleoryandapplicatiom[D],Stanford:StanfordUniversity.1998.[13]ECaI娥,DLDonoho.Curvelets[R].USA.Del,attm即tof¥翻slics,St龇fordUniversity.1999.[14]ELPennee,SMallat.Imagec0哪耽ssi∞withgeometricalwavelets[A].n∞.ofIEEEImm血onalC【)lll研∞∞OllIra-age啤Society,2000.1:661—664.Processing,ICIP’2000[c].Vancotwer,BC:哑COln-[15]Do,MirthN,Vetterti,Martin.Contourlets:A蜘directionali皿dliresolulionimageR珥嚣a删饥[A].CoRferetlOeoftheAsiloll'l缸Confcl'en∞onSignals,SystemsandQ咧一Recorde幅【C].Pac心G啪ve,CA,UnitedStates:IEEEC【肋呻盯Society.2002.1:497-501,[16]G脚葩.Bc艟Basisc0叫删sensingEJ].Leet哦Notesin‘hT咖Science,2007,4485:80-91.[17]张春梅,尹忠科,肖明霞.基于冗余字典的信号超完备表示与稀疏分解[J].科学通报,2006,51(6):628-633.硼Claunmei,Y'm动咄,ChtmXiaIIgaong,XiaoMingx—ia.Signalovercomplete畔ntalionandsparse出以mposi—tionbased册redlmdantdictionaries[J].ChineseScienceBul.1etin.2005,50(23):2672.2677.[18]VTemlyakov.NonlinearMethodsofA阳蕊jmatioll[R].IMIRcse.越hRt,r吣,D咂ofMa妇℃ma五∞,UniversityofSouthCarolina.2001.01・09.[19]stio豳[J].皿TramMallat,ZZha,g.Matchingpursuitswith血》缸quenc)7die-signetProcess,1993,4t(12):3397.3415.[20]DLD【础,xHuo.UncertaintyprinciplesalldidealIltOnlicd。。a唧雌m∞s[JJ.IEEETramInform1nb∞g,2001,47(7):2秘5-2862.[21]MElad,AM13ruck逝in.Ageneralizedu懈釉j时—面出andsparserel311删atiollin碑i巧ofbas嚣EJ].IEEETram111-formn∞fy.2002,48(9):2558-2567.[22]AF晰,ANemimvsky.Otainba蝴[J].IEEETramInform.11啪,2003,49(6):1579-sparsercl:rcsenl埘onpairsof第5期石光明:压缩感知理论及其研究进展10791581.[23]JATropp.GreedIsGood:AlgorithmicResttltsforSparseAp-proximation[J].IEEETransactions011InformationTheory,2004.50(10):2231.2242.[24]Rbsses[J].皿TransactionsGribonval,MNielsen.Sparsedecompositions.munionsofOnInformationm脚哆。2003,49(12):3320-3325.[25]刘丹华,石光明,周佳社。一种冗余字典下的信号稀疏分解新方法[J].西安电子科技大学学报(自然科学版),2008,35(2):22&232。LiuDanlmatShiYmshe.啦wm削for茁g・halspal鬻ckx:on'删fion0I衄理啦,21-oaoveraredundamdictiomry【J].Jotlr・IlalofXidianUniversity,2008,35(2):228-232.(iIlChinese)[26]RNeff,AZakhor.Verylowbitratevid。o00diIlgbased011matchingptirsuits[J].IEEETransac'nom011CireuiBandsys-tomsforVideoTeclmoiogy,1997,7(1):158—171.[27]SS01en,DLDonc蛔,andMASalalde稻.At,Olllicdecompo-sifionbybasisIJUrsuit[J].SIAMRenew,2001,43(1):129-159.[28]JATroppandACGilbert.SignalRecoveryfromPartialIn-.formationbyOrtllogonalMatchingPursuit[OL3.April2005,www-personal.tnnieh.edu/一jtropp/papers/TG05-Signal-Re・covery.pdf.[29]SMall毗著.杨力华,戴遭清,黄文良,等译.信号处理的小波导引(第二版)[M].北京:机械工业出版社.2002.【30]CLa,MNDo.Signal他硼咖蜘∞usingsparsetreerepre-seraati∞[Aj.脚00∞din轳ofSPIE【Cj.SanDiego,CA,Umt—edStates:IraemafionalSocietyforopticalE11|gi帕袖g.2005.5914:1-儿.【31]DLDonoho,YTsaig,IDrorietc.Sparsesolu妇ofurderde・retrainedlineari坪lalJonsbystagewiseorthogonalmatchingp1.1/砌t【RJ.TechnicalRelx,rt,2006.[32]ECaIK璐.The职寝Iic扯disa卿Irolmlyforcc删p酬sensing[JJ.Acadb面eanditsimplicationsdessciences,2006,346(I):598—592.[33]RGBaraniuk,MDaventⅪrt,RDeVoteetc.TheJohnson-Lin—denswa峨lermlameetsasp.rice.训酬虹v03.pdf.c0蜘pfessedsensing[OLj.1卸://Sarvotham,DBaron,RGBamnitIk.^自豳岛豫咖bvs.bits:Compressed∞ⅡsiI唱meetsthe呵y[A].InProc.AUertonCollf跏Oll㈨eafion,0删andinformationComput.mg[c].MonficeUo,IL,2006.1419-1423.MBm伊n锄.Themethodofsuccessiveprojecdonforfind.iIlgacomlTlOllpointofconvexsets[j].DokladyMa吐啊n面cs。1965,(6):68:8-692.m酬forTHale,WTYin,Y地.AFlxed-r,ointcontinualJOllL1-regularizatio.withal节ficatiolltOc0卿艚昭酣s邸ing[RJ.RiceUmversityCAAMTechnicalReport,TR07,2a昕.万 方数据[37]GCormodeandSMuthukrishmn.Towardsallalgorithnlictheolyofcompressed鲫1s呜[R].DIMACSTeeh.Report2005—25,September2005.[38]ACGilbert,MJStrauss,JATropp,ere.Algorithmiclineardimensionhttp://www.math.uedavis.odu/一w稻吣『11in/pa酬岭reduclJOllinthenOiilaforsparsevectors[OLJ.fithmic-dim-reduetion.pdF[39]DNeedeH,JATropp.CoSaMP:Iterativesigna]recoveryfromincompleteandinacctr眦sar,lpIcs[JJ.Ar,plCompHa.tlnoDicAnal,2009,26(3):301—321.[40]DNeedeu,Rvershynin.signalrecoveryfromincompleteandinaccuratemeasurementsvia砧哥lla蝴orthogorlalmatchingpursuit[OL].http://wv,w.math.ucdavis.edu/%7Evershynin/pape刚RI哦仍咖bil畸.pdf.[41]DNeedeH,RV懿hyran.UniformⅧ妇mainIyprincipleand蓟gnal【OLJ.http://www.mafia.ucdavis.edll/一Ⅵ邪蝎血n/pa删recoveryvia陀目daIizedolltlogonaimatchingpulpitROMP.pdf.【42]SJKirn,KKoh,MLustig,etc.C,orinevsky.Amethodforlarge-scale-IegulalJzedleast-squares【J].IEEEJournal011Se-iecledTopicsillsigmJR0c嘲,2007,4(1):606-617.【43]MATFigueiredo,RDNowak,SJWright.GradientIrojee—fionforsparsemc0啦灯Ⅸ:妇:AppficaliontOc(舡甲把ssedSells-ingandotherinverser,rot,imls[JJ.JournalofSelectedTol,icsinSignalPn耽ssing:speeialIssueOilCollveX0p喇伽MethodsforSignall'rocessing,2007,1(4):586-598.[44jID'aubecNes,MDefrise,CDeMOI.Anitl奠ativethresholdi,lgalgoritlmforlinearreversepfob忙ms谢ttlasparsi妙c0幅向m[J].Comm.Pure铆I.Maltl.,2004,57(11):1413・1457.【45]ACGilbert,SGuha,PIndyk,etc.Near-optimalsparseFOtltiel"代p略沿Ilta五。啮viasampling[A].ProceedingsoftheAnnualACMSym嘲um∞田le0叮ofQ和脚[C].Montreal,Que.Ca/lad-a:Associa石onforComputingrC蛾hi.ery.2002.152.161.[46]ACGilbert,SMuthulaishnan,MJStrauss.Im印ved血旭boundsfornear-or,timalsparseFoarieriepresentadon【AJ.ProceedingsofSPIE,WaveletsXI[C].BellillghamWA:In-temationalSocietyforopticalEngine咖.2005,5914:1-15.[47】ACGi/bert,MJSlrauss,JATropp,da1.Onesketchforall:Fastalgorithmsforc0皿珥酬sensing【AJ.1'roceed峰of血e39thArⅡ砒alACMsymposi姗011TheoryofComtmling[C].NewYork:Associatio【lforComputingMachiner.2007.237.Z46.[48]HRauhut,KSctms,PVandergheynst.C(柚pI_essedsensingandrodundantdictionaries[J].IEEETransactionsOtlInforma-tionTheory,2008,54(5):2210-2219.[49]SSarvoll'lam,DBaron,andRG.Baraniuk.(h印蒯f,ellS-iDg糟c0碰灯眦妇Iviabeficfpropagation[RJ.TechnicalreportECE-06-01.1k*.partmentofElectricaland《b嘲脚E119i豫盯・[34]S[35]L[36]E电子i丑g,RiceUniversity,埘.2006.[50]SKirolos,JLaska,M.Wakin啦.Analog-to-infonmtioncon-version哑Dallasviarandomden'lodu]蚯oll[A].n∞∞din擎of恤Cir嘶.'tsandSystemsWorkshop(I)CAS)[C].Dallas.Texas.2006.[51]JLaska,SKirolos,YMassotidere.&111d0Ⅱlsamptingforaria-log-to-inf口TnaaoDconversionofwidebandsimats[A].Pro-ceeclingsofthe哑DallasCircuitsandSystemsWorkshop(IX:AS’06)[C].Dallas,Texas,2006.[52]Jof锄analog-to-informati∞eoQvert既"啦randomLaska。SKirolos,MDu疵dc.咖andimplememadootioQ【Aj.R∞∞din笋of妞磁Int.Symp.011d既Ⅸ)dllla-CircuitsandSystems(母巴蟠)[C].PiⅨzataway・InstituteofElectricalandE1ectrOllJCSEr|曲戡稿Inc.2007.1959-1962.[53]Slahattacharya,TBlumematla,BMulgrew啦.Fastencodingofsynlheticapertureradarr捌datausingco如弘删辩啦【A].衄匝WorkshopMadison,Wisconsin。200r7.似52.011StatisticalsignalPn)ce=ssi呜[C].[54]D鲫[1siIlg【0L】.http://删.dsp.rice.edu/一droeo/ixlf/Barola,MBWakin,MDuarte,咖.Distfilmmto嘎珈x删DCSll2(X}5.pdf。【55JWBajwa,Jnaupt,ASayeed,etc.Cc和pn冀商vewirelesss即s-ing[A].Pro,:e,xtingsofthefifthIntemafiotlalG叩fe嗽011InformationPtoeessiIlginSensorNetworks,IPSN’06[C].NewYork:Assl3cialJOIlforCc哪她Ivl.扯hinery.2006.134-142.[56]DTaklⅢ,JLaska,MWakin,ctc.Am!’Ⅳc0蜘删vei衄giDgc昌叮螂阻architectureusingo砸c止d【m幽C011/131'1划011[A].PIDc∞diI簪ofsem[c].Bellinghamw|A:lIltefI碰咖IalSoei-[57]M蛐,Detyfor0pticalEngiI啦.2006,6065.LDonoho,JMPauly.冽MRImagingwith‘b叫瓢秘edSe嘣ngandRandomlyUnder-Sampled3DFrTr咏jct|0fi器【AJ.脚∞暇Iin萨ofthe14tla.AnnualrvleetingofIsN氓MlCJ.Seattle,WA.2006.[58]Mona乒硎粥蛹ngSheikh,O]gicaMilenkovie,RichardBaraniuk.Coln-峨.rice.洲cs/圆岫咖嘲.pdf.DNAmieroarrays[OL].http.//www.dsp.[59]P曲∞璐咖[A].皿虹。Conf.011Borgnat。PFlandrin."r'lmc-frequency10cal伽加from秘Pr,x:es她(ICASSP)[C].眺way・InstituteAI:a碰cs,Speech,andsignalofElectricalandEl∞mmicsEngineersIne.。2008.3785・37鹤.[60]RWlllett,MGehm,Dforcomtmtationalspe,删imaging[A].r'roeeedingsandTBelling栅:SPIE.20cr7.649踯L.Imaging-删omlBrady.Multi.w.ale地ccm啦mctionofSPIE-ISE蛔I'ollicItmOngV[C].[61]Jm铆咖e咖for呲朔1siDg【0LJ.ToWMa,FXLDimet.De,lurringfromhighlyincompleteTram.G∞截岫andllpW.arin田匝Pamaotesensing.http://www.clsp.雠.riee。edu/cs/CS—Deolurring.pdf。万 方数据学报2009矩[62]FJHerrmann,GH即∞渤t.Non--paraln商cseimaicdatareeovea3rwitheurvelet缸嗍[R].UBCFaith&OceanSci—a踯Depam伽TechnicalH即姗,DRqⅪnTR-200"/一1,2007.[63]FJWang,GI-lellne血cllt出.Cutvelet-based∞枷cdatapfoc器sillg:araulfiscaleandnonlin脚approa-eh[J].Geophysic.2006,73(1):A1-A5.[64]DTakhar,VBamal,MWakin,出.Ac0衄pfessed∞llsil坞eamm:NewtheoryandIUlimplementationusingaigital向-cromirr∞[A].SPIEElectronicIlllaging!ComputationalImaging【C].SanJose.2006.[65]ttJung,JCYe,EYKiln.Imtxovedk-tBlaskandk-tSenseusing融.ussrJ].1弛ysiesinMedicineandBiology.2007,52:320l一3226.【66]MLustig,JMSantos,DLDonoho,cte.K-tspalio-唰spa培itySPARSE:Higllframer眦由删珊泌Millexploiting【AJ.琢∞∞凼ngsofthe14thAnnualMeetingofISMRM[C].Seattle,Washington,2006.2420-2443.[67]MASheikh,0Milenkovic,RGBaraniuk.C(皿pfl嚣s。dsons.ing哪TREEDNAmicre啪ys[RJ.RiceF.L-'EDepartn伽Technical0706,May2007.[醴]Lian西tmWang,XiaolinWu,Guanm她Shi.A∞∞弘璐醯vesensingapl剪oachofmultipledeseriptiomfornetworkmulti-mediaconnnunication[A].IEEEWorkshopMullime.diasignalProc咖[C].IEEElOtla011Press,2008,445—449.[69JRChar昀nd.Nonconvexcompressedsensingandell'orCOI'TCc-tion[A]。PIu∞ec曲眵oftheIEEEh∞啦,ICASSP’07[C].Intemalional0跚髓璁噼011Acollsl缸¥,SpeechandSignalPiscataway:InstituleofElectricalandElectromesE11咖Ir,c.2007,3:889-892.[70]RC11allrand.ExactRecl311Slnl甜OllofSpan汜SignalsviaNon—COll'VeX.Minillli/.ation[J]。IEEESignalProcessingLette8。2007,14(10):707-710.[71]RTibshir枷.1RJegressionshrinkageandselectionviathelassorJ].TheJournaloftheRoyalStatisticalSociety,SeriesB,1996,58(1):267.288.[72]Ev锄denBerg,MPFriedlander.InpUl谢tofaroot[OL].htttD://www.optimizatioaodim.org/DB—FILE/2007/06/1708.pdf.[73]IF删tsky,BDRao.Spa№signall'eCOll,qll'UctiOllfromlimiteddata曲gR30JSS:Are-weightedD01.mnlilliil3iT皿ollalgorithm[J].IEEETransactionsOnsignalPr,x摊ing,1997,45(3):600-616.[74]BDRao,KF.ngan,sFCottef,啦.Subsetseleeti∞innoisebasedOildiversitytiom011sigmlPr∞啦,2003,51(3):760-770.m圈双啦miniIlli撕oll[J].IEEETramae.[75]JATroppandACGill蹩rt.sig,1alrecoveryfromrandom衄钢麻以魑via叫h090nal皿尬崦put'型lit[J].衄匝Tramactiom011hfformadonTheoEy,2007。53(12):4655—46156.第5期石光明:压缩感知理论及其研究进展1081[76]SpolynomialsⅡ一0ItIl删matchingK.nis,HRaIlbm.Random鞠皿pliI唱ofni5吨IIllI删0Ⅷ.pdf.suit[OL].http://嘲e.univie.∞.at/lnlger.捌lbl吐/Ku—sperse仃igc日咖枷cpursuitV哪basispur-[77]EJCandes,J黜咖.Spers时and垴。0I珂即∞incomptes-菇vesamNngEJ].Inve稻eProblems.2007,23(3):969-985.[78]JATropp,MBWakin,MFDuarte,etc.Randomfiltersforcx30lp蒯vethe皿Internationalsamptingand联舶湖lcti∞[A].ProceedingsConferenoBonAc0嘶.SpeechofandSignalElec-在'icaland日∞嘶勘学壕蕊lnc.2006.3:872-875.Proc啦(ICAssP)[C].Piscataway:Instituteof[791TTDo,TD.Tran,LCan.FastCOlIggesdyesamplingwithslmclm-allyrandomn3atrces[OLJ.Imp://www.dsp.∞e.rice.edu/cs/FastCSl4.pdf。[80]SJi,YXue,LCarin.BayesiancofnI臌sivcsensingO].IEEETransactionsSignaln_o∞ssing,2008,56(6):2346-2356.[81]Jprojec吐onsIJ].哑T洲ODBHaut,t,RNowak.Signalre--oilfromnosyrandomInformationIleory,2006,52(9):4036-4048.[82]WWang,MCrawfalakis,KRamchan&an.Disuibutedsperserandomprojectionsforrefimbleapproxim-mion[A].pr∞∞d.in擎oftheSensorNetwoAs,(踟00r7)[C].NewSixthInternationalSymp商umonInformationPro-cessmginYork:As-[83]J忡,AsociatiOllforoⅪ1p咖ingMa:hinery,2007.331・339.Yang,AGanesh,etc.Robustfacerecognitionvia万 方数据sparse代pf岱吼l伽册[J].IEEETransactions∞PatternAnaly.sisandMachineInlenlgence,2009,31(2):201—227.作者简介:石光明男,1965年生于江西南昌,教授,博士生导师.现任中国教育部实验教学指导委员会委员;中国电子学会高级会员;西安电子科技大学电子工程学院教学副院长;国家工科电工电子基地主任/国家级电工电子实验示范中心主任;校学科带头人.主要研究方向:多速率滤波器组与小波理论及其应用、智能信号与信息处理、图像的压缩与编码、图像匹配与识别、航空电子系统与图像处理、数字滤波器与数字系统设计与应用以及智能信号处理算法的实现技术(DSP&F甲GA)等.刘丹华女,1978年生于河南西华.现为西安电子科技大学在读博士研究生.研究方向:智能信号与信息处理、图像处理.Enid:抽.flu@mail.fidian.edu.∞膏大化男,1979年生于河南省开封,空军工程大学讲师,现为西安电子科技大学在读博士研究生.主要研究方向:智能信号与信息处理.图像处理.