-
摘要: 为了提高推扫式航天遥感相机的动态范围,对TDI-CCD(Time Delay Integration-Charge Coupled Device)的全色谱段和多光谱谱段积分级数的特殊设置方法、相应图像的插值与融合方法进行研究。首先,介绍了常见的TDI-CCD的像元尺寸和谱段构成等参数,以及现有高分辨率多谱段融合图像的获取方法,分析了常规的积分级数设置规律。接着,提出在提高全色谱段的积分级数,降低多光谱谱段积分级数的情形下,分别获取各个谱段的灰度数据,为提高相机的动态范围提供原始数据。最后,针对性地提出了图像的融合、插值算法,可以得到高动态范围、高分辨率的全色图像。实验和计算结果表明:该方法能够有效提高相机的动态范围,当P谱段积分级数提高2倍,全色谱段降低为原来的1/4时,最终获取的融合图像动态范围可以提高18.06 dB。基本满足应用单排TDI CCD提高推扫式航天遥感相机动态范围的要求。Abstract: In order to increase the dynamic range of push-broom remote sensing cameras, we investigate the special setup of TDI stages of panchromatic and multispectral bands and study the interpolation method and the image fusion method of according images. Firstly, parameters, including common pixel size and bands of TDI CCD image sensors, and the present methods for obtaining high-resolution fused images are introduced. The traditional strategies for TDI stages' setup are analyzed. Secondly, raw data for high dynamic range(HDR) images are obtained by increasing the value of the panchromatic band's TDI stages and decreasing the value of multispectral band's TDI stages. Finally, the unique fusion and interpolation algorithm is proposed and high-dynamic-range and high-resolution gray images can be obtained. The calculation and experimental results indicate that this method can effectively improve the dynamic range of push-broom cameras. Meanwhile, the dynamic range of final fusion images can be improved by 18.06 dB when the TDI stages of the panchromatic band are multiplied by 2 and the TDI stages of multispectral bands are decreased by 1/4. The method proposed in this paper can successfully extend the dynamic range of push-broom remote sensing cameras.
-
Key words:
- TDI-CCD /
- TDI stage /
- push-broom remote sensing cameras /
- dynamic range
-
1. 引言
国内外现有高分辨率航天遥感相机多为推扫式航天遥感相机[1-2],其动态范围一般不大于80 dB,无法满足实际场景的远大于100 dB动态范围的要求。目前,提高相机动态范围的方法主要有4类:(1)针对同一场景进行多次不同量的曝光,获取多幅不同曝光量的图像,再将它们融合为一幅新的高动态范围的图像,这是较为经典的办法。这类方法于1997年由Paul E.D., Jitendra M.首次提出[3],2003年至2005年,Robertson M.A.,Szeliski R.,Goshtasby A.A.等人针对该技术做了进一步的探索和完善[4-6]。该方法主要针对同一静态场景进行动态范围拓展,由于推扫式航天遥感相机难以在较短的时间内对同一场景进行多次曝光,该方法不适用于该场合。(2)薛旭成等人提出在推扫式航天遥感相机上应用双排TDI CCD(Time Delay Integration-Charge Coupled Device),对同一场景成两幅或多幅积分级数不同的图像,再通过图像融合算法获取高动态范围遥感图像[7]。周继权[8]等人提出基于相机阵列的高动态范围图像合成方法也是同样的原理,可以应用于动态变化的场景。该类方法可以有效提高相机的动态范围,但是由于成本、功耗、重量、光学设计等问题,在航天领域的工程应用价值比较低。(3)吕涛、吕伟振等人提出利用数字微镜获取高动态范围图像[9-10],但是考虑到技术和产品的性能[11-13]、成熟度、可靠性等因素,目前难以应用到航天相机领域。(4)Wu Sun等人提出采用面阵CMOS,并应用数字TDI技术,设置2个高低不同的数字积分级数,针对同一场景可以获取2幅不同曝光量的图像,再通过融合算法获取高动态范围遥感图像[14]。该技术简单易行,可在不改变现有光机设计、不增加成本的前提下有效提高动态范围,但是该技术只能在新研制的遥感相机中应用,对现有遥感相机需要需要进行硬件改造。
本文提出了一种特殊的TDI-CCD积分级数设置方法:通过设置较低的P谱段积分级数,配合较高的多光谱谱段积分级数,提高动态范围。具体做法是:通过多谱段图像融合获取一幅低积分级数全色图像;该图像经过上采样后,与高积分级数、高分辨率全色图像融合,以获得一幅高动态范围、高分辨率的全色遥感图像。该方法可以作为一种特殊的高动态范围成像模式,广泛应用于推扫式多光谱航天遥感相机中。
2. 积分级数设置及动态范围拓展方法
为实现推扫式多光谱遥感相机的动态范围拓展,可结合TDI-CCD的像元尺寸、谱段分布等特点,将P谱段积分级数调高、B谱段积分级数调低,以分别获取长、短曝光时间的图像,再通过图像融合获取高动态范围的图像。
2.1 推扫式多光谱遥感相机
推扫式多光谱遥感相机常采用TDI-CCD作为探测器,将光信号转换为数字图像信号。TDI-CCD中分为全色谱段(记作P谱段)和多光谱谱段(统称为B谱段,分别记作B1, B2, B3, B4, …, Bn谱段)。一般而言,P谱段地面像元分辨率为δp,B谱段地面像元分辨率为δb。表 1列出了几颗常见商业高分辨率遥感卫星的探测器像元尺寸。一般而言,δb是δp的k倍,k为整数。B谱段图像中第i行第j列的像元Bi,j对应k× k个全色图像的像元。与同一光学系统配合使用时,像元尺寸与地面像元分辨率成正比,Bx(x≤n)谱段图像像元与P谱段图像像元的对应关系如图 1所示。
表 1 商业高分辨率遥感卫星地面像元分辨率Table 1. Ground pixel resolution of commercial high-resolution remote sensing satellites(nadir)卫星 P谱段地面像元分辨率δp/m B谱段地面像元分辨率δb/m δb/δp IKONOS 1 4 4 SPOT5 5 10 2 QUICKBIRD 0.61 2.44 4 ALOS 2.5 10 4 KOMPSAT 1 4 4 WorldView-3 0.31 1.24 4 Beijing-1 4 32 8 各个谱段可以分别获取一幅图像,由于P谱段与B谱段地面像元尺寸大小不同,一般来说,P谱段可以获取高分辨率的图像,B1, B2, B3, B4, …, Bn谱段可以分别获取各自波长范围的较低分辨率的图像。通过全色图像与多光谱图像的融合,可以获取高分辨率彩色或假彩色图像。
2.2 特殊积分级数设置方法及相应动态范围
常规的遥感相机在设置积分级数时,仅考虑信噪比这一参数,一般选择满足TDI CCD不饱和的最大积分级数[15]。
为了获取长短曝光的遥感图像,进一步达到动态范围拓展的目的,本文提出一种新的积分级数设置方法,将各谱段积分级数设置偏离原有最佳数值:P谱段积分级数从原值MP调高μ1倍至NMP;B1, B2, B3, B4, …, Bn各谱段积分级数从原值MB1,MB2,MB3,MB4,…,MBn,调低μ2倍至NMB1,NMB2,NMB3,NMB4,…, NMBn。
P谱段直接成像,得到一幅全色图像,记作ΓP。B谱段多幅图像融合成一幅全色灰度图像ΓB,插值后记作ΓBIN。在完成积分级数调整,提高ΓP的曝光量,降低ΓB的曝光量之后,将ΓP和ΓBIN融合在一起,可以获取一幅高动态范围的全色图像Γ。
新旧积分级数设置的关系如公式(1)~(2)所示。
(1) (2) 其中x=1, 2, 3, …, n,μ1>1, 0<μ2<1。
在原积分级数下,P谱段和B谱段单个像元的曝光量为E0。改变积分级数后,全色谱段的曝光量变为
(3) 多光谱谱段曝光量变为
(4) 探测器原有动态范围是:
(5) 其中,E指探测器可探测到的曝光量大小。
积分级数调整之后,考虑到曝光量与积分级数成正比,拓展得到的新的动态范围为:
(6) 进而可知,动态范围拓展量为:
(7) 由式(7)可知,当μ1=2, μ2=0.25的时候,动态范围提高量为18.06 dB。
3. 融合与插值算法
3.1 多谱段图像融合算法
观察各多光谱遥感卫星图像可知,各谱段图像的相关性很强,在多光谱图像数据集合中,存在相当多的信息冗余[16]。主成分分析算法(Principal Component Analysis, PCA)是一种统计分析方法,主要用于减少数据的维数[17-21]。在遥感领域,其常被用于多光谱与全色谱段图像融合:一般是将配准后的多光谱图像ΓB1,ΓB2,ΓB3,…,ΓBn,作为输入,经过PCA变换后,得到PC1,PC2,PC3,…, PCn共n个主成分,这些主成分对应n个从大到小的特征值γ1,γ2,γ3,…,γn。选取前3个主成分,用经过直方图匹配的全色谱段、高分辨率图像替换PCA变换结果中的第一主成分,然后再进行PCA反变换,得到高分辨率彩色图像的RGB成分。
主成分分析算法过程中,第一主成分图像包含了各输入谱段中的相同信息,而独特的光谱信息则体现在其它输出成分中[16]。各主成分分量对方差的贡献大小可以用各自对应的特征值来表示,从PC1到PCn逐渐减小。以特征值为权重,由各个主成分分量的加权平均值得到一幅灰度图像,该图像既包含了各个谱段的信息,又避免了信息冗余,与全色谱段的图像最为接近。
Γ1,Γ2,Γ3,…,Γn分别对应PC1,PC2,PC3,…, PCn共n个主成分,其像元灰度值可用Γ1(x, y),Γ2(x, y),Γ3(x, y),…,Γn(x, y)表示。
经过PCA变换后的融合过程可以用公式(8)表示:
(8) 3.2 图像插值方法
对ΓB进行插值可以获取全色、高分辨率、长曝光量的遥感图像ΓBIN。
现有的各种插值方法,包括最近邻域法、双线性内插法和立方卷积内插法等方法,都是基于周边像元的灰度值进行推断的。本文提出充分利用对应区域内高积分级数、高分辨率全色谱段图像ΓP的像素分布特点,对ΓB进行插值得到ΓBIN。
根据图 1所示的像元对应关系,与一个B谱段图像像元Bi,j所对应的是k×k个P谱段图像像元,利用这k×k个P谱段图像像元的灰度值比例关系估算插值后的B谱段k×k个像元的像素值,具体可以表示为:
(9) 3.3 高、低积分级数图像融合方法
根据公式(1)~(4)对现有各谱段积分级数关系的描述,可以将ΓBIN的像元灰度值γ1(x, y)和ΓP的像元灰度值γ2(x, y)按照以下方式进行融合:
由于
(10) 一般有
(11) 满量程灰度值表示为:
(12) 在高积分级数图像中,较暗区域显示比较清晰,低积分级数图像较亮区域显示比较清晰,为充分利用上述特征,可以作以下融合,得到高动态范围图像ΓHDR各像元灰度值γHDR(x, y)的表达式:
(13) 4. 实验与结果
4.1 图像采集
选取一台TDI CCD相机进行成像实验。首先将TDI CCD积分级数分别按照表 2第一组、第二组数据设置,获取相应图像并配准。
表 2 两组积分级数设置Table 2. Two groups of TDI stages谱段 第一组积分级数 第二组积分级数 P 32 64 B1 24 6 B2 12 3 B3 12 3 B4 24 6 B5 12 3 B6 24 6 B7 12 3 B8 24 6 按照第一组积分级数设置,成像并配准后的P谱段图像为ΓP0,如图 2(a)所示;按照第二组积分级数设置,成像并配准后的P谱段图像为ΓP,如图 2(b)所示,B谱段图像ΓB1,ΓB2,ΓB3,…,ΓB8如图 3所示。
4.2 多光谱图像的融合与上采样
将ΓB1,ΓB2,ΓB3,…,ΓB8作为输入,进行PCA变换,得到8个主成分分量,并按照3.1节中的方法得到融合后的低积分级数、低分辨率的灰度图像ΓB,如图 4所示。
利用公式(9)对ΓB进行上采样,得到新的低积分级数、高分辨率的灰度图像ΓBIN,如图 5所示。
4.3 高动态范围图像获取
依据公式(13)将低积分级数、高分辨率的图像ΓBIN与高积分级数、高分辨率图像ΓP进行融合,得到新的高动态范围、高分辨率灰度图像ΓHDR,如图 6所示。
为了获取更好的显示效果,可以对灰度进行调整,使之更符合人眼的视觉特性,达到图像增强的目的[22-23]。对ΓHDR进行灰度调整,得到Γadjust,如图 7所示。
比较ΓBIN、ΓP和Γadjust,尤其是椭圆圈出的部分可以看出,ΓBIN中的较亮区域细节较为清晰,ΓP较暗区域细节较为清晰,而在高动态范围图像ΓHDR中,这两个区域的细节均可以较好地观察到。
显然,由于μ1=2, μ2=0.25,由公式(7)可得动态范围拓展量为18.06 dB。
5. 结论
根据推扫式航天遥感相机一般采用单排多谱段TDI CCD探测器,相机与场景之间存在高速相对运动的特点,本文提出了通过设置特殊积分级数提高相机动态范围的方法,并介绍了应用PCA变换实现多光谱图像到全色图像的融合方法,以及根据高分辨率全色谱段图像实现低分辨率图像上采样的方法。
实验与计算结果表明:该方法能有效提高推扫式航天遥感相机的动态范围,所获取的HDR图像能够涵盖比原图像更大的动态范围。当P谱段积分级数提高为原来的2倍,B谱段积分级数降低到原有积分级数的1/4时,动态范围可以提高18.06 dB。与常规遥感相机成像方法相比,利用该方法进行动态范围拓展时,遥感图像处理的时间复杂度有所增加,但图像处理的工作可完全在地面实现,即可以在不增加相机硬件成本、不改变原有光机结构的前提下,实现推扫式TDI CCD航天遥感相机动态范围拓展的目的,具有较高的工程应用价值。
-
表 1 商业高分辨率遥感卫星地面像元分辨率
Table 1. Ground pixel resolution of commercial high-resolution remote sensing satellites(nadir)
卫星 P谱段地面像元分辨率δp/m B谱段地面像元分辨率δb/m δb/δp IKONOS 1 4 4 SPOT5 5 10 2 QUICKBIRD 0.61 2.44 4 ALOS 2.5 10 4 KOMPSAT 1 4 4 WorldView-3 0.31 1.24 4 Beijing-1 4 32 8 表 2 两组积分级数设置
Table 2. Two groups of TDI stages
谱段 第一组积分级数 第二组积分级数 P 32 64 B1 24 6 B2 12 3 B3 12 3 B4 24 6 B5 12 3 B6 24 6 B7 12 3 B8 24 6 -
[1] 宣明, 王家骐.长春光机所航天光学遥感器研制基地建设进展[J].中国光学, 2015, 8(1):1-16. http://www.chineseoptics.net.cn/CN/abstract/abstract9258.shtmlXUAN M, WANG J Q. Current status of space remote sensing equipments research base in CIOMP[J]. Chinese Optics, 2015, 8(1):1-16.(in Chinese) http://www.chineseoptics.net.cn/CN/abstract/abstract9258.shtml [2] 巩盾.空间遥感测绘光学系统研究综述[J].中国光学, 2015, 8(5):714-724. http://www.chineseoptics.net.cn/CN/abstract/abstract9339.shtmlGONG D. Review on mapping space remote sensor optical system[J]. Chinese Optics, 2015, 8(5):714-724.(in Chinese) http://www.chineseoptics.net.cn/CN/abstract/abstract9339.shtml [3] DEBEVEC P E, MALIK J. Recovering high dynamic range radiance maps from photographs[C]. Proceedings of the 24th Annual Conference on Computer Graphics and Interactive Techniques, ACM Press, 1997: 369-378. [4] ROBERTSON M A, BORMAN S, STEVENSON R L. Estimation-theoretic approach to dynamic range enhancement using multiple exposures[J]. Journal of Electronic Imaging, 2003, 12(2):219-228. doi: 10.1117/1.1557695 [5] SZELISKI R. System and process for improving the uniformity of the exposure and tone of a digital image: US, 6687400[P]. 2004-02-03. [6] GOSHTASBY A A. Fusion of multi-exposure images[J]. Image and Vision Computing, 2005, 23(6):611-618. doi: 10.1016/j.imavis.2005.02.004 [7] 薛旭成, 韩诚山, 薛栋林, 等.应用双排TDI CCD提高空间推扫遥感相机动态范围[J].光学 精密工程, 2012, 20(12):2791-2795. http://d.old.wanfangdata.com.cn/Periodical/gxjmgc201212028XUE X CH, HAN CH SH, XUE D L, et al.. Increasing dynamic range of space push-broom remote sensing camera by two-row TDI CCD[J]. Opt. Precision Eng., 2012, 20(12):2791-2795.(in Chinese) http://d.old.wanfangdata.com.cn/Periodical/gxjmgc201212028 [8] 周继权, 王庆.基于相机阵列的高动态范围图像合成方法[J].计算机应用研究, 2013, 30(9):2858-2860, 2864. doi: 10.3969/j.issn.1001-3695.2013.09.076ZHOU J Q, WANG Q. Camera array-based HDR image synthesis method[J]. Application Research of Computers, 2013, 30(9):2858-2860, 2864.(in Chinese) doi: 10.3969/j.issn.1001-3695.2013.09.076 [9] 吕涛, 付东辉, 陈小云, 等.利用DMD获取高动态范围图像技术[J].中国光学, 2015, 8(4):644-650. http://www.chineseoptics.net.cn/CN/abstract/abstract9289.shtmlLV T, FU D H, CHEN X Y, et al.. High dynamic range imaging technology using DMD[J]. Chinese Optics, 2015, 8(4):644-650.(in Chinese) http://www.chineseoptics.net.cn/CN/abstract/abstract9289.shtml [10] 吕伟振, 刘伟奇, 魏忠伦, 等.基于DMD的高动态范围成像光学系统设计[J].红外与激光工程, 2014, 43(4):1167-1171. doi: 10.3969/j.issn.1007-2276.2014.04.026LV W ZH, LIU W Q, WEI ZH L, et al.. Design of high dynamic range imaging optical system based on DMD[J]. Infrared and Laser Engineering, 2014, 43(4):1167-1171.(in Chinese) doi: 10.3969/j.issn.1007-2276.2014.04.026 [11] 张锐, 潘明忠, 杨晋, 等.基于数字微镜器件的中阶梯光栅光谱仪的光学系统设计[J].光学 精密工程, 2017, 25(12):2994-3000. http://d.old.wanfangdata.com.cn/Periodical/gxjmgc201712003ZHANG R, PAN M ZH, YANG J, et al.. Optical system of echelle spectrometer based on DMD[J]. Opt. Precision Eng., 2017, 25(12):2994-3000.(in Chinese) http://d.old.wanfangdata.com.cn/Periodical/gxjmgc201712003 [12] JIN D, ZHOU R J, YAQOOB Z, et al.. Dynamic spatial filtering using a digital micromirror device for high-speed optical diffraction tomography[J]. Optics Express, 2018, 26(1):428-437. doi: 10.1364/OE.26.000428 [13] TURTAEV S, LEITE I T, MITCHELL K J, et al.. Comparison of kinematic liquid-crystal and DMD based spatial light modulation in complex photonics[J]. Optics Express, 2017, 25(24):29874-29884. doi: 10.1364/OE.25.029874 [14] SUN W, HAN CH SH, XUE X CH, et al.. An HDR imaging method with DTDI technology for push-broom cameras[J]. Photonic Sensors, 2018, 8(1):34-42. doi: 10.1007/s13320-017-0448-7 [15] 吕恒毅, 刘杨, 薛旭成.遥感相机中时间延时积分电荷耦合器件积分级数的最优选择[J].光子学报, 2012, 41(6):642-648. http://d.old.wanfangdata.com.cn/Periodical/gzxb201206003LV H Y, LIU Y, XUE X CH. Selecting the optimal integral grade for TDI CCD in remote sensing cameras[J]. Acta Photonica Sinica, 2012, 41(6):642-648.(in Chinese) http://d.old.wanfangdata.com.cn/Periodical/gzxb201206003 [16] 那彦, 焦李成.基于多分辨分析理论的图像融合方法[M].西安:西安电子科技大学出版社, 2007.NA Y, JIAO L CH. Image Fusion Method Based on Multiresolution Theory[M]. Xi'an:Xidian University Press, 2007.(in Chinese) [17] 周胜明, 张玉叶, 王春歆.基于图像特征提取的脱机手写数字识别方法[J].光学与光电技术, 2016, 14(5):43-47. http://d.old.wanfangdata.com.cn/Periodical/gxygdjs201605010ZHOU SH M, ZHANG Y Y, WANG CH X. An off-line handwritten numeral recognition method combined with the statistical characteristics and structural features[J]. Optics & Optoelectronic Technology, 2016, 14(5):43-47.(in Chinese) http://d.old.wanfangdata.com.cn/Periodical/gxygdjs201605010 [18] 严军, 王典洪.基于支持向量机的舰船图像识别[J].光学与光电技术, 2004, 2(4):54-57. doi: 10.3969/j.issn.1672-3392.2004.04.018YAN J, WANG D H. Warship image recognition based on support vector machine[J]. Optics & Optoelectronic Technology, 2004, 2(4):54-57.(in Chinese) doi: 10.3969/j.issn.1672-3392.2004.04.018 [19] 田云翔, 武江龙, 田小林.鲁棒主成份分析与IHS变换相结合的卫星图像融合[J].光学 精密工程, 2015, 23(10):504-508. http://d.old.wanfangdata.com.cn/Conference/8796487TIAN Y X, WU J L, TIAN X L. Satellite image fusion using RPCA combined IHS transform[J]. Opt. Precision Eng., 2015, 23(10):504-508.(in Chinese) http://d.old.wanfangdata.com.cn/Conference/8796487 [20] 高向东, 蓝重洲, 陈子琴, 等.焊接缺陷磁光成像动态检测与识别[J].光学 精密工程, 2017, 25(5):1135-1141. http://d.old.wanfangdata.com.cn/Periodical/gxjmgc201705003GAO X D, LAN CH ZH, CHEN Z Q, et al.. Dynamic detection and recognition of welded defects based on magneto-optical imaging[J]. Opt. Precision Eng., 2017, 25(5):1135-1141.(in Chinese) http://d.old.wanfangdata.com.cn/Periodical/gxjmgc201705003 [21] 刘志强, 尹建芹, 张玲, 等.基于Kinect数据主成分分析的人体动作识别[J].光学 精密工程, 2015, 23(10):702-711. http://d.old.wanfangdata.com.cn/Conference/8796540LIU ZH Q, YIN J Q, ZHANG L, et al.. Human action recognition based on Kinect data principal component analysis[J]. Opt. Precision Eng., 2015, 23(10):702-711.(in Chinese) http://d.old.wanfangdata.com.cn/Conference/8796540 [22] 陈莹, 朱明.多子直方图均衡微光图像增强及FPGA实现[J].中国光学, 2014, 7(2):225-233. http://www.chineseoptics.net.cn/CN/abstract/abstract9121.shtmlCHEN Y, ZHU M. Multiple sub-histogram equalization low light level image enhancement and realization on FPGA[J]. Chinese Optics, 2014, 7(2):225-233.(in Chinese) http://www.chineseoptics.net.cn/CN/abstract/abstract9121.shtml [23] SU N, ZHANG Y, TIAN SH, et al.. Object-based illumination normalization for multi-temporal satellite images in urban area[J]. Proceedings of SPIE, 2016, 9976:99760Q. 期刊类型引用(4)
1. 童鑫,钟兴,曲友阳,李文涛,李冬瑞. 光学卫星等比降地速的地影区主动推扫姿态规划. 宇航学报. 2023(11): 1746-1756 . 百度学术
2. 赵同爽,张激扬,王英广,樊亚洪,罗睿智. 磁悬浮旋转关节建模及解耦控制方法研究. 空间控制技术与应用. 2022(02): 71-79 . 百度学术
3. 李轶庭,王灵杰,张玉慧,刘铭鑫. 天基平台宽谱段成像光学系统设计. 中国光学. 2021(06): 1495-1503 . 百度学术
4. 朱军,李永昌,白照广,陆春玲,付凯林,茅歆白,张璐. 低轨高分辨率遥感卫星姿态机动对月定标方法. 光学精密工程. 2020(09): 1913-1923 . 百度学术
其他类型引用(2)
-