光学仪器  2022, Vol. 44 Issue (4): 87-94   PDF    
低采样关联成像研究现状及发展
赵全超1, 杨祯明1, 陈旭1, 王春芳1, 张大伟2     
1. 上海理工大学 理学院,上海 200093;
2. 上海理工大学 光电信息与计算机工程学院,上海 200093
摘要: 关联成像是一种基于光场二阶或高阶关联的主动间接成像技术,具有灵敏度高、抗干扰能力强等特点,在生物医学成像、遥感成像、海洋探测等领域有着重要的利用价值。然而,关联成像过程中对采样数的要求导致采样时间长、成像速度慢。如何在低采样的情况下获得高质量的图像重构依旧是关联成像在实际应用中需要解决的问题之一。详细阐述了关联成像的原理并介绍了近几年低采样关联成像的进展情况,如以深度学习为主的计算关联成像的理论及实验研究成果,并对关联成像的应用进行了总结和展望。
关键词: 关联成像    低采样    压缩感知    深度学习    成像质量    
Research status and development of low sampling ghost imaging
ZHAO Quanchao1, YANG Zhenming1, CHEN Xu1, WANG Chunfang1, ZHANG Dawei2     
1. College of Science, University of Shanghai for Science and Technology, Shanghai 200093, China;
2. School of Optical-Electrical and Computer Engineering, University of Shanghai for Science and Technology, Shanghai 200093, China
Abstract: Ghost imaging is an active indirect imaging technology based on second-order or high-order correlation of light field. It has the characteristics of high sensitivity and strong anti-interference ability, and has important application value in biomedical imaging, remote sensing imaging, ocean detection and other fields. However, the sampling time is long and the imaging speed is slow due to the requirement of sampling number in the process of ghost imaging. Achieving high quality image reconstruction under the condition of low sampling is still one of the problems that need to be solved in the practical application of ghost imaging. In addition to the detailed description of the principle of ghost imaging, this paper introduces the progress of low-sampling ghost imaging in recent years, such as the theoretical and experimental results of deep learning-based computational ghost imaging, and summarizes and prospects the application of ghost imaging.
Key words: ghost imaging    low sampling    compressive sensing    deep learning    image quality    
引 言

传统光学成像是基于光场一阶性质的被动直接成像技术,利用阵列探测器直接记录物体表面的光强分布。关联成像是一种基于光场二阶或高阶关联的主动间接成像技术。关联成像使用的是桶探测器(单像素探测器),可以在微弱的回波条件下进行成像[1-3],同时,关联成像可实现无透镜成像,能够在X光[4-5],红外[6-7],太赫兹(THz)[8-9]等一些难以成像的波段进行成像。因此,关联成像一经提出,便引起了众多学者的兴趣。1988年,Pittman等[10]基于自发参量下转换过程中产生的信号光子对和空闲光子对的量子性质,提出了关联成像实验方案。2002年,Bennink等[11]利用经典光源证明了量子纠缠源不是实现关联成像的必要条件。此后,关联成像作为一种新型的成像技术,在军事领域得到了广泛的研究和应用。此外,与传统光学成像相比,关联成像的成像质量可以通过多次测量来抑制与使用光源无关的其他噪声的方法得到提高[12-13]。但由于传统的二阶关联成像算法受限于奈奎斯特采样定理的极限,为突破奈奎斯特采样定理的极限,使得关联成像在低采样率下依旧能重构出高质量图像,研究者将传统二阶关联成像算法与新的理论方法相结合,提出一些新的关联成像算法。本文总结了近年来关于低采样关联成像的研究进展,将这些研究成果分为两部分:第一部分通过优化光源的调制方式来降低采样率;第二部分通过优化关联成像算法来降低采样率。

1 关联成像原理

关联成像,又叫鬼成像,是一种使用光源照射物体的主动成像技术。从光场强度涨落理论来探讨关联成像原理[14-15]。在实际应用中,可使用旋转的毛玻璃产生相干光源。由于探测器在测量过程中记录的是一定时间内对光强的积分结果,只有当积分时间小于光场相干时间,探测器才能记录光场的强度涨落,而自然光源的相干时间非常短,现存的探测器响应时间太长,只能记录几个光场强度涨落的平均。旋转的毛玻璃产生的相干光相干时间长,通过这种方式产生的光源被称为赝热光。赝热光的制备比较简单,因此赝热光关联成像在相当长的时间内得到了广泛应用。

图1所示,关联成像系统具有两条光路:一条为参考光路,即光经过空间自由传播被具有空间分辨能力的探测器记录为 $ {I_1}(r,t) $ ;另一条为测试光路,经过待测物体的光强被桶探测器收集为 $ {I_2}(t) $ 。物体的图像可以经过两个探测器采集的数据进行强度关联得到,即

图 1 赝热光关联成像示意图 Figure 1 Schematic diagram of pseudothermal light associated imaging
$ G(r) = \frac{{\left\langle {{I_1}(r,t){I_2}(t)} \right\rangle }}{{\left\langle {{I_1}(r,t)} \right\rangle \left\langle {{I_2}(t)} \right\rangle }} $ (1)

式中: $\left\langle \; \right\rangle$ 为时域上的系综平均; $ {I_1}(r,t) $ t时刻阵列探测器记录的光场强度分布; $ {I_2}(t) $ t时刻桶探测器记录的通过物体的总光强值。

关联成像质量与系统的采样数有关,采样数越多重构出的图像信噪比越高。但在很多的应用场景中,无法进行多次测量,如运动物体成像、遥感成像、显微成像等。如何在低采样率的情况下重构出高质量的图像成为亟待解决的问题。

2 低采样关联成像的发展

采样次数决定着关联成像的效率与质量。在实际应用中,数据的采集量与成像质量形成矛盾。如运动物体的成像问题,目标的快速运动决定了无法保证充足的采样数量及时间。根据近几年的研究结果,该问题的解决主要有以下两个方面。

2.1 光源的调制

在关联成像中,同等采样情况下,可以通过改变散斑的调制方式有效地获取物体信息,以此来降低成像所需的采样数。2013年,中国科学院上海光学精密机械研究所韩申生研究员基于物体不同复杂程度提出了一种利用多尺度相关构造高效测量矩阵的方法[16]。测量矩阵的横向相关尺度通常是恒定的,横向相关尺度大于物体细节尺寸则无法成像,横向相关尺度小于物体细节尺寸则增加成像所需采样数。多尺度相关即利用大小混合散斑去照明物体,相同图像信噪比的情况下,使用大小混合散斑比使用普通散斑采样次数要更少。2017年,Glasgow大学的Miles小组受动物凹形视觉启发,利用高分辨率的中心凹区域跟踪场景中的运动物体,牺牲视场边缘区域的图像分辨率,提高了中心视场的图像分辨率[17],该方法消除了许多动态场景的时空冗余。2017 年,北京航空航天大学的孙鸣捷等基于传统的压缩感知技术,提出了另一种压缩感知方法[18],用俄罗斯娃娃排序的方法对Hadamard基重新排序,在离散增量下,获得了不同空间分辨率的完整采样。如图2所示,这种压缩方法与其他压缩感知技术一样,可将采样率降至6%。

图 2 压缩单像素成像的Hadamard基的俄罗斯娃娃排序[18] Figure 2 Compressed single pixel imaging of Hadamard-based Russian doll sorting[18]

2019年,北京理工大学的余文凯研究小组基于散斑与图像重建之间的内在联系,提出了一种确定性折纸图案构造的光源调制方法[19]。如图3所示,该方法可以获得更精确的散斑排序序列,将采样率大幅降低。2019年,该研究小组采取蛋糕切割策略提出另一种光源调制方法[20],把测量矩阵看作一个蛋糕,每个连通域视为蛋糕的一块,按照升序的方式对测量矩阵的连通域数量进行排序。该方法能够在超亚奈奎斯特采样下重构出高质量的图像,显著缩短采集时间。2020年, 葡萄牙科英布拉大学的Vaz等研究了Hadamard基的自然排序、Walsh排序、蛋糕切割排序、高频排序及随机排序对图像重建质量的影响[21]。结果表明,Walsh和蛋糕切割排序在采样率为30%的情况下可实现图像的高质量重建;当采样率降为10%时,这两种排序方式所得到的结果略有不同。2020年,重庆大学的杨帆研究小组在降低采样率和提高图像重构质量方面,也提出了不同排序的Hadamard基模式[22],取得采样率为5%时的重构结果。2021年,深圳大学的焦述铭研究小组提出自适应动态确定照明模式顺序的方法[23]。自然图像在其频谱中的低频分量由其空间域的平滑区域决定,高频分量由细节区域决定。为平衡低频分量与高频分量的优先级,在迭代中将记录的桶光强与训练图像的平均光谱进行对比并对下一次迭代的照明模式进行最佳排序。该方法使重构图像所需采样数进一步降低。

图 3 折纸图案构造的方法[19] Figure 3 The method of origami pattern construction[19]
2.2 成像算法

作为一种新型的主动间接成像技术,重构算法对关联成像系统的性能同样有着重要的作用。先进的算法可以让关联成像重构图像所依赖的采样数大幅减少。关联成像的成像算法可分为3种。

1)基于强度关联的成像算法。研究人员在强度关联的基础上对成像算法进行不断优化,以降低成像所需的采样次数。2010年,诺布里亚大学的Ferri等提出了差分鬼成像(DGI)[24],将物体的传输函数修改为平均传输函数,提高关联成像对强度波动的敏感度,有效降低了采样率。在同等条件下,和传统鬼成像(GI)相比可以用更少的采样数重构图像。2012年,孙宝清提出了归一化迭代鬼成像[25],通过对测量信号进行归一化,可以对待测目标的集合平均施加更合适的加权因子,从而有效降低采样次数。2014年,中国科学院大学的翟光杰研究小组提出了迭代去噪鬼成像(IDGI)[26],将传统的强度相关去噪方法与迭代方法相结合,对影响图像质量的实际噪声进行了精确的估计,从而有效降低采样率。如图4所示,在相同条件下,实验结果显示IDGI重建图像的质量明显优于DGI、GI的重建图像。2019年,国防科技大学的刘伟涛研究小组针对有限的采样数量和光照不完全引起的关联成像系统中点扩散函数误差的问题,提出了一种利用照明场的二阶相干性进行归一化的算法[27],该算法可以减小误差,从而降低采样率。2020年,清华大学的李俊林研究小组提出了一种即时鬼成像算法[28],将桶光强与测量矩阵的关联修改为两次连续测量之间的桶光强差与测量矩阵差的关联,并进行积累。最后一次测试时,积累项就是物体的图像。该处理方法等效于关联成像去背景噪声算法,从而有效降低采样率,并且检测信号差的处理几乎不需要时间,因此用该处理方法为关联成像的实用化提供了一种可能思路。

图 4 迭代去噪鬼成像结果[26] Figure 4 Iterative denoising ghost imaging results[26]

2)基于压缩感知的成像算法。有实验表明,将压缩感知理论引入关联成像算法中可以有效地减少成像所需的采样次数。2009年,以色列魏茨曼科学研究所的Katz等提出了一种先进的关联成像算法[29],自然界中的自然信号和图像结构中存在冗余。利用这一特点在关联成像算法中引入压缩感知理论,该算法将采样率降到30%。2014年,吉林大学的郜峰利研究小组通过计算各散斑场的行向量构成的伪逆矩阵提出一种基于伪逆的关联成像算法[30],该算法与传统关联成像算法和压缩感知算法相比,重构相同质量的图像所需采样数更少。2015年,中国科学院西安光学精密机械研究所的张同意研究小组研究了不同的信号重建技术对压缩鬼成像(CGI)重构图像质量的影响[31]。利用关联成像实验系统证明了贪婪近似算法(OMP)、基追踪去噪算法(BPDN)、交替方向算法(TVAL3)3种不同方法的可行性,实验结果如图5所示。2018年,长春大学的宋立军研究小组基于投影Landweber正则化和引导滤波提出一种高质量压缩鬼成像算法[32],该算法通过正则化和去噪的分解来重建目标图像,有效降低系统采样率,提高重构图像的质量。

图 5 基于不同信号重建方法的压缩关联成像的结果[31] Figure 5 Results of compressed correlation imaging based on different signal reconstruction methods[31]

3)基于机器学习的关联成像算法。近年来,随着深度学习迅速发展,尤其是计算机视觉的发展,将深度学习与关联成像相结合, 不仅可以降低成像所需的采样次数,而且对成像效率的提高起着关键作用。2018年,日本千叶大学的Shimobaba等将深度学习与计算关联成像相结合[33],利用神经网络自主学习的特点,使用深度神经网络(DNN)自动学习CGI重建的噪声图像的特征。训练后,该网络可以从未包含在训练集中的新的有噪声CGI图像中预测低噪声图像,可极大减少采样需求。2019年,中国科学院上海光学精密机械研究所的司徒国海研究小组基于深度神经网络提出了一种端到端的方法[34],用数值模拟数据训练网络模型,将实验采集到的一维桶信号直接载入训练好的网络模型,重构出目标的二维图像,实验结果表明这种方法可以将采样率降至2%,网络结构如图6所示。2020年,广东工业大学的王瑞洲研究小组提出了一种深度神经网络模型(DAttNet)[35],用于恢复目标图像。利用仿真数据训练DAttNet,可将没有分辨本领的实验桶光强数据实现目标图像的重构。实验结果表明,该方案能够在亚奈奎斯特采样条件下(如2%)重构高质量的图像,其性能优于常规和压缩感知关联成像算法。2021年,该研究小组提出一种自适应混合神经网络用于关联成像[36],来恢复不同亚奈奎斯特采样比(SNSRs)下物体的高质量图像,网络中添加了干扰添加层(HA)来去除训练过程中的退化和噪声,用模拟数据对该网络进行训练,可以从不同采样率下的实验数据中恢复出高质量的图像。2021年,南昌大学的燕秋容研究小组基于生成对抗网络(GAN)提出了一种压缩重构网络(OGTM)[37],将实现采样的采样子网络与生成网络进行联合优化,从而更好地进行图像重构,该方法将关联成像系统的采样率将至1%。2022年, 中国科学院上海光学精密机械研究所的司徒国海研究小组又提出了一种基于深度学习的超分辨率远场GI算法[38],将GI图像形成的物理模型整合到深度神经网络中,并施加相应的约束条件,利用这种方法的远场图像重建,除采样率要求不高之外,其分辨率可超过衍射极限。

图 6 深度神经网络模型结构示意图[34] Figure 6 Structure diagram of deep neural network model[34]
3 结 论

关联成像作为一种主动间接成像技术,有着优于传统光学成像技术的优势。这些优势使关联成像在生物医疗、遥感、国防、非局域成像等领域备受关注。但是关联成像想要走向实际应用,不仅要在更低的采样率下获得高质量的重构图像,而且还要考虑图像重建的速度。考虑这两种因素,简要分析以上几种方法的优缺点。这些方法可分为基于压缩感知理论和深度学习理论的两大类优化方法。压缩感知理论引入关联成像,利用自然界大多数自然信号和图像结构的稀疏性,虽然有效降低了系统的采样率,但是图像的重构效率被降低,限制了关联成像在实际应用中的发展。深度学习理论引入关联成像,利用神经网络自主学习的特点,让神经网络模型自主学习桶光强与目标图像之间的映射关系,虽然有效降低系统的采样率及提高图像重构效率,但是前期需要花费大量的时间去准备网络训练所需训练集及训练网络。这也限制了关联成像的发展。随着科学技术的发展,相信在可预见的未来,可以攻克这些难题,使关联成像的产业化进程得到全面推进,应用于更广泛的领域。

参考文献
[1] MORRIS P A, ASPDEN R S, BELL J E C, et al. Imaging with a small number of photons[J]. Nature Communications, 2015, 6(1): 5913. DOI:10.1038/ncomms6913
[2] LIU X L, SHI J H, WU X Y, et al. Fast first-photon ghost imaging[J]. Scientific Reports, 2018, 8(1): 5012. DOI:10.1038/s41598-018-23363-w
[3] LIU X L, SHI J H, SUN L, et al. Photon-limited single-pixel imaging[J]. Optics Express, 2020, 28(6): 8132–8144. DOI:10.1364/OE.381785
[4] SCHORI A, SHWARTZ S. X-ray ghost imaging with a laboratory source[J]. Optics Express, 2017, 25(13): 14822–14828. DOI:10.1364/OE.25.014822
[5] 谈志杰, 李晴宇, 喻虹, 等. X射线及粒子关联成像技术研究进展[J]. 激光与光电子学进展, 2021, 58(10): 1011008.
[6] RADWELL N, MITCHELL K J, GIBSON G M, et al. Single-pixel infrared and visible microscope[J]. Optica, 2014, 1(5): 285–289. DOI:10.1364/OPTICA.1.000285
[7] 杨照华, 陈香, 李明飞, 等. 抗大气湍流近红外计算鬼成像[J]. 宇航学报, 2021, 42(9): 1172–1177. DOI:10.3873/j.issn.1000-1328.2021.09.012
[8] SHREKENHAMER D, WATTS C M, PADILLA W J. Terahertz single pixel imaging with an optically controlled dynamic spatial light modulator[J]. Optics Express, 2013, 21(10): 12507–12518. DOI:10.1364/OE.21.012507
[9] 闫昱琪, 赵成强, 徐文东, 等. 太赫兹主动关联成像技术研究[J]. 中国激光, 2018, 45(8): 0814001.
[10] PITTMAN T B, SHIH Y H, STREKALOV D V, et al. Optical imaging by means of two-photon quantum entanglement[J]. Physical Review A, 1995, 52(5): R3429. DOI:10.1103/PhysRevA.52.R3429
[11] BENNINK R S, BENTLEY S J, BOYD R W. “Two-photon” coincidence imaging with a classical source[J]. Physical Review Letters, 2002, 89(11): 113601. DOI:10.1103/PhysRevLett.89.113601
[12] DENG C J, PAN L, WANG C L, et al. Performance analysis of ghost imaging lidar in background light environment[J]. Photonics Research, 2017, 5(5): 431–435. DOI:10.1364/PRJ.5.000431
[13] XU Y K, LIU W T, ZHANG E F, et al. Is ghost imaging intrinsically more powerful against scattering?[J]. Optics Express, 2015, 23(26): 32993–33000. DOI:10.1364/OE.23.032993
[14] SHIH Y. The physics of ghost imaging: nonlocal interference or local intensity fluctuation correlation?[J]. Quantum Information Processing, 2012, 11(4): 995–1001. DOI:10.1007/s11128-012-0396-5
[15] SHAPIRO J H, BOYD R W. The physics of ghost imaging[J]. Quantum Information Processing, 2012, 11(4): 949–993. DOI:10.1007/s11128-011-0356-5
[16] CHEN M L, LI E R, HAN S S. Application of multi-correlation-scale measurement matrices in ghost imaging via sparsity constraints[J]. Applied Optics, 2014, 53(13): 2924–2928. DOI:10.1364/AO.53.002924
[17] PHILLIPS D B, SUN M J, TAYLOR J M, et al. Adaptive foveated single-pixel imaging with dynamic supersampling[J]. Science Advances, 2017, 3(4): e1601782. DOI:10.1126/sciadv.1601782
[18] SUN M J, MENG L T, EDGAR M P, et al. A Russian Dolls ordering of the Hadamard basis for compressive single-pixel imaging[J]. Scientific Reports, 2017, 7(1): 3464. DOI:10.1038/s41598-017-03725-6
[19] YU W K, LIU Y M. Single-pixel imaging with origami pattern construction[J]. Sensors, 2019, 19(23): 5135. DOI:10.3390/s19235135
[20] YU W K. Super sub-Nyquist single-pixel imaging by means of cake-cutting Hadamard basis sort[J]. Sensors, 2019, 19(19): 4122. DOI:10.3390/s19194122
[21] VAZ P G, AMARAL D, FERREIRA L F R, et al. Image quality of compressive single-pixel imaging using different Hadamard orderings[J]. Optics Express, 2020, 28(8): 11666–11681. DOI:10.1364/OE.387612
[22] YU X, YANG F, GAO B, et al. Deep compressive single pixel imaging by reordering hadamard basis: a comparative study[J]. IEEE Access, 2020, 8: 55773–55784. DOI:10.1109/ACCESS.2020.2981505
[23] YUAN A Y, FENG J, JIAO S M, et al. Adaptive and dynamic ordering of illumination patterns with an image dictionary in single-pixel imaging[J]. Optics Communications, 2021, 481: 126527. DOI:10.1016/j.optcom.2020.126527
[24] FERRI F, MAGATTI D, LUGIATO L A, et al. Differential ghost imaging[J]. Physical Review Letters, 2010, 104(25): 253603. DOI:10.1103/PhysRevLett.104.253603
[25] SUN B Q, WELSH S S, EDGAR M P, et al. Normalized ghost imaging[J]. Optics Express, 2012, 20(15): 16892–16901. DOI:10.1364/OE.20.016892
[26] YAO X R, YU W K, LIU X F, et al. Iterative denoising of ghost imaging[J]. Optics Express, 2014, 22(20): 24268–24275. DOI:10.1364/OE.22.024268
[27] SUN S, LIU W T, GU J H, et al. Ghost imaging normalized by second-order coherence[J]. Optics Letters, 2019, 44(24): 5993–5996. DOI:10.1364/OL.44.005993
[28] YANG Z, LIU J, ZHANG W X, et al. Instant single-pixel imaging: on-chip real-time implementation based on the instant ghost imaging algorithm[J]. OSA Continuum, 2020, 3(3): 629–636. DOI:10.1364/OSAC.389060
[29] KATZ O, BROMBERG Y, SILBERBERG Y. Compressive ghost imaging[J]. Applied Physics Letters, 2009, 95(13): 131110. DOI:10.1063/1.3238296
[30] ZHANG C, GUO S X, CAO J S, et al. Object reconstitution using pseudo-inverse for ghost imaging[J]. Optics Express, 2014, 22(24): 30063–30073. DOI:10.1364/OE.22.030063
[31] KANG Y, YAO Y P, KANG Z H, et al. Performance analysis of compressive ghost imaging based on different signal reconstruction techniques[J]. Journal of the Optical Society of America A, 2015, 32(6): 1063–1067. DOI:10.1364/JOSAA.32.001063
[32] HUANG H Y, ZHOU C, TIAN T, et al. High-quality compressive ghost imaging[J]. Optics Communications, 2018, 412: 60–65. DOI:10.1016/j.optcom.2017.12.010
[33] SHIMOBABA T, ENDO Y, NISHITSUJI T, et al. Computational ghost imaging using deep learning[J]. Optics Communications, 2018, 413: 147–151. DOI:10.1016/j.optcom.2017.12.041
[34] WANG F, WANG H, WANG H C, et al. Learning from simulation: an end-to-end deep-learning approach for computational ghost imaging[J]. Optics Express, 2019, 27(18): 25560–25572. DOI:10.1364/OE.27.025560
[35] WU H, WANG R Z, ZHAO G P, et al. Sub-Nyquist computational ghost imaging with deep learning[J]. Optics Express, 2020, 28(3): 3846–3853. DOI:10.1364/OE.386976
[36] WU H, ZHAO G P, CHEN M Y, et al. Hybrid neural network-based adaptive computational ghost imaging[J]. Optics and Lasers in Engineering, 2021, 140: 106529. DOI:10.1016/j.optlaseng.2020.106529
[37] GAO W, YAN Q R, ZHOU H L, et al. Single photon counting compressive imaging using a generative model optimized via sampling and transfer learning[J]. Optics Express, 2021, 29(4): 5552–5566. DOI:10.1364/OE.413925
[38] WANG F, WANG C L, CHEN M L, et al. Far-field super-resolution ghost imaging with a deep neural network constraint[J]. Light:Science & Applications, 2022, 11(1): 1.