现如今,患有消化道疾病的人数在逐年增长。据统计,在中国,上下消化道疾病发病率约为60%,严重影响人类健康。胶囊内窥镜是一种消化道检测器件,在被患者吞服后会随着消化道的蠕动而缓慢移动,并在此过程中不断拍摄图片或视频记录消化系统内的情况。医生通过分析实时传输的视频或者储存的照片,以此诊断患者的情况。与传统胃镜和肠镜相比,胶囊内窥镜体积小,检测时带给患者的疼痛小,无交叉感染风险,在医疗领域备受关注。
2001年,以色列Given Imaging公司上市了第一款M2A胶囊内窥镜产品[1]。此后,日本奥林巴斯公司推出Endo Capsule胶囊内窥镜[2]并使用了电荷耦合元件提高灵敏度。韩国Intro Medic公司的产品手册上介绍MiroCam胶囊内窥镜系统以3 帧/s的速度捕捉图像并工作超过11 h。国内产品有金山公司的OMOM胶囊内窥镜、安翰科技的磁控胶囊胃镜、资福医疗的大圣胶囊内镜等[3],但存在图像清晰度不高、拍摄画面较小、受噪声影响大等问题。
对于一个成像系统,提高光学镜头的性能可以明显改善成像质量,但在一定的限制条件下则很难达到令人满意的结果。例如胶囊内窥镜系统有限的空间尺寸使得光学镜头设计自由度较小,难以同时满足多个应用需求。基于深度学习的图像处理算法迅速发展,使得完成成像过程后再次改善像质变为可能,从而逐渐成为一种提升成像系统性能的补充方案。
针对胶囊内窥镜系统软硬件相结合的特点,本文探讨了一种综合光学系统优化与图像处理提升像素的方案。首先使用光学设计软件设计了一款超小型大视场胶囊内窥镜头,引入Q-type非球面校正像差[4-6];然后通过分析图像传感器的物理成像过程,得到其各个阶段产生噪声的特性[7],使用得到的噪声模型生成训练数据并在数据集上训练神经网络模型,在临床图像上验证网络模型的效果。
1 胶囊内窥镜成像镜头光学设计 1.1 Q-type非球面美国QED公司的Forbes等提出了一种新的非球面数学描述方式[8],包括Qcon和Qbfs,统称为Q-type非球面。这种描述方式使用了一个正交基底替换幂级数非球面中的附加多项式。当基底正交时,各项系数的平方和与正交分解中相关参数叠加的均方值是相等的,这使得系数能够直接体现出非球面的面形相对于基准曲线凹陷误差的均方值大小,从而加强了对面型形状的约束控制能力。其中Qcon多项式一般用来表示非球面与其最接近的二次曲面之间的偏离程度,而Qbfs多项式用来表示非球面与最佳拟合球面之间的偏离程度。本文使用Qcon非球面,其矢高表达式为:
| $ Z=\frac{{c}_{{\rm{con}}}{r}^{2}}{1+\sqrt{1-(1+k){c}_{{\rm{con}}}^{2}{r}^{2}}}+{u}^{4}\sum \nolimits_{m=0}^{M}a_{\rm{m}}{Q}_{m}^{\mathrm{c}\mathrm{o}\mathrm{n}}\left({u}^{2}\right) $ | (1) |
式中:ccon为所表示的非球面最接近的球面的曲率半径;u为r/rmax;
与传统的幂级数多项式相比,Q-type多项式的优势主要有:
(1)其基底相互正交,在设计优化过程中各系数相互独立,互不影响;
(2)可供使用的非球面系数更多,且各系数有更大的量级,有利于提高设计效率和加工精度[9]。
1.2 优化设计及结果分析目前的胶囊内窥镜产品尺寸为26 mm×11 mm,其内部结构还包含照明模块、电池、无线传输模块等,因此留给透镜和传感器的空间十分有限。本文选择了一款使用COB封装工艺的传感器模组,其有效像面尺寸为2.4 mm×1.8 mm,单个像元尺寸为3.6 μm×3.6 μm,对应光学系统的分辨率为1/(2×3.6 μm)=138 lp/mm。
由于胶囊内窥镜在工作时拍摄范围较难控制,因此需要大视场来获取足够多的视觉信息。在广角镜头中,第一片透镜通常会有较大的直径以接受来自大角度的光线。因此,本次设计视场设置为160°并限制镜片尺寸,使其结构总长小于5 mm且镜片的最大直径不超过3 mm。具体的设计参数如表1所示。
|
|
表 1 光学系统的设计参数 Table 1 Design parameters of the optical system |
通过查找专利数据库和论文[10-12]选择一款美国的专利镜头[12]作为初始结构。在优化过程中逐次添加Qcon非球面并采用低色散和高色散的两种光学塑料来补偿色差。最终将第一、二、四片镜片替换为APL5014CL材料;第三片镜片为OKP-A2材料。这两种材料都广泛应用于成像镜头,使用注塑工艺批量生产,有利于降低制造成本。通常非球面系数的项数越多,表面曲率越大,其加工越难,所有非球面的高次项数控制不超过4项。同时非球面过于弯曲或者出现拐点会导致加工难度增大,因此在优化时可以通过控制光线矢高来避免。
最终系统结构如图1所示,4片透镜均为塑料Qcon非球面镜片,整个系统总长为4.3 mm,第一片镜片口径最大为2.4 mm。其全视场角为160°,工作距离为15 mm,系统的有效焦距为0.9 mm。其调制传递函数(modulation transfer function,MTF)如图2所示,在奈奎斯特空间截止频率138 lp/mm处MTF值高于0.3,在整个视场都具有比较好的对比度和分辨率,满足清晰成像要求[13]。
|
图 1 光学系统结构图 Figure 1 Optical system structure diagram |
|
图 2 光学系统的MTF图 Figure 2 MTF diagram of the optical system |
一个光学系统不能单独以成像质量来进行评价,还需要对其进行公差分析。通过调制传递函数受分配公差的影响程度验证系统的加工可行性。在CODEV软件中,给出如表2所示的公差分配参数。考虑到整个系统尺寸较小,所给的公差适用于微小型镜头,并且目前这类小口径的镜片是可以加工制造的。在0°、40°、80°、120°、160°等5个视场下,以奈奎斯特频率为100 lp/mm处的平均MTF值作为评价标准,结果如图3所示,在MTF值大于0.3时,所有视场的积累概率均能达到80%,基本达到设计要求。
|
|
表 2 公差参数表 Table 2 Table of the tolerance parameters |
|
图 3 公差性能 Figure 3 Tolerance performance |
在完成胶囊内窥镜光学系统的优化之后,我们通过分析和处理传感器产生的图像噪声来进一步改善像质。
2.1 噪声模型的基本原理在大多数情况下可以用异方差高斯模型来近似表示图像噪声,但是在环境光照很弱时会产生误差,往往导致去噪效果不理想,因此需要改变噪声模型。一般地,一幅数字图像D[7,14]可以用线性模型表示为:
| $ D=KI+N $ | (2) |
式中:D为数字图像;K为系统整体增益(包括模拟增益和数字增益);I为接收到的光电子数;N为噪声。而噪声N在传感器不同的工作阶段有不同的特性,如图4所示。
|
图 4 各阶段引入的噪声 Figure 4 Noise introduced at each stage |
第一阶段:在曝光过程中,入射光以光子的形式撞击到光传感器的成像区域,因光电效应产生与入射光强度成正比的光电子。这部分光电子存在着不确定性,其数量服从泊松分布:
| $ \left(I+{N}_{\mathrm{p}}\right)~P\left(I\right) $ | (3) |
式中:Np为光子脉冲噪声;P为泊松分布。这种噪声取决于入射光强,并且普遍存在于传感器中。同时这一阶段还引入了一些其他的噪声源,如光响应不均匀和暗电流噪声。
第二阶段:在成像区域每个位置都收集电子后,它们通常被集成、放大,并在曝光时间结束时作为可测量的电荷或电压输出。这一阶段的噪声取决于传感器所采用的电路设计和处理技术。因此称为像素电路噪声,包括热噪声、复位噪声、源跟随噪声和带型噪声。为了简化分析,将暗电流噪声Nd、热噪声Nt和源跟随噪声Ns等多个噪声源合一,称为读噪声Nread,表达式为:
| $ {N}_{\mathrm{r}\mathrm{e}\mathrm{a}\mathrm{d}}={N}_{\mathrm{d}}+{N}_{\mathrm{t}}+{N}_{\mathrm{s}} $ | (4) |
受噪声的闪烁和随机电信号成分,或者由暗电流引起的暗峰的影响,读噪声具有长尾性质。由于胶囊内窥镜工作时照明有限,此时不可忽略的直流噪声成分使得噪声分布不再以0为中心。因此用Tukey lambda分布族来描述:
| $ {N}_{\mathrm{r}\mathrm{e}\mathrm{a}\mathrm{d}}~TL(\lambda ;{\mu }_{\mathrm{c}};{\sigma }_{\mathrm{T}\mathrm{L}}) $ | (5) |
式中:λ表示形状参数;μc表示位置参数;σTL表示尺度参数。
引入行噪声Nr来解释带型噪声Nb。虽然Nb可能以水平或垂直线的形式出现在图像中,但只考虑模型中的行方向分量(水平条纹),因为在测量噪声数据时,列方向分量通常可以忽略不计。用正态分布来描述:
| $ {N}_{\mathrm{r}}~N(0,{\sigma }_{\mathrm{r}}) $ | (6) |
第三阶段:为了产生可以存储在数字存储介质中的图像,在最后阶段读出模拟电压信号,采用模数转换器量化成离散码,这一过程会引入量化噪声。该噪声是模数转换器的模拟输入电压与输出值之间的舍入误差,用均匀分布来描述:
| $ {N}_{\mathrm{q}}~U(-\frac{1}{2q},\frac{1}{2q}) $ | (7) |
因此,噪声模型N可以分解成4个部分:
| $ N={K}{N}_{\mathrm{p}}+{N}_{\mathrm{r}\mathrm{e}\mathrm{a}\mathrm{d}}+{N}_{\mathrm{r}}+{N}_{\mathrm{q}} $ | (8) |
在两种特定条件下获取所需的图像。第一种是明场图像,是在传感器均匀照明时拍摄的图像,表现了光子散粒噪声的性质。具体操作是:在光照均匀的环境下拍一张白纸,镜头安装在靠近纸的位置。第二种是暗场图像,是在无光环境下以最短曝光时间拍摄的图像,描述了与光照无关的噪声特性。具体操作是:在暗室里将镜头前端挡住,并以最短曝光时间拍摄。
由于拍摄的图像格式是JPEG,是经过图像信号 (image signal processing,ISP)处理过的,这一过程会引入其他的干扰。因此使用Unprocessing模型[15]先将JPEG格式还原成RAW格式,随后再基于成像原理提取噪声模型。第一步将拍摄到的不同曝光时间的明场图像用光子传递法[16]得到参数K;第二步提取暗场图像每一行的均值,通过最大似然估计得到行噪声的参数σr;第三步对去除了行噪声的暗场图像,使用概率图相关系数法[17]得到参数λ,使用概率图法[18]估计参数σTL;第四步使用所得参数带入式(8)中构建噪声模型。实验测得的参数如表3所示。
|
|
表 3 噪声模型参数表 Table 3 Noise model parameter table |
运用噪声模型生成训练数据加入到数据集中,数据集包含800幅图像并用于训练U-net神经网络模型,其结构如图5所示。使用L1损失函数和Adam优化器,模型迭代400次,批量大小为4,学习率最初设置为10−4,在经过200次后降为10−5。
|
图 5 U-net网络结构图 Figure 5 The structure of the U-net |
通常使用峰值信噪比(peak signal-to-noise radio,PSNR)来作为评价指标,其值越大代表失真越少。给定大小为m×n的干净图像I1和噪声图像I2,均方误差(MSE)定义为:
| $ {\rm{MSE}}=\frac{1}{mn}\sum _{i=0}^{m-1}\sum _{j=0}^{n-1}{[{I}_{1}\left(i,j\right)-{I}_{2}(i,j\left)\right]}^{2} $ | (9) |
则PSNR定义为:
| $ {\rm{PSNR}}=10 \times {\mathrm{log}}_{10}\left(\frac{I_{1,{\rm{max}}}^2}{{\rm{MSE}}}\right) $ | (10) |
式中,I1,max为图片中可能的最大像素值。本文训练的网络PSNR值为34.37。在图6中给出了3组真实消化道图像处理前后的对比图。从图中可以看到图像的清晰度有明显地提高。
|
图 6 原图及处理结果图 Figure 6 Original image and processed image |
本文就提高胶囊内窥系统的成像质量问题,探讨一种结合光学镜头优化与图像处理的综合解决方案。一方面使用CODEV软件重新优化设计镜头,通过引入Q-type非球面校正像差。最终得到一款视场角160°,相对孔径为F#3.0,结构总长为4.3 mm的胶囊内窥镜头,全视场MTF在140 lp/mm处均大于0.3,实现了大视场,高分辨率与小型化。另一方面基于传感器的工作特性得到噪声模型,使用其生成训练数据集训练神经网络。经真实样本测试,结果表明该网络模型能够有效地提高图像清晰度。本文提出的方案可以全面地改善像质,提高胶囊内窥系统的整体性能,为相关的医学影像研究提供新的思路。
| [1] | MERON G D. The development of the swallowable video capsule (M2A)[J]. Gastrointestinal Endoscopy, 2000, 52(6): 817–819. DOI:10.1067/mge.2000.110204 |
| [2] | GHEORGHE C, IACOB R, BANCILA I. Olympus capsule endoscopy for small bowel examination[J]. Journal of Gastrointestinal and Liver Diseases, 2007, 16(3): 309–313. |
| [3] | 陈逸致, 潘骏, 廖专, 等. 胶囊内镜新兴技术研究与应用进展[J]. 中华消化内镜杂志, 2020, 37(5): 372–376. DOI:10.3760/cma.j.cn321463-20191012-01358 |
| [4] | 李闯, 薛常喜, 杨红芳, 等. 基于Q-type非球面的电子内窥镜物镜光学系统设计[J]. 光学学报, 2017, 37(6): 0622001. |
| [5] | 贾孟. 基于Q-type非球面的光学系统关键技术研究[D]. 长春: 长春理工大学, 2019. |
| [6] | 刘锦琳. Q型非球面及其在光学系统设计中的应用[D]. 杭州: 浙江大学, 2021. |
| [7] | WEI K X, FU Y, YANG J L, et al. A physics-based noise formation model for extreme low-light raw denoising[C]//2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). Seattle, WA, USA: IEEE, 2020: 2755-2764. |
| [8] | FORBES G W. Shape specification for axially symmetric optical surfaces[J]. Optics Express, 2007, 15(8): 5218–5226. DOI:10.1364/OE.15.005218 |
| [9] | MA B, THOMPSON K P, SHARMA K, et al. Applying slope constrained Q-type aspheres to reduce sensitivity of optical systems[C]//Frontiers in Optics 2012. Rochester, New York, United States: Optica Publishing Group, 2012: FTh3E. 3. |
| [10] | CHANG S H, KIM D, KWON H S. Compact wide-angle capsule endoscopic lens design[J]. Applied Optics, 2020, 59(12): 3595–3600. DOI:10.1364/AO.386939 |
| [11] | ZHUANG Z F, DALLAIRE X, PARENT J, et al. Geometrical-based quasi-aspheric surface description and design method for miniature, low-distortion, wide-angle camera lens[J]. Applied Optics, 2020, 59(27): 8408–8417. DOI:10.1364/AO.400528 |
| [12] | KANG M W. Fixed focus lens system: USA, 8917460[P]. 2014-12-23. |
| [13] | 郁道银, 谈恒英. 工程光学[M]. 3版. 北京: 机械工业出版社, 2011. |
| [14] | GONZALEZ R C, WOODS R E, EDDINS S L. 数字图像处理: MATLAB版[M]. 北京: 电子工业出版社, 2009. |
| [15] | BROOKS T, MILDENHALL B, XUE T F, et al. Unprocessing images for learned raw denoising[C]//2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). Long Beach, CA, USA: IEEE, 2019: 11028-11037. |
| [16] | JANESICK J, KLAASEN K, ELLIOTT T. CCD charge collection efficiency and the photon transfer technique[C]//Proceedings of SPIE 0570, Solid-State Imaging Arrays. San Diego, United States: SPIE, 1985: 7-19. |
| [17] | FILLIBEN J J. The probability plot correlation coefficient test for normality[J]. Technometrics, 1975, 17(1): 111–117. DOI:10.1080/00401706.1975.10489279 |
| [18] | WILK M B, GNANADESIKAN R. Probability plotting methods for the analysis of data[J]. Biometrika, 1968, 55(1): 1–17. |
2022, Vol. 44
Issue (4): 26-31


