2. 上海理工大学 上海市现代光学系统重点实验室,上海 200093
2. Shanghai Key Laboratory of Modern Optical System, University of Shanghai for Science and Technology, Shanghai 200093, China
目标跟踪作为计算机视觉研究的一个重要课题,在交通巡逻[1]、自动驾驶[2]、智能人机交互[3]等众多领域中具有重要作用。尽管已有大量的研究成果,但是仍存在如快速运动、尺度变化和遮挡等亟待解决的问题[4]。由于相关滤波对于外界光照的敏感性以及目标自身的几何变化具有高效的计算能力和优越的鲁棒性,所以相关滤波在目标跟踪领域具有广泛的应用性。
Bolme等[5]将相关滤波应用于目标跟踪领域,通过计算目标和待测样本之间的信号相关性,对下一帧的目标位置进行判定。2014年,Henriques等[6]将高斯非线性核函数引入相关滤波,实现基于核相关滤波的高速跟踪。Danelljan等[7]引入尺度变换的概念,实现跟踪过程中的尺度自适应。Bertinetto等[8]提出将颜色特征[9](Color)和梯度直方图特征[10](HOG)按照一定比例的融合互补,从而提升目标运动过程中针对形变、光照等问题的鲁棒性。Danelljan等[11-12]使用连续的卷积滤波器并对特征图进行降维。在维持跟踪速度的同时,提高了跟踪效果。Galoogahi等[13]使用真实移位产生的负样本作为背景信息,有效抑制了边界效应,同时提出了一种基于ADMM[14](交替方向乘子法)的优化方法,降低了计算量从而提升了跟踪速度。Li等[15]提出了Autotrack(automatic spatio-temporal regularization)算法,该算法引入自适应时空正则项,有效提升了跟踪速度。以上算法针对目标跟踪存在的问题分别做出了不同的改进,但边界效应和滤波器退化,始终影响跟踪器在应对快速运动以及遮挡等复杂场景问题时的性能。其中Autotrack虽然提升了跟踪速度,但其在快速运动情景下的目标跟踪表现较为乏力。
当目标快速运动时,会造成目标信息的丢失,使得目标跟踪的准确率大幅度下降。本文在Autotrack的基础上,提出基于快速运动场景下的目标跟踪改进算法。该方法在目标发生快速运动的场景下,可有效提升跟踪器在面对快速运动等不利于跟踪时的稳定性。本文主要工作如下:1)通过引入空间正则项,获取空间正则权重,利用相邻两帧响应图的隐藏联系作为时间正则项,使其在跟踪过程中自适应更新,在避免滤波器退化的同时可以有效缓解边界效应。2)将空间正则项与时间正则项相结合引入目标函数中对滤波器进行约束,提升跟踪性能。3)经改进后的算法使用ADMM对目标函数进行优化,基本可以实现实时跟踪。
1 本文算法Autotrack跟踪算法是将引入的相邻两帧响应联系作为自适应时空正则项,以使滤波器专注于对象的可信赖部分的学习,同时可以确定滤波器的更新率,从而提高跟踪性能。但该算法的正则项部分仅仅依赖于相邻两帧的响应图联系,在针对快速运动场景下的目标跟踪时,表现较为乏力,当目标快速运动时,会丢失有效的跟踪信息。本文在Autotrack算法的基础上,引入空间正则权重项w,对距离目标中心比较远的样本进行相应的惩罚,由此所得到的相关响应在目标背景处的值得到了明显的抑制,从而有效缓解边界效应。将相邻两帧全局响应图变化量作为时间正则项,使其在解决边界效应的同时有效地抑制畸变,从而提升跟踪器在应对快速运动场景下的鲁棒性。提出目标函数为
| $ \begin{split} &{ E}({{f}}_t)=\dfrac{1}{2}\left\| {\sum\limits_{j=1}^{K}{{{x}}}_{{{t}}}^{{{j}}}*{{{f}}}_{{{t}}}^{{{j}}}}-{{y}} \right\| _{2}^{2}+\dfrac{1}{2}{\sum\limits_{j=1}^{K}\left\| {{w}}\odot {{{f}}}_{{{t}}}^{{{j}}} \right\| _{2}^{2}}+\\ &\dfrac{{\partial }_{t}}{2}{\sum\limits_{j=1}^{K}\left\| {{{f}}}_{{{t}}}^{{{j}}}-{{{f}}}_{{{t}}-1}^{{{j}}} \right\| _{2}^{2}}+\left\| \dfrac{{\partial }_{t}}{2}-\partial \right\| _{2}^{2} \end{split}$ | (1) |
式中:
将
| $\begin{split} & E({{{F}}_{t}},{{\hat{{G}}_{t}}} ) = \dfrac{1}{2}\left\| \displaystyle\sum\limits_{j = 1}^K {\hat{{x}}_{t}^{{j}}} \otimes {\hat{{g}}_{t}^{{j}}} - {{y}} \right\| _2^2 + \dfrac{1}{2}\sum\limits_{j = 1}^K {\left\| {{w}} \odot {\hat{{f}}_{t}^{{j}}} \right\| _2^2} + \dfrac{{{\partial _t}}}{2}\sum\limits_{j = 1}^K {\left\| {\hat{{g}}_{t}^{{j}}} - {\hat{{g}}_{t}^{{{j - 1}}}} \right\| _2^2} + \left\| \dfrac{{{\partial _t}}}{2} - \partial \right\| _2^2 {\rm{s.t.}}\;\;\;\mathop {\hat {{G}}_{t}} = \sqrt T {{F\;{f_t}}} \end{split} \!\!\!\!\!\!\!\!\!\!\!\!\!\!\!\!\!\!\!\!$ | (2) |
式中:符号
令
| $ L({{{F}}_{t}},{{\hat{{G}}_{t}}} ,{\hat {{N}} _{t}}) = E ({{{F}}_t},{{\hat{{G}}_{t}}} ) + \dfrac{\gamma }{2}\parallel \sum\limits_{j = 1}^K {{\hat{{g}}_{t}^{{j}}} } - \sqrt T {{F}}{{f}}_{t}^{{j}}\parallel _2^2 + \sum\limits_{j = 1}^K {({\hat{{g}}_{t}^{{j}}} } - \sqrt T {{F}}{{f}}_{t}^{{j}}{)^T} {\hat {{n}}_t^j} $ | (3) |
式中:
| $L({{{F}}_{t,}},{{\hat{{G}}_{t}}} ,{{{\hat{{U}}}_{t}}} ) = E ({{{F}}_t},{{\hat{{G}}_{t}}} ) + \dfrac{\gamma }{2}\sum\limits_{j = 1}^K {{\parallel \hat{{g}}_{t}^{{j}}}} - \sqrt T {{F}}{{f}}_{t}^{{j}} + {{\hat{{u}}}_{t}^{{j}}} \parallel _2^2$ | (4) |
则式(4)可分为下列3个子问题进行求解,即:
| $\left\{ \begin{array}{l} {{{\hat{ G}}}^{{*}}} = \mathop {\arg \min }\limits_{ \hat{ G} } \left\{ \dfrac{1}{2}\left\| \displaystyle\sum\limits_{j = 1}^K {{{x}}_{t}^{{j}}} \otimes {\hat{ g}}_{t}^{{j}} - y \right\| _2^2 + \dfrac{{{\partial _t}}}{2}\displaystyle\sum\limits_{j = 1}^K \left\| {\hat{ g}}_{t}^{{j}} - {\hat{ g}}_{t}^{{{j}} - 1} \right\| _2^2 + \dfrac{\gamma }{2}\displaystyle\sum\limits_{j = 1}^K \left\| {{\hat{ g}}_{t}^{{j}}} - \sqrt T {{F}}{{f}}_{t}^{{j}} + {\hat{ u}}_{t}^{{j}} \right\| _2^2 \right\} \\ {{\hat {{F}}}^ * } = \mathop {\arg \min }\limits_{{f_j}} \left\{ \dfrac{1}{2}\left\| {{w}} \odot {{f}}_{t}^{{j}} \right\| _2^2 + \dfrac{\gamma }{2}\displaystyle\sum\limits_{j = 1}^K \left\| {{\hat{ g}}_{t}^{{j}}} - \sqrt T {{F}}{{f}}_{t}^{{j}} + {\hat{ u}}_{t}^{{j}} \right\| _2^2 \right\} \\ \partial _t^ * = \mathop {\arg \min }\limits_{{\partial _t}} \left\{ \dfrac{{{\partial _t}}}{2}\displaystyle\sum\limits_{j = 1}^K {\left\| {\hat{ g}}_{t}^{{j}} - {\hat{ g}}_{t}^{{{j}} - 1} \right\| _2^2} + \left\| \dfrac{{{\partial _t}}}{2} - \partial \right\| _2^2 \right\} \end{array} \right.$ | (5) |
1)子问题
直接对该等式求导计算量过大,难以实现实时目标跟踪,因而对每个像素点
| $\upsilon _i^ * (\mathop {\hat {{G}}_{t}} )=\mathop {\arg \min }\limits_{\upsilon _j^ * (\mathop {\hat {{G}}_{t}} )} \left\{ \parallel {\upsilon _i}{(\mathop {\hat {{X}}_{t}} )^T}{\upsilon _i}(\mathop {\hat {{G}}_{t}} ) - \mathop {\hat {{y}}_{{i}}}\parallel _2^2 + {\partial _t}\parallel {\upsilon _i}(\mathop {\hat {{G}}_{t}} ) - {\upsilon _i}( {\hat{ G}}_{{{t}} - 1})\parallel _2^2 + \gamma \parallel {\upsilon _i}(\mathop {\hat {{G}}_{t}} ) + {\upsilon _i}(\mathop {\hat {{U}}_{t}} ) - {\upsilon _i}(\sqrt T {{F}}{{F}}_t)\parallel _2^2 \right\} $ | (6) |
现引入Sherman-Morrison定理减少最优解的复杂度,即有
| $\begin{array}{l} \upsilon _i^ * (\mathop {\hat {{G}}_{t}} ) = \dfrac{1}{{T(\gamma + {\partial _t})}}\left({{I}} - \dfrac{{{\upsilon _i}(\mathop {\hat {{X}}_{t}} ){\upsilon _i}{{(\mathop {\hat {{X}}_{t}} )}^T}}}{{T(\gamma + {\partial _t}) + {\upsilon _i}(\mathop {\hat {{X}}_{t}} ){\upsilon _i}{{(\mathop {\hat {{X}}_{t}} )}^T}}}\right)\cdot {\upsilon _i}(\mathop {\hat {{X}}_{t}} ){\mathop {\hat{{y}}}_i} + T\beta {\upsilon _i}(\mathop {\hat {{G}}_{{{t}}-1}} ) - T\gamma {\upsilon _i}(\mathop {\hat {{U}}_{t}} ) + T\gamma {\upsilon _i}(\sqrt T{{F}} {{{F_t}}}) \end{array} $ | (7) |
2)子问题
由矩阵的二范数和求导法则可知其闭式解为
| ${f^{j }} = {({{{A}}^T}{{A}} + \gamma T{{I}})^{ - 1}}\gamma T({\hat{ u}}_{t}^{{j}} + {\hat{ g}}_{t}^{{j}}) = \dfrac{{\gamma T({\hat{ u}}_{t}^{{j}} + {\hat{ g}}_{t}^{{j}})}}{{{{w}} \odot {{w}} + \gamma T}}$ | (8) |
式中
3)子问题
解法同子问题 2)
| $\partial _t^ * = 2\partial - \sum\limits_{j = 1}^K {\parallel {\hat{ g}}_t^j - {\hat{ g}}_{t}^{{{j}} - 1}\parallel _2^2} $ | (9) |
4)子问题
该求解过程实质上是对拉格朗日算子的更新,即
| ${{\mathop {\hat{{U}}} }^{k + 1}} = {{\mathop {\hat{{U}}} }^k} + {\gamma ^k}({\hat{{G}} ^{{{k + 1}}}}{\rm{ - }}{{\mathop {\hat{{F}}}} ^{{{k + 1}}}})$ | (10) |
在算法的整个优化过程中,将滤波器和时间正则化参数的求解分成两个部分。第一部分是通过式(7)获得辅助变量频域
通过式(5)获得t-1个样本在第j通道的辅助变量频域解
| ${{R}_t} = {{\cal F}^{ - 1}}\sum\limits_{j = 1}^K {({\hat{ z}}_{t}^{{j}}} \odot {\hat{ g}}_{{{t}} - 1}^{{j}})$ | (11) |
将全部通道的响应图进行叠加,通过寻找响应图
本文算法的流程如图1所示。首先根据第一帧目标所在的位置,提取感兴趣区域的特征作为训练样本。本文引入空间正则项获取可靠的滤波器惩罚系数,相邻两帧的响应图联系作为时间正则项控制滤波器的更新,将两者相结合实现对滤波器的合理约束。使用相关滤波方法训练目标滤波器模板,在下一帧图像目标范围提取目标特征,构建尺度金字塔,估计出最优尺度模板并更新。采用自适应更新策略机制对目标响应峰值位置进行置信度判断并对模板进行自适应更新。
|
图 1 本文算法流程图 Figure 1 Flowchart of the algorithm in this paper |
为保证算法的公平性,本文所有实验均使用Hog特征,与基准Autotrack算法所提取目标的特征一致。本文实验均在2.50 GHz,Intel(R)Xeon(R)CPU, 32 GB RAM计算机上进行。
4 实验结果分析为检验快速运动情形下的相关滤波跟踪算法的跟踪性能,本文选取8个相关滤波跟踪算法(Autotrack[14]、STRCF[16]、Staple[10]、FDSST[17]、KCF[6]、Struck[18]、CSK[19]、TLD[20])在OTB-2013数据集上与本文算法进行比较。OTB-2013公开数据集包括了快速运动、遮挡、低分辨率等各种挑战场景,因此常用于目标跟踪算法的综合性能评价标准。图2是不同跟踪算法在OTB-2013数据集上的距离精度曲线和成功率曲线。由图2可知,在快速运动场景下,本文算法的准确率和成功率名列前茅。改进后的算法添加了空间正则项,有效缓解了边界效应,提升了原算法在快速运动场景下的跟踪性能,相较于原基准Autotrack算法,得分分别上升了4.3%和2.6%。
|
图 2 多种算法基于OTB-2013平台快速运动场景下的准确率和成功率图 Figure 2 Accuracy and success rates of algorithms based on OTB-2013 in fast motion scenarios |
图3是多种算法基于OTB-2013平台综合准确率和成功率图,其值如表1所示。经对比可知,本文提出的算法在综合得分上略有下降,准确率和成功率分别下降了1.3%和1.1%。经分析可知,其原因在于修改后的算法去除了原基准算法中局部响应变化项对滤波器的约束作用,尽管该算法使得跟踪器在快速运动的情景下实现了较好的跟踪性能,但是其抗遮挡能力不可避免地下降,因而影响了总体得分。
|
图 3 多种算法基于OTB-2013平台综合准确率和成功率图 Figure 3 Integrated accuracy and success rates of algorithms based on OTB-2013 |
|
|
表 1 多种算法基于OTB-2013平台综合准确率和成功率 Table 1 Integrated accuracy and success rates of algorithms based on OTB-2013 |
图4、图5是多种算法基于OTB-2013平台于在低分辨率场景和出视野场景下的准确率和成功率图,相应的值如表2、表3所示。由此可知:在低分辨率的场景下,本文算法相较于STRCF算法,在准确率和成功率的得分上分别提升了14.5%和13.4%;在出视野的场景下,准确率和成功率分别提升了7.8%和5.8%。
|
图 4 多种算法基于OTB-2013平台于低分辨率场景下的准确率和成功率图 Figure 4 Accuracy and success rates of algorithms based on OTB-2013 in low resolution scenarios |
|
图 5 多种算法基于OTB-2013平台出视野场景下的准确率和成功率图 Figure 5 Accuracy and success rates of algorithms based on OTB-2013 in out of view scenarios |
|
|
表 2 多种算法在不同应用场景的准确率 Table 2 Accuracy of multiple algorithms in different application scenarios |
|
|
表 3 多种算法在不同应用场景下的成功率 Table 3 Success rate of multiple algorithms in different application scenarios |
本文提出了将空间正则项与时间正则项相结合引入目标函数中进行优化的算法。通过引入空间正则项使空间正则权重在跟踪过程中与目标建立联系,从而获取可靠的滤波器惩罚系数。利用相邻两帧响应图的联系作为时间正则项,使其在跟踪过程中自适应更新,降低滤波器退化带来的影响,有效缓解边界效应。同时对跟踪过程中由于特殊场景导致的畸变进行抑制,提升跟踪器在应对快速运动等复杂场景时的鲁棒性。改进后的针对快速运动情景的算法,仍可用ADMM对目标函数进行优化,且不增加计算复杂度,基本可以实现实时跟踪。实验对比表明,在目标发生快速运动、低分辨率、出视野等复杂场景下,本文算法具有更强的稳定性。本文提出的算法在遮挡情景下仍有一定的提升空间,还可继续改进算法在应对遮挡情景下的鲁棒性,从而进一步提高跟踪性能。
| [1] | KARADUMAN M, ÇINAR A, EREN H. UAV traffic patrolling via road detection and tracking in anonymous aerial video frames[J]. Journal of Intelligent & Robotic Systems, 2019, 95(2): 675–690. |
| [2] | BROWN M, FUNKE J, ERLIEN S, et al. Safe driving envelopes for path tracking in autonomous vehicles[J]. Control Engineering Practice, 2017, 61: 307–316. DOI:10.1016/j.conengprac.2016.04.013 |
| [3] | YANG H X, SHAO L, ZHENG F, et al. Recent advances and trends in visual tracking: a review[J]. Neurocomputing, 2011, 74(18): 3823–3831. DOI:10.1016/j.neucom.2011.07.024 |
| [4] | 卢湖川, 李佩霞, 王栋. 目标跟踪算法综述[J]. 模式识别与人工智能, 2018, 31(1): 61–76. |
| [5] | BOLME D S, BEVERIDGE J R, DRAPER B A, et al. Visual object tracking using adaptive correlation filters[C]//Proceedings of 2010 IEEE Computer Society Conference on Computer Vision and Pattern Recognition. San Francisco, CA: IEEE, 2010: 2544-2550. |
| [6] | HENRIQUES J F, CASEIRO R, MARTINS P, et al. High-speed tracking with kernelized correlation filters[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2015, 37(3): 583–596. DOI:10.1109/TPAMI.2014.2345390 |
| [7] | DANELLJAN M, HÄGER G, KHAN F S, et al. Accurate scale estimation for robust visual tracking[C]//Proceedings of the British Machine Vision Conference. BMVA Press, 2014. |
| [8] | BERTINETTO L, VALMADRE J, GOLODETZ S, et al. Staple: complementary learners for real-time tracking[C]//Proceedings of 2016 IEEE Conference on Computer Vision and Pattern Recognition. Las Vegas, NV: IEEE, 2016: 1401 − 1409. |
| [9] | DANELLJAN M, KHAN F S, FELSBERG M, et al. Adaptive color attributes for real-time visual tracking[C]//Proceedings of 2014 IEEE Conference on Computer Vision and Pattern Recognition. Columbus, OH: IEEE, 2014: 1090 − 1097. |
| [10] | DALAL N, TRIGGS B. Histograms of oriented gradients for human detection[C]//Proceedings of 2005 IEEE Computer Society Conference on Computer Vision and Pattern Recognition (CVPR'05). San Diego, CA: IEEE, 2005: 886 − 893. |
| [11] | DANELLJAN M, ROBINSON A, KHAN F S, et al. Beyond correlation filters: learning continuous convolution operators for visual tracking[C]// Proceedings of the 14th European Conference on Computer Vision. Amsterdam: Springer, 2016: 472 − 488. |
| [12] | DANELLJAN M, BHAT G, KHAN F S, et al.Eco: efficient convolution operators for tracking[C]// Proceedings of 2017 IEEE Conference on Computer Vision and Pattern Recognition. Honolulu, HI: IEEE, 2017: 6638 − 6646. |
| [13] | GALOOGAHI H K, FAGG A, LUCEY S. Learning background-aware correlation filters for visual tracking[C]//Proceedings of 2017 IEEE International Conference on Computer Vision. Venice, Italy: IEEE, 2017: 1135 − 1143. |
| [14] | BOYD S, PARIKH N, CHU E, et al. Distributed optimization and statistical learning via the alternating direction method of multipliers[J]. Foundations and Trends® in Machine Learning, 2011, 3(1): 1–122. |
| [15] | LI Y M, FU C G, DING F Q, et al. Auto Track: towards high-performance visual tracking for UAV with automatic spatio-temporal regularization[C]// Proceedings of 2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition. Seattle, WA: IEEE, 2020: 11923 − 11932. |
| [16] | LI F, TIAN C, ZUO W M, et al. Learning spatial-temporal regularized correlation filters for visual tracking[C]//Proceedings of 2018 IEEE/CVF conference on computer vision and pattern recognition. Salt Lake City, UT: IEEE, 2018: 4904-4913. |
| [17] | DANELLJAN M, HÄGER G, KHAN F S, et al. Accurate scale estimation for robust visual tracking[C]//Proceedings of the British machine vision conference. BMVA Press, 2014. |
| [18] | HARE S, GOLODETZ S, SAFFARI A, et al. Struck: structured output tracking with kernels[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2016, 38(10): 2096–2109. DOI:10.1109/TPAMI.2015.2509974 |
| [19] | HENRIQUES J F, CASEIRO R, MARTINS P, et al. Exploiting the circulant structure of tracking-by-detection with kernels[C]//Proceedings of the 12th European Conference on Computer Vision . Florence, Italy: Springer, 2012: 702 − 715. |
| [20] | MA C, YANG X K, ZHANG C Y, et al. Long-term correlation tracking[C]//Proceedings of 2015 IEEE Conference on Computer Vision and Pattern Recognition. Boston, MA: IEEE, 2015: 5388 − 5396. |
2021, Vol. 43
Issue (2): 31-38


