留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

高分辨率可见光遥感图像舰船目标检测综述

宋志娜 眭海刚 李永成

宋志娜, 眭海刚, 李永成. 高分辨率可见光遥感图像舰船目标检测综述[J]. 武汉大学学报 ● 信息科学版, 2021, 46(11): 1703-1715. doi: 10.13203/j.whugis20200481
引用本文: 宋志娜, 眭海刚, 李永成. 高分辨率可见光遥感图像舰船目标检测综述[J]. 武汉大学学报 ● 信息科学版, 2021, 46(11): 1703-1715. doi: 10.13203/j.whugis20200481
SONG Zhina, SUI Haigang, LI Yongcheng. A Survey on Ship Detection Technology in High-Resolution Optical Remote Sensing Images[J]. Geomatics and Information Science of Wuhan University, 2021, 46(11): 1703-1715. doi: 10.13203/j.whugis20200481
Citation: SONG Zhina, SUI Haigang, LI Yongcheng. A Survey on Ship Detection Technology in High-Resolution Optical Remote Sensing Images[J]. Geomatics and Information Science of Wuhan University, 2021, 46(11): 1703-1715. doi: 10.13203/j.whugis20200481

高分辨率可见光遥感图像舰船目标检测综述

doi: 10.13203/j.whugis20200481
基金项目: 

国家自然科学基金 41771457

国家重点研发计划 2018YFB10046

湖北省自然资源厅科技项目 ZRZY2020KJ03

详细信息
    作者简介:

    宋志娜,博士,主要从事遥感图像目标信息提取研究。song.zhina@163.com

    通讯作者: 眭海刚,博士,教授。haigang_sui@263.net
  • 中图分类号: P237

A Survey on Ship Detection Technology in High-Resolution Optical Remote Sensing Images

Funds: 

The National Natural Science Foundation of China 41771457

the National Key Research and Development Program of China 2018YFB10046

Research Program of the Department of the Natural Resources of Hubei Province of China ZRZY2020KJ03

More Information
    Author Bio:

    SONG Zhina, PhD, specializes in extracting target information from remote sensing images. E-mail: song.zhina@163.com

    Corresponding author: SUI Haigang, PhD, professor. E-mail: haigang_sui@263.net
  • 摘要: 利用大规模、高分辨率可见光遥感图像探测舰船目标一直是遥感领域的研究热点,其在军事和民用领域发挥着重要作用。舰船目标背景的复杂多变性,舰船目标的多尺度、多种类、多姿态类内差异性,以及检测模型的局限性等问题,都给大范围的高分辨率可见光遥感图像舰船目标探测带来了极大的挑战。首先对利用遥感技术进行舰船检测的方法体系进行总结归纳,然后在此基础上聚焦当前研究热点,对2010—2020年高分可见光遥感图像舰船目标的检测技术体系与发展历程进行概述,并对主流的检测方法进行详细论述,以期推动高分辨率可见光遥感影像舰船检测更加深入的研究和更加广泛的应用。
  • 图  1  2011—2020年高分可见光遥感图像舰船目标检测相关主题文献发表统计

    Figure  1.  Statistics of the Number of Publications on the Subject of Ship Detection Based on High-Resolution Optical Remote Sensing Images from 2011 to 2020

    图  2  高分可见光遥感图像舰船目标检测方法体系

    Figure  2.  Methodology System of Ship Detection in High-Resolution Optical Remote Sensing Images

    图  3  高分辨率可见光遥感图像舰船目标检测方法发展历程

    Figure  3.  Development History of Ship Detection Methods in High-Resolution Optical Remote Sensing Images

    表  1  高分辨率可见光遥感图像舰船目标检测有关公开数据集统计

    Table  1.   Public Detection Datasets Related to Ship Targets in High-Resolution Optical Remote Sensing

    数据集 目标个数(训练+验证) 图像大小/像素 分辨率/m 标注方法 被引用次数
    NWPU VHR-10[93] 约300 450~1 500 0.5~2 水平框 261
    HRSC2016 [94] 约3 000 300~1 500 0.4~2 水平框/旋转框 39
    Kaggle-ship[95] 约80 000 768 约2 掩码 43
    HRRSD[96] 约2 000 150~15 000 0.15~1.2 水平框 20
    DOTA [97] 约45 000 400~15 000 0.1~5 水平框/旋转框 315
    iSAID[98] 约80 000 400~15 000 0.1~5 掩码 11
    DIOR[99] 约60 000 800 0.5~5 水平框 43
    xView[100] 约10 000 2 500~5 000 0.3 水平框 10
    下载: 导出CSV
  • [1] Kanjir U, Greidanus H, Oštir K. Vessel Detection and Classification from Spaceborne Optical Images: A Literature Survey[J]. Remote Sensing of Environment, 2018, 207: 1-26 doi:  10.1016/j.rse.2017.12.033
    [2] 刘俊琦, 李智, 张学阳. 可见光遥感图像海面目标检测技术综述[J]. 计算机科学, 2020, 47(3): 116-123 https://www.cnki.com.cn/Article/CJFDTOTAL-JSJA202003021.htm

    Liu Junqi, Li Zhi, Zhang Xueyang. Review of Maritime Target Detection in Visible Bands of Optical Remote Sensing Images[J]. Computer Science, 2020, 47(3): 116-123 https://www.cnki.com.cn/Article/CJFDTOTAL-JSJA202003021.htm
    [3] 李晓斌, 江碧涛, 杨渊博, 等. 光学遥感图像目标检测技术综述[J]. 航天返回与遥感, 2019, 40(4): 95-104 doi:  10.3969/j.issn.1009-8518.2019.04.011

    Li Xiaobin, Jiang Bitao, Yang Yuanbo, et al. A Survey on Object Detection Technology in Optical Remote Sensing Images[J]. Spacecraft Recovery & Remote Sensing, 2019, 40(4): 95-104 doi:  10.3969/j.issn.1009-8518.2019.04.011
    [4] 李健伟, 曲长文, 彭书娟. SAR图像舰船目标联合检测与方向估计[J]. 武汉大学学报·信息科学版, 2019, 44(6): 901-907 doi:  10.13203/j.whugis20170328

    Li Jianwei, Qu Changwen, Peng Shujuan. A Joint SAR Ship Detection and Azimuth Estimation Method [J]. Geomatics and Information Science of Wuhan University, 2019, 44(6): 901-907 doi:  10.13203/j.whugis20170328
    [5] 张晓东, 张力飞, 陈关州, 等. 基于深度学习的遥感影像地物目标检测和轮廓提取一体化模型[J]. 测绘地理信息, 2019, 44(6): 1-5 https://www.cnki.com.cn/Article/CJFDTOTAL-CHXG201906001.htm

    Zhang Xiaodong, Zhang Lifei, Chen Guanzhou, et al. An Integrated Model of Object Detection and Contour Extraction Based on Deep Learning[J]. Journal of Geomatics, 2019, 44(6): 1-5 https://www.cnki.com.cn/Article/CJFDTOTAL-CHXG201906001.htm
    [6] Kang M, Ji K F, Leng X G, et al. Contextual Region-Based Convolutional Neural Network with Multilayer Fusion for SAR Ship Detection[J]. Remote Sensing, 2017, 9(8): 860 doi:  10.3390/rs9080860
    [7] 王鹏, 吕高杰, 龚俊斌, 等. 一种复杂海天背景下的红外舰船目标自动检测方法[J]. 武汉大学学报·信息科学版, 2011, 36(12): 1 438-1 441 http://ch.whu.edu.cn/article/id/743

    Wang Peng, Lü Gaojie, Gong Junbin, et al. An Automatic Target Detection Method for Infrared Ship in Complex Sea-Sky Background[J]. Geomatics and Information Science of Wuhan University, 2011, 36 (12): 1 438-1 441 http://ch.whu.edu.cn/article/id/743
    [8] 张志新, 徐清俊, 张川, 等. 基于单景高分四号卫星多光谱影像的舰船运动特征检测[J]. 遥感技术与应用, 2019, 34(4): 892-900 https://www.cnki.com.cn/Article/CJFDTOTAL-YGJS201904025.htm

    Zhang Zhixin, Xu Qingjun, Zhang Chuan, et al. Ship Moving Feature Detection Using a Single GF-4 Multispectral Image[J]. Remote Sensing Technology and Application, 2019, 34(4): 892-900 https://www.cnki.com.cn/Article/CJFDTOTAL-YGJS201904025.htm
    [9] Sun Hao, Wang Cheng, Wang Boliang. Unsupervised Video-Based Lane Detection Using LocationEnhanced Topic Models[J]. Optical Engineering, 2010, 49(10): 1-9 doi:  10.1117/1.OE.49.10.105001
    [10] LeCun Y, Bengio Y, Hinton G. Deep Learning [J]. Nature, 2015, 521(7 553): 436-444
    [11] Ren S, He K, Girshick R, et al. Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks[J]. IEEE Transactions on Pattern Analysis & Machine Intelligence, 2017, 39(6): 1 137-1 149 http://www.ee.bgu.ac.il/~rrtammy/DNN/reading/FastSun.pdf
    [12] Redmon J, Farhadi A. YOLOv3: An Incremental Improvement[J]. ArXiv Preprint, 2018: 1804. 02767 http://users.soe.ucsc.edu/~czczycz/src/YOLOv3.pdf
    [13] Liu W, Anguelov D, Erhan D, et al. SSD: Single Shot MultiBox Detector[M]. Cham: Springer International Publishing, 2016
    [14] Lin T Y, Goyal P, Girshick R, et al. Focal Loss for Dense Object Detection[C]// IEEE International Conference on Computer Vision, Venice, Italy, 2017
    [15] Máttyus G. Near Real-Time Automatic Marine Vessel Detection on Optical Satellite Images[J]. The International Archives of the Photogrammetry, Remote Sensing and Spatial Information Sciences, 2013, XL-1/W1: 233-237 http://elib-v3.dlr.de/82654/1/isprsarchives-XL-1-W1-233-2013.pdf
    [16] Bi F K,Liu F,Gao L N. A Hierarchical SalientRegion Based Algorithm for Ship Detection in Remote Sensing Images[J]. Advances in Neural Network Research and Applications,2010,DOI:  10.1007/978-3-642-12990-2_85
    [17] Liu G, Zhang Y S, Zheng X W, et al. A New Method on Inshore Ship Detection in High-Resolution Satellite Images Using Shape and Context Information[J]. IEEE Geoscience and Remote Sensing Letters, 2014, 11(3): 617-621 doi:  10.1109/LGRS.2013.2272492
    [18] Proia N, Pagé V. Characterization of a Bayesian Ship Detection Method in Optical Satellite Images [J]. IEEE Geoscience and Remote Sensing Letters, 2010, 7(2): 226-230 doi:  10.1109/LGRS.2009.2031826
    [19] Zhu C R, Zhou H, Wang R S, et al. A Novel Hierarchical Method of Ship Detection from Spaceborne Optical Image Based on Shape and Texture Features[J]. IEEE Transactions on Geoscience and Remote Sensing, 2010, 48(9): 3 446-3 456 doi:  10.1109/TGRS.2010.2046330
    [20] 祝胜男, 郭炜炜, 柳彬, 等. 利用超像素级上下文特征进行靠岸集装箱船检测[J]. 武汉大学学报·信息科学版, 2019, 44(4): 578-585 doi:  10.13203/j.whugis20170129

    Zhu Shengnan, Guo Weiwei, Liu Bin, et al. Detection Containers Based on Superpixel-Level Contextual Feature[J]. Geomatics and Information Science of Wuhan University, 2019, 44(4): 578-585 doi:  10.13203/j.whugis20170129
    [21] Wang B Y, Zhang R, Yuan Y, et al. An AutoAdapt Multi-level Threshold Segmentation Method of Ships Detection in Remote Sensing Images with Complex Sea Surface Background[C]//2011 International Workshop on Multi-Platform/Multi-Sensor Remote Sensing and Mapping, Xiamen, China, 2011
    [22] Kumar S, Selvi M. Sea Object Detection Using Colour and Texture Classification[J]. International Journal of Computer Applications in Technology, 2011, 1(1): 59-63
    [23] Rainey K, Stastny J. Object Recognition in Ocean Imagery Using Feature Selection and Compressive Sensing[C]// IEEE Applied Imagery Pattern Recognition Workshop (AIPR), Washington DC, America, 2011
    [24] Bi F K, Zhu B C, Gao L N, et al. A Visual Search Inspired Computational Model for Ship Detection in Optical Satellite Images[J]. IEEE Geoscience and Remote Sensing Letters, 2012, 9(4): 749-753 doi:  10.1109/LGRS.2011.2180695
    [25] Li Z C, Itti L. Saliency and Gist Features for Target Detection in Satellite Images[J]. IEEE Transactions on Image Processing, 2011, 20(7): 2 017- 2 029 doi:  10.1109/TIP.2010.2099128
    [26] Han J W, He S, Qian X L, et al. An ObjectOriented Visual Saliency Detection Framework Based on Sparse Coding Representations[J]. IEEE Transactions on Circuits and Systems for Video Technology, 2013, 23(12): 2 009-2 021 doi:  10.1109/TCSVT.2013.2242594
    [27] Zhao Q, Koch C. Learning Saliency-Based Visual Attention: A Review[J]. Signal Processing, 2013, 93(6): 1 401-1 407 doi:  10.1016/j.sigpro.2012.06.014
    [28] Xia Y, Wan S H, Jin P Q, et al. A Novel SeaLand Segmentation Algorithm Based on Local Binary Patterns for Ship Detection[J]. International Journal of Signal Processing, Image Processing and Pattern Recognition, 2014, 7(3): 237-246 doi:  10.14257/ijsip.2014.7.3.19
    [29] Li S, Zhou Z Q, Wang B, et al. A Novel Inshore Ship Detection via Ship Head Classification and Body Boundary Determination[J]. IEEE Geoscience and Remote Sensing Letters, 2016, 13(12): 1 920- 1 924 doi:  10.1109/LGRS.2016.2618385
    [30] Ma L, Guo J, Wang Y Q, et al. Ship Detection by Salient Convex Boundaries[C]//The 3rd International Congress on Image and Signal Processing, Yantai, China, 2010
    [31] Borji A, Cheng M M, Hou Q B, et al. Salient Object Detection: A Survey[J]. Computational Visual Media, 2019, 5(2): 117-150 doi:  10.1007/s41095-019-0149-9
    [32] Han J W, Zhou P C, Zhang D W, et al. Efficient, Simultaneous Detection of Multi-class Geospatial Targets Based on Visual Saliency Modeling and Discriminative Learning of Sparse Coding[J]. ISPRS Journal of Photogrammetry and Remote Sensing, 2014, 89: 37-48 doi:  10.1016/j.isprsjprs.2013.12.011
    [33] 郭少军, 沈同圣, 徐健, 等. 基于ObjectNess BING的海面多舰船目标检测[J]. 系统工程与电子技术, 2016, 38(1): 14-20 https://www.cnki.com.cn/Article/CJFDTOTAL-XTYD201601004.htm

    Guo Shaojun, Shen Tongsheng, Xu Jian, et al. Detection of Multi-Ship Targets at Sea Based on Object Ness BING[J]. Systems Engineering and Electronics, 2016, 38(1): 14-20 https://www.cnki.com.cn/Article/CJFDTOTAL-XTYD201601004.htm
    [34] Jubelin G, Khenchaf A. Multiscale Algorithm for Ship Detection in Mid, High and very High Resolution Optical Imagery[C]// IEEE Geoscience and Remote Sensing Symposium, Quebec City, Canada, 2014
    [35] Yang G, Li B, Ji S F, et al. Ship Detection from Optical Satellite Images Based on Sea Surface Analysis[J]. IEEE Geoscience and Remote Sensing Letters, 2014, 11(3): 641-645 doi:  10.1109/LGRS.2013.2273552
    [36] Li Z M, Yang D Q, Chen Z Z. Multi-Layer Sparse Coding Based Ship Detection for Remote Sensing Images[C]// IEEE International Conference on Information Reuse and Integration, San Francisco, California, USA, 2015
    [37] Qi S X, Ma J, Lin J, et al. Unsupervised Ship Detection Based on Saliency and S-HOG Descriptor from Optical Satellite Images[J]. IEEE Geoscience and Remote Sensing Letters, 2015, 12(7): 1 451- 1 455 doi:  10.1109/LGRS.2015.2408355
    [38] Yang F, Xu Q Z, Gao F, et al. Ship Detection from Optical Satellite Images Based on Visual Search Mechanism[C]// IEEE International Geoscience and Remote Sensing Symposium (IGARSS), Milan, Italy, 2015
    [39] Sui H G,Song Z N. A Novel Ship Detection Method for Large-Scale Optical Satellite Images Based on Visual LBP Feature and Visual Attention Model [J]. ISPRS-International Archives of the Photogrammetry,Remote Sensing and Spatial Information Sciences,2016,DOI:  10.5194/isprsarchives-XLI-B3-917-2016
    [40] Wang X, Shen S, Ning C, et al. Multi-Class Remote Sensing Object Recognition Based on Discriminative Sparse Representation[J]. Applied Optics, 2016, 55(6): 1 381-1 394 doi:  10.1364/AO.55.001381
    [41] Xu F, Liu J H. Ship Detection and Extraction Using Visual Saliency and Histogram of Oriented Gradient [J]. Optoelectronics Letters, 2016, 12(6): 473-477 doi:  10.1007/s11801-016-6179-y
    [42] Xu F, Liu J H, Dong C, et al. Ship Detection in Optical Remote Sensing Images Based on Wavelet Transform and Multi-Level False Alarm Identification[J]. Remote Sensing, 2017, 9(10): 985 doi:  10.3390/rs9100985
    [43] Nie T, He B, Bi G L, et al. A Method of Ship Detection Under Complex Background[J]. ISPRS International Journal of Geo Information, 2017, 6 (6): 159 doi:  10.3390/ijgi6060159
    [44] Zou Z X, Shi Z W. Ship Detection in Spaceborne Optical Image with SVD Networks[J]. IEEE Transactions on Geoscience and Remote Sensing, 2016, 54(10): 5 832-5 845 doi:  10.1109/TGRS.2016.2572736
    [45] Yokoya N, Iwasaki A. Object Detection Based on Sparse Representation and Hough Voting for Optical Remote Sensing Imagery[J]. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing, 2015, 8(5): 2 053-2 062 doi:  10.1109/JSTARS.2015.2404578
    [46] He H J, Lin Y D, Chen F, et al. Inshore Ship Detection in Remote Sensing Images via Weighted Pose Voting[J]. IEEE Transactions on Geoscience and Remote Sensing, 2017, 55(6): 3 091-3 107 doi:  10.1109/TGRS.2017.2658950
    [47] Song P F, Qi L, Qian X M, et al. Detection of Ships in Inland River Using High-Resolution Optical Satellite Imagery Based on Mixture of Deformable Part Models[J]. Journal of Parallel and Distributed Computing, 2019, 132: 1-7 doi:  10.1016/j.jpdc.2019.04.013
    [48] Alom M Z, Taha T M, Yakopcic C, et al. The History Began from AlexNet: A Comprehensive Survey on Deep Learning Approaches[J]. ArXiv Preprint , 2018: 1803. 01164 http://arxiv.org/ftp/arxiv/papers/1803/1803.01164.pdf
    [49] 张瑞倩, 邵振峰, Aleksei Portnov, 等. 多尺度空洞卷积的无人机影像目标检测方法[J]. 武汉大学学报·信息科学版, 2020, 45(6): 895-903 doi:  10.13203/j.whugis20200253

    Zhang Ruiqian, Shao Zhenfeng, Portnov A, et al. Multi-scale Dilated Convolutional Neural Network for Object Detection in UAV Images[J]. Geomatics and Information Science of Wuhan University, 2020, 45(6): 895-903 doi:  10.13203/j.whugis20200253
    [50] Yu F, Koltun V. Multi-scale Context Aggregation by Dilated Convolutions[J]. ArXiv Preprint, 2015: 1511. 07122 http://www.cvlibs.net/projects/autonomous_vision_survey/slides/Yu2016ICLR/top.pdf
    [51] Chen L C, Papandreou G, Kokkinos I, et al. DeepLab: Semantic Image Segmentation with Deep Convolutional Nets, Atrous Convolution, and Fully Connected CRFS[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2018, 40 (4): 834-848 doi:  10.1109/TPAMI.2017.2699184
    [52] Zheng Z, Zhong Y F, Ma A L, et al. HyNet: Hyper-Scale Object Detection Network Framework for Multiple Spatial Resolution Remote Sensing Imagery [J]. ISPRS Journal of Photogrammetry and Remote Sensing, 2020, 166: 1-14 doi:  10.1016/j.isprsjprs.2020.04.019
    [53] Xie W Y, Qin H N, Li Y S, et al. A Novel Effectively Optimized One-Stage Network for Object Detection in Remote Sensing Imagery[J]. Remote Sensing, 2019, 11(11): 1 376 doi:  10.3390/rs11111376
    [54] Chen C Y, Gong W G, Chen Y L, et al. Object Detection in Remote Sensing Images Based on a SceneContextual Feature Pyramid Network[J]. Remote Sensing, 2019, 11(3): 339 doi:  10.3390/rs11030339
    [55] Hu J, Shen L, Sun G. Squeeze-and-Excitation Networks[C]// IEEE/CVF Conference on Computer Vision and Pattern Recognition, Salt Lake City, Utah, USA, 2018
    [56] Jaderberg M, Simonyan K, Zisserman A. Spatial Transformer Networks[C]// Advances in Neural Information Processing Systems, Montreal, Canada, 2015
    [57] Woo S, Park J, Lee J Y, et al. CBAM: Convolutional Block Attention Module[M]. Cham: Springer International Publishing, 2018
    [58] Wang X L, Girshick R, Gupta A, et al. Non-Local Neural Networks[C]// IEEE/CVF Conference on Computer Vision and Pattern Recognition, Salt Lake City, Utah, USA, 2018
    [59] Huang G Q, Wan Z N, Liu X G, et al. Ship Detection Based on Squeeze Excitation Skip-Connection Path Networks for Optical Remote Sensing Images [J]. Neurocomputing, 2019, 332: 215-223 doi:  10.1016/j.neucom.2018.12.050
    [60] Al-Alimi D, Shao Y X, Feng R Y, et al. MultiScale Geospatial Object Detection Based on ShallowDeep Feature Extraction[J]. Remote Sensing, 2019, 11(21): 2 525 doi:  10.3390/rs11212525
    [61] Azimi S M, Vig E, Bahmanyar R, et al. Towards Multi-Class Object Detection in Unconstrained Remote Sensing Imagery[C]. The 14th Asian Conference on Computer Vision, Perth, Australia, 2018
    [62] Yang X, Yang J R, Yan J C, et al. SCRDet: Towards More Robust Detection for Small, Cluttered and Rotated Objects[C]// IEEE/CVF International Conference on Computer Vision, Seoul, Korea (South), 2019
    [63] Zhang G J, Lu S J, Zhang W. CAD-Net: A Context-Aware Detection Network for Objects in Remote Sensing Imagery[J]. IEEE Transactions on Geoscience and Remote Sensing, 2019, 57(12): 10 015-10 024 doi:  10.1109/TGRS.2019.2930982
    [64] Wang J W, Ding J, Guo H W, et al. Mask OBB: A Semantic Attention-Based Mask Oriented Bounding Box Representation for Multi-category Object Detection in Aerial Images[J]. Remote Sensing, 2019, 11 (24): 2 930 doi:  10.3390/rs11242930
    [65] Li C, Xu C, Cui Z, et al. Learning Object-Wise Semantic Representation for Detection in Remote Sensing Imagery[C]. The IEEE Conference on Computer Vision and Pattern Recognition Workshops, Long Beach, California, USA, 2019
    [66] Lin H N, Shi Z W, Zou Z X. Fully Convolutional Network with Task Partitioning for Inshore Ship Detection in Optical Remote Sensing Images[J]. IEEE Geoscience and Remote Sensing Letters, 2017, 14 (10): 1 665-1 669 doi:  10.1109/LGRS.2017.2727515
    [67] Lin T Y, Dollár P, Girshick R, et al. Feature Pyramid Networks for Object Detection[C]// IEEE Conference on Computer Vision and Pattern Recognition, Honolulu, Hawaii, USA, 2017
    [68] Li Q P, Mou L C, Liu Q J, et al. HSF-Net: Multiscale Deep Feature Embedding for Ship Detection in Optical Remote Sensing Imagery[J]. IEEE Transactions on Geoscience and Remote Sensing, 2018, 56 (12): 7 147-7 161 doi:  10.1109/TGRS.2018.2848901
    [69] Yang X, Sun H, Fu K, et al. Automatic Ship Detection in Remote Sensing Images from Google Earth of Complex Scenes Based on Multiscale Rotation Dense Feature Pyramid Networks[J]. Remote Sensing, 2018, 10(1): 132 doi:  10.3390/rs10010132
    [70] Deng Z P, Sun H, Zhou S L, et al. Multi-Scale Object Detection in Remote Sensing Imagery with Convolutional Neural Networks[J]. ISPRS Journal of Photogrammetry and Remote Sensing, 2018, 145: 3-22 doi:  10.1016/j.isprsjprs.2018.04.003
    [71] Song Z N, Sui H G, Hua L. A Hierarchical Object Detection Method in Large-Scale Optical Remote Sensing Satellite Imagery Using Saliency Detection and CNN[J]. International Journal of Remote Sensing, 2021, 42(8): 2 827-2 847 doi:  10.1080/01431161.2020.1826059
    [72] Liu S, Qi L, Qin H F, et al. Path Aggregation Network for Instance Segmentation[C]// IEEE/CVF Conference on Computer Vision and Pattern Recognition, Salt Lake City, Utah, USA, 2018
    [73] Ghiasi G, Lin T Y, Le Q V. NAS-FPN: Learning Scalable Feature Pyramid Architecture for Object Detection[C]// IEEE/CVF Conference on Computer Vision and Pattern Recognition, Long Beach, California, USA, 2019
    [74] 徐志京, 丁莹. 自适应旋转区域生成网络的遥感图像舰船目标检测[J]. 激光与光电子学进展, 2020, 57(24): 408-415 https://www.cnki.com.cn/Article/CJFDTOTAL-JGDJ202024046.htm

    Xu Zhijing, Ding Ying. Ship Object Detection of Remote Sensing Images Based on Adaptive Rotation Region Proposal Network[J]. Laser & Optoelectronics Progress, 2020, 57(24): 408-415 https://www.cnki.com.cn/Article/CJFDTOTAL-JGDJ202024046.htm
    [75] Liu L, Pan Z X, Lei B. Learning a Rotation Invariant Detector with Rotatable Bounding Box[J]. ArXiv Preprint, 2017: 1711. 09405 http://arxiv.org/pdf/1711.09405
    [76] Liu Z K, Hu J G, Weng L B, et al. Rotated Region Based CNN for Ship Detection[C]// IEEE International Conference on Image Processing(ICIP), Beijing, China, 2017
    [77] Zhang Z H, Guo W W, Zhu S N, et al. Toward Arbitrary-Oriented Ship Detection with Rotated Region Proposal and Discrimination Networks[J]. IEEE Geoscience and Remote Sensing Letters, 2018, 15(11): 1 745-1 749 doi:  10.1109/LGRS.2018.2856921
    [78] Yang X, Liu Q Q, Yan J C, et al. R3Det: Refined Single-Stage Detector with Feature Refinement for Rotating Object[J]. ArXiv Preprint , 2019: 1908. 05612 http://arxiv.org/abs/1908.05612v1
    [79] Ding J, Xue N, Long Y, et al. Learning RoI Transformer for Oriented Object Detection in Aerial Images [C]// IEEE/CVF Conference on Computer Vision and Pattern Recognition, Long Beach, California, USA, 2019
    [80] Zhu Y X, Du J, Wu X Q. Adaptive Period Embedding for Representing Oriented Objects in Aerial Images [J]. IEEE Transactions on Geoscience and Remote Sensing, 2020, 58(10): 7 247-7 257 doi:  10.1109/TGRS.2020.2981203
    [81] Dong Z P, Wang M, Wang Y L, et al. Object Detection in High Resolution Remote Sensing Imagery Based on Convolutional Neural Networks with Suitable Object Scale Features[J]. IEEE Transactions on Geoscience and Remote Sensing, 2020, 58 (3): 2 104-2 114 doi:  10.1109/TGRS.2019.2953119
    [82] ZhangY J, ShengW G, Jiang JF, et al. PriorityBranches for Ship Detection in Optical Remote Sensing Images [J]. Remote Sensing, 2020, 12(7): 1 196 doi:  10.3390/rs12071196
    [83] Yu Y T, Guan H Y, Li D L, et al. Orientation Guided Anchoring for Geospatial Object Detection from Remote Sensing Imagery[J]. ISPRS Journal of Photogrammetry and Remote Sensing, 2020, 160: 67-82 doi:  10.1016/j.isprsjprs.2019.12.001
    [84] Sun S H, Lu Z X, Liu W J, et al. Shipnet for Semantic Segmentation on VHR Maritime Imagery [C]// IEEE International Geoscience and Remote Sensing Symposium, Valencia, Spain, 2018
    [85] Bao S Z, Zhong X, Zhu R F, et al. Single Shot Anchor Refinement Network for Oriented Object Detection in Optical Remote Sensing Imagery[J]. IEEE Access, 2019, 7: 87 150-87 161 doi:  10.1109/ACCESS.2019.2924643
    [86] Dong R C, Xu D Z, Zhao J, et al. Sig-NMSBased Faster R-CNN Combining Transfer Learning for Small Target Detection in VHR Optical Remote Sensing Imagery[J]. IEEE Transactions on Geoscience and Remote Sensing, 2019, 57(11): 8 534-8 545 doi:  10.1109/TGRS.2019.2921396
    [87] Li Z Z, You Y N, Liu F. Multi-Scale Ships Detection in High-Resolution Remote Sensing Image via Saliency-Based Region Convolutional Neural Network[C]// International Geoscience and Remote Sensing Symposium, Yokohama, Japan, 2019
    [88] You Y N, Li Z Z, Ran B H, et al. Broad Area Target Search System for Ship Detection via Deep Convolutional Neural Network[J]. Remote Sensing, 2019, 11(17): 1 965 doi:  10.3390/rs11171965
    [89] Yu Y, Ai H, He X J, et al. Ship Detection in Optical Satellite Images Using Haar-Like Features and Periphery-Cropped Neural Networks[J]. IEEE Access, 2018, 6: 71 122-71 131 doi:  10.1109/ACCESS.2018.2881479
    [90] Wang Y L, Dong Z P, Zhu Y. Multiscale Block Fusion Object Detection Method for Large-Scale HighResolution Remote Sensing Imagery[J]. IEEE Access, 2019, 7: 99 530-99 539 doi:  10.1109/ACCESS.2019.2930092
    [91] He T, Zhang Z, Zhang H, et al. Bag of Tricks for Image Classification with Convolutional Neural Networks[C]// IEEE/CVF Conference on Computer Vision and Pattern Recognition, Long Beach, CA, USA, 2019
    [92] Zhang Z, Cui X, Zheng Q, et al. Land Use Classification of Remote Sensing Images Based on Convolution Neural Network[J]. Arabian Journal of Geosciences, 2021, 14(4): 1-6 doi:  10.1007/s12517-021-06587-5
    [93] Cheng G, Han J W, Zhou P C, et al. Multi-Class Geospatial Object Detection and Geographic Image Classification Based on Collection of Part Detectors [J]. ISPRS Journal of Photogrammetry and Remote Sensing, 2014, 98: 119-132 doi:  10.1016/j.isprsjprs.2014.10.002
    [94] Liu Z K, Yuan L, Weng L B, et al. A High Resolution Optical Satellite Image Dataset for Ship Recognition and Some New Baselines[C]// The 6th International Conference on Pattern Recognition Applications and Methods, Porto, Portugal, 2017
    [95] Polat M, Alameri H, Oral E A, et al. Ship Detection in Satellite Images[C]// ISASE 2018, Spokane, Washington DC, USA, 2018
    [96] Zhang Y L, Yuan Y, Feng Y C, et al. Hierarchical and Robust Convolutional Neural Network for very High-Resolution Remote Sensing Object Detection [J]. IEEE Transactions on Geoscience and Remote Sensing, 2019, 57(8): 5 535-5 548 doi:  10.1109/TGRS.2019.2900302
    [97] Xia G S, Bai X, Ding J, et al. DOTA: A LargeScale Dataset for Object Detection in Aerial Images [C]// IEEE/CVF Conference on Computer Vision and Pattern Recognition, Salt Lake City, Utah, USA, 2018
    [98] Zamir S W, Arora A, Gupta A, et al. iSAID: A Large-Scale Dataset for Instance Segmentation in Aerial Images[C]//IEEE Conference on Computer Vision and Pattern Recognition Workshops, Long Beach, California, USA, 2019
    [99] Li K, Wan G, Cheng G, et al. Object Detection in Optical Remote Sensing Images: A Survey and a New Benchmark[J]. ISPRS Journal of Photogrammetry and Remote Sensing, 2020, 159: 296-307 doi:  10.1016/j.isprsjprs.2019.11.023
    [100] Lam D, Kuzma R, McGee K, et al. xView: Objects in Context in Overhead Imagery[J]. ArXiv Preprint, 2018: 1802. 07856 http://arxiv.org/pdf/1802.07856
  • [1] 杨元维, 王明威, 高贤君, 李熙, 张佳华.  改进Wallis模型的高分辨率遥感影像阴影自动补偿方法 . 武汉大学学报 ● 信息科学版, 2021, 46(3): 318-325. doi: 10.13203/j.whugis20190032
    [2] 王志盼, 沈彦, 王亮, 张清凌, 尤淑撑.  单类分类框架下的高分辨率遥感影像建筑物变化检测算法 . 武汉大学学报 ● 信息科学版, 2020, 45(10): 1610-1618. doi: 10.13203/j.whugis20180485
    [3] 门计林, 刘越岩, 张斌, 周繁.  多结构卷积神经网络特征级联的高分影像土地利用分类 . 武汉大学学报 ● 信息科学版, 2019, 44(12): 1841-1848. doi: 10.13203/j.whugis20180137
    [4] 眭海刚, 冯文卿, 李文卓, 孙开敏, 徐川.  多时相遥感影像变化检测方法综述 . 武汉大学学报 ● 信息科学版, 2018, 43(12): 1885-1898. doi: 10.13203/j.whugis20180251
    [5] 沈佳洁, 潘励, 胡翔云.  可变形部件模型在高分辨率遥感影像建筑物检测中的应用 . 武汉大学学报 ● 信息科学版, 2017, 42(9): 1285-1291. doi: 10.13203/j.whugis20150048
    [6] 康一飞, 潘励, 孙明伟, 陈奇, 王越.  基于高斯混合模型法的国产高分辨率卫星影像云检测 . 武汉大学学报 ● 信息科学版, 2017, 42(6): 782-788. doi: 10.13203/j.whugis20140875
    [7] 刘进, 杨洁, 庞瑞帆, 陈慧颖.  一种基于多尺度特征簇的舰船目标快速定位与识别方法 . 武汉大学学报 ● 信息科学版, 2016, 41(1): 111-116. doi: 10.13203/j.whugis20130824
    [8] 眭海刚, 华凤, 范一大, 刘俊怡.  利用GIS与贝叶斯网络进行高分辨率SAR影像道路损毁信息提取 . 武汉大学学报 ● 信息科学版, 2016, 41(5): 578-583. doi: 10.13203/j.whugis20140323
    [9] 曹建农, 王平禄, 董昱威.  高分辨率遥感影像上居民地自动提取方法 . 武汉大学学报 ● 信息科学版, 2014, 39(7): 831-837.
    [10] 杨红卫, 童小华.  高分辨率影像的橡胶林分布信息提取 . 武汉大学学报 ● 信息科学版, 2014, 39(4): 411-416. doi: 10.13203/j.whugis20121134
    [11] 陈 勇, 杜 博, 张乐飞, 张良培.  一种融合光谱匹配和张量分析的高分辨率遥感影像目标探测器 . 武汉大学学报 ● 信息科学版, 2013, 38(3): 274-277.
    [12] 一种融合光谱匹配和张量分析的高分辨率遥感影像目标探测器 . 武汉大学学报 ● 信息科学版, 2013, 38(3): 274-277.
    [13] 胡学敏, 郑宏, 司小书.  利用双指数函数导数模型进行高分辨率卫星影像目标检测 . 武汉大学学报 ● 信息科学版, 2010, 35(11): 1265-1270.
    [14] 龚浩, 张景雄, 申邵洪.  基于对象的对应分析在高分辨率遥感影像变化检测中的应用 . 武汉大学学报 ● 信息科学版, 2009, 34(5): 544-547.
    [15] 林祥国, 张继贤, 李海涛, 杨景辉.  基于T型模板匹配半自动提取高分辨率遥感影像带状道路 . 武汉大学学报 ● 信息科学版, 2009, 34(3): 293-296.
    [16] 张力, 张继贤.  基于多基线影像匹配的高分辨率遥感影像DEM的自动生成 . 武汉大学学报 ● 信息科学版, 2008, 33(9): 943-946.
    [17] 张剑清, 张勇, 郑顺义, 张宏伟.  高分辨率遥感影像的精纠正 . 武汉大学学报 ● 信息科学版, 2004, 29(11): 994-998.
    [18] 苏俊英, 曹辉, 张剑清.  高分辨率遥感影像上居民地半自动提取研究 . 武汉大学学报 ● 信息科学版, 2004, 29(9): 791-795.
    [19] 史文中, 曹辉, 张剑清.  基于高分辨率影像的城市三维建模 . 武汉大学学报 ● 信息科学版, 2004, 29(9): 783-787.
    [20] 彭楚粤, 程晓, 夏林元.  面向对象分类的企鹅种群无人机影像识别方法研究 . 武汉大学学报 ● 信息科学版, 0, 0(0): 0-0. doi: 10.13203/j.whugis20200557
  • 加载中
图(3) / 表(1)
计量
  • 文章访问数:  437
  • HTML全文浏览量:  148
  • PDF下载量:  122
  • 被引次数: 0
出版历程
  • 收稿日期:  2020-09-11
  • 刊出日期:  2021-11-05

高分辨率可见光遥感图像舰船目标检测综述

doi: 10.13203/j.whugis20200481
    基金项目:

    国家自然科学基金 41771457

    国家重点研发计划 2018YFB10046

    湖北省自然资源厅科技项目 ZRZY2020KJ03

    作者简介:

    宋志娜,博士,主要从事遥感图像目标信息提取研究。song.zhina@163.com

    通讯作者: 眭海刚,博士,教授。haigang_sui@263.net
  • 中图分类号: P237

摘要: 利用大规模、高分辨率可见光遥感图像探测舰船目标一直是遥感领域的研究热点,其在军事和民用领域发挥着重要作用。舰船目标背景的复杂多变性,舰船目标的多尺度、多种类、多姿态类内差异性,以及检测模型的局限性等问题,都给大范围的高分辨率可见光遥感图像舰船目标探测带来了极大的挑战。首先对利用遥感技术进行舰船检测的方法体系进行总结归纳,然后在此基础上聚焦当前研究热点,对2010—2020年高分可见光遥感图像舰船目标的检测技术体系与发展历程进行概述,并对主流的检测方法进行详细论述,以期推动高分辨率可见光遥感影像舰船检测更加深入的研究和更加广泛的应用。

English Abstract

宋志娜, 眭海刚, 李永成. 高分辨率可见光遥感图像舰船目标检测综述[J]. 武汉大学学报 ● 信息科学版, 2021, 46(11): 1703-1715. doi: 10.13203/j.whugis20200481
引用本文: 宋志娜, 眭海刚, 李永成. 高分辨率可见光遥感图像舰船目标检测综述[J]. 武汉大学学报 ● 信息科学版, 2021, 46(11): 1703-1715. doi: 10.13203/j.whugis20200481
SONG Zhina, SUI Haigang, LI Yongcheng. A Survey on Ship Detection Technology in High-Resolution Optical Remote Sensing Images[J]. Geomatics and Information Science of Wuhan University, 2021, 46(11): 1703-1715. doi: 10.13203/j.whugis20200481
Citation: SONG Zhina, SUI Haigang, LI Yongcheng. A Survey on Ship Detection Technology in High-Resolution Optical Remote Sensing Images[J]. Geomatics and Information Science of Wuhan University, 2021, 46(11): 1703-1715. doi: 10.13203/j.whugis20200481
  • 舰船目标作为河流与海洋的主要运输载体,对其进行定位和监测在军事侦察、资源生产管理、环境保护等领域都具有重要意义[1-5]。舰船目标检测作为海洋监测的一项重要技术,是进行舰船目标跟踪、识别的前提,在军事及民用领域都有着广袤的应用前景。随着航天技术的飞速发展,利用遥感进行舰船目标检测具有大范围任意区域观测、高时效性、数据获取高性价比等优点,是进行舰船目标感知的绝佳手段。

    舰船目标实时、准确的态势感知需要结合海、陆、空大量传感数据进行探测与分析。舰船自动识别系统(automatic identification system,AIS)是最常见的舰船跟踪系统[5],它能够将舰船的位置与属性信息长时间持续地记录传输,是监测合作区域运动舰船目标的重要工具。此外,基于图像信息进行舰船目标解译,例如合成孔径雷达(synthetic aperture radar,SAR)[6]、热红外传感器[7]、光学传感器[8-9]等数据,是进行大范围舰船目标探测的重要手段。不同传感器类型都有其自身的优点和缺点,能够在不同时间、天气条件、监测场景、覆盖范围、更新频率、检测粒度等方面发挥各自的优势。SAR图像具有不受天气、云雾干扰,图像中船身金属反射特性区别于周围水面的特性,已成为海上舰船目标探测的主要手段。热红外图像通过成像对象本身的发射值来区分目标,在夜间的舰船目标监测中发挥着一定的作用。光学床图像中基于序列图像、视频图像以及基于成像延迟的单幅凝视卫星图像进行运动舰船目标检测已在动态舰船目标感知中得到了成功应用;基于高分辨率可见光的图像数据对近岸复杂区域的舰船目标进行定位识别也在舰船目标分析识别中发挥着重要作用。随着大量光学传感器的广泛使用,高空间分辨率(以下统称高分)的可见光图像数据量以几何级数增加。由于其具有获取经济便捷、细节清晰、成像与自然图像相似等优势,既能开展大规模数据下的验证评估,又能够借鉴成熟的计算机视觉目标检测方法论,基于高分可见光影像进行舰船目标检测已经成为当前主要的热点领域,相关研究呈现爆发式的增长,见图 1

    图  1  2011—2020年高分可见光遥感图像舰船目标检测相关主题文献发表统计

    Figure 1.  Statistics of the Number of Publications on the Subject of Ship Detection Based on High-Resolution Optical Remote Sensing Images from 2011 to 2020

    本文聚焦高分图像舰船目标检测技术,对近十年国内外有影响力文献(中文文献包括中国知网上核心期刊、硕博士论文,共718篇;英文文献包括科学引文索引(science citation index,SCI)论文、有影响力的会议论文,共234篇)的研究主题进行了统计分析。从研究主题来看,随着获取到图像的数量与质量提升,舰船目标从特殊场景目标变为现在的作为典型遥感目标检测的一部分开展研究;从早期的聚焦于海面影像的舰船定位与提取(包括云、海面、海浪等主题)逐渐转向复杂环境下的舰船检测(包括复杂场景、多尺度、类内变化多样等主题)研究;检测方法从人工设计、层层筛选定位检测(如疑似区域、部件、虚警等主题)发展为当前主流的基于卷积神经网络、一体化定位检测(包括深层特征、包围框、锚点等主题)。近年来,已有学者开展了有关可见光遥感影像舰船目标检测综述分析,普遍认为高分可见光遥感图像可以为精确的舰船感知提供高价值的特征及定位识别信息,但同时表明当前仅利用高分可见光图像进行舰船监测仍以检测为主,进行大范围、长时间、高精度、细粒度的舰船属性分析非常困难,需要结合多传感器数据进一步探究。现有方法模型聚焦于特定数据、特定场景下的目标检测研究,在实际不同传感器、不同复杂环境中开展鲁棒的舰船目标检测依然面临严重挑战。

    为了比较全面地回顾近十多年高分可见光图像舰船目标检测领域的研究进展,本文从舰船检测的方法体系与发展历程概述、代表性方法归纳、检测精度评估等方面对高分可见光图像舰船检测的进展进行回顾和总结,并对高分可见光舰船检测未来研究趋势进行了展望。

    • 由于高分可见光遥感图像空间分辨率不同、覆盖的场景变化多样,许多学者为此开发了多种多样的舰船目标检测方法。本文从检测粒度、建模方法两方面对这些方法进行总结,如图 2所示。

      图  2  高分可见光遥感图像舰船目标检测方法体系

      Figure 2.  Methodology System of Ship Detection in High-Resolution Optical Remote Sensing Images

      随着图像空间分辨率的提升,舰船目标所呈现的结构纹理信息更加丰富,目标解析层次从区域级识别(图像块分类识别是否是舰船目标)、像素级提取(按一定规则获取目标像素)到对象级目标定位(获取实例级对象的位置),在舰船目标自动化解译中得到有效应用。从检测模型尤其是舰船区域/目标特征建模来分,高分可见光图像舰船目标检测可以分为基于人工特征建模的方法与基于深度特征学习的方法两类。前者利用专家知识规则对舰船目标进行特征建模表达(大量的低层、中层特征),实现舰船目标的有效判别。后者依托于人工智能技术,利用深度神经网络自动学习目标不同层次的特征进行舰船目标的检测定位,目前在遥感图像目标检测中得到越来越广泛的应用。由于舰船目标分布的特殊性和广泛性,从检测场景来分,舰船目标检测可以分为面向特殊场景的舰船目标检测与一般场景的舰船目标检测两类。

    • 高分可见光图像舰船目标检测的任务是从图像中定位识别出舰船目标实例,需要解决目标“是什么”“在哪里”两大问题,遵循目标疑似区域定位、目标精细定位检测由粗到细的检测流程。在数据预处理完成后,首先进行大范围的图像舰船目标疑似区域定位,快速获取有限候选区域;然后通过对舰船目标特征精细建模在候选区域内进行进一步分析确认,完成对舰船目标的定位和判别;最后经过后处理步骤进一步剔除冗余目标,并对检测结果进行精度评价。

      遥感图像目标检测方法的演化史就是对地观测技术、信息技术的发展史,遥感图像空间分辨率的提升、计算机视觉的发展、并行计算的突破,都对高分可见光遥感图像目标检测技术的发展产生了深入影响。本文对2010—2020年高分可见光图像舰船检测方法从年代、图像分辨率、检测场景、处理流程等维度进行了分析归纳,如图 3所示,分为以下3个典型的发展阶段:(1)基于中高分可见光图像舰船目标判别提取时期。2010年左右5 m分辨率的图像是用于可见光图像舰船检测的主要对象,基于底层特征的对象分析是舰船目标检测的主要思路,利用舰船目标区别于水面的独特亮度、纹理与形状特性进行统计、学习与判别、分类,从而实现中高分辨率、较为简单场景的舰船目标检测。(2)基于高分可见光图像舰船目标特征建模检测时期。2013年左右,2 m分辨率的可见光图像获取难度降低,图像中大量中小型的舰船目标信息变得丰富、容易识别,视觉注意机制、中层特征编码等机理研究成为视觉领域的热点主题,前者在大幅面遥感影像的舰船目标定位,尤其是疑似区域定位方面得到了成功应用;后者通过对底层特征的有效高层建模弥补了语义鸿沟,广泛地使用在复杂背景、类内变化多样的舰船目标建模中,从而实现高分图像中较为复杂区域的舰船检测。(3)基于深度学习的高分可见光图像舰船目标检测时期。随着深度学习在计算机视觉领域取得了革命性的成功[10],以及2016年左右大规模高分可见光图像舰船目标检测数据的涌现,舰船目标检测的整体研究思路迅速向基于深度学习的方法演变。舰船检测流程也由分步进行向当前的一体化定位检测的方向发展,卷积神经网络(convolutional neural networks,CNN)被广泛应用,其中基于分类的检测框架[11]与基于回归的检测框架[12-14]引领着目标检测体系发展潮流。

      图  3  高分辨率可见光遥感图像舰船目标检测方法发展历程

      Figure 3.  Development History of Ship Detection Methods in High-Resolution Optical Remote Sensing Images

      目前,基于高分可见光遥感图像的舰船检测在速度、精度、场景适应性上都得到了巨大的提升,但距离实际复杂场景图像中高效的舰船目标检测仍然有一定差距。高分可见光图像舰船目标检测存在以下难点:(1)舰船目标区域定位困难。在大范围遥感图像上,舰船目标通常只占很小一部分,冗余、复杂的背景环境(如大量无关场景、破碎岛屿、凸堤、陆地目标等)干扰给舰船目标区域有效定位带来了巨大挑战。(2)舰船目标表征难。舰船目标周围复杂的背景(云、浪、岛屿、海杂波、尾杂波、黑白极性、沿岸泥沙、光照、阴影等干扰)导致舰船目标被遮挡、弱化,舰船目标本身分布的多样性(多尺度、多类别、多形态、密集排布等干扰)导致目标特征对齐困难,这些都使得舰船目标的特征类间区分性、类内统一性建模非常困难。(3)舰船检测方法普适性不高。现有的高分可见光图像舰船检测标注数据集中,目标在尺度、类型、场景、视角分布上相对有限,舰船目标类型呈长尾特性分布,当前检测模型对难分目标,以及分布外的不同传感器、不同拍摄环境图像目标检测适应性差,难以满足大范围的自动化检测应用需求。

    • 此类舰船目标检测方法逐步去除干扰因素,对于大幅面的高分可见光图像,一般需要进行舰船疑似候选区域提取从而获取目标区域,并在此基础上进行舰船目标检测定位得到精确的目标属性与位置信息。也有一些研究基于图像切片直接进行舰船目标检测定位。

    • 基于先验信息的海陆分离针对大范围水陆图像的舰船检测在有影像位置信息和相应的地理先验信息时,利用精确的地理信息辅助进行水陆分离是获取舰船目标候选区域的有效方法。其中先验信息包括港口地理信息、海岸线信息等[15],并通过精确的模板匹配或图像配准后分离出水域图像。此类方法的优点是分割效果准确稳定,不受场景、光照等因素影响。但同时缺点也很明显,当图像位置信息缺失或不准确、地理先验信息缺乏时,配准结果不再稳定,此过程就无法保证顺利进行。

      基于分割的疑似区域提取对于灰度分布较为一致的水面区域,利用分割算法能够有效地实现大面积云雾去除、水陆区域分离、水面与舰船疑似区域分离,因此被广泛应用于舰船疑似区域提取。具体方法有基于全局阈值分割方法[16]、基于能量函数分割方法[17]、基于局部多阈值分割方法[18-21]等。此类方法能够有效地从简单场景图像中提取疑似舰船区域,但对于海杂波、大量碎云、海浪、小岛干扰较多的海面区域以及复杂的近岸区域,往往不能有效地进行分割,导致结果虚警和漏检都很高。

      基于特征分析的疑似区域提取对于较为复杂的海面和近岸场景需要对目标进行有效特征建模来区分背景与疑似舰船区域。提取的特征大多具有一定的局部或全局不变性,如灰度[18]、颜色直方图[19]、纹理[20-22]、频域[23]、几何形状特征[24]等。此外基于生物视觉启发的视觉显著特征是一种特别的对比差异性特征,能够快速将少量舰船疑似区域从大范围的海面背景中区分出来。具体包括生物视觉注意模型[24-2539]、频域显著模型[26]以及多种显著性融合特征[27]。特征判别方式包括统计判别方法[222841-42]、决策方法[29]、异常分析方法[30]、特征学习分类方法[26-2731-32]等。基于特征统计判别(尤其是基于显著特征判别)、异常分析的方法大多以像素为单位分析,易受不同环境因素变化的影响,同时对目标类内变化的适应能力较弱,适合分辨率较低、船体稀疏分布的目标候选区域提取。利用特征投票、决策或学习分类的方法能够一定程度上以对象为单位进行特征建模,但其提取结果受特征设计及数据影响大,很难产生较为通用的大范围复杂场景舰船候选区域提取方法。

    • 在经过大量背景、虚警去除获取到有限的疑似舰船候选区域后,需要进一步对其进行精细分析,输出更为精细的舰船目标定位结果。此阶段面临的主要问题来自于与舰船区域相似的背景干扰(类间差异小),以及舰船内部多尺度、多类型分布偏差(类内差异大)。主要的方法包括基于统计判别的方法、基于投票判别的方法、基于特征学习的方法等。

      基于统计判别的方法通过对舰船与非舰船目标的特征进行统计,基于聚类或相似性度量的方法进行舰船目标判别[20-2233-34]。常用的特征有灰度、纹理、几何结构(长宽比、圆度、角点、边缘、形状轮廓等)等特征。此类方法基于对单个舰船的目标区域块进行分析,因此仅适用于海面场景、稀疏分布的舰船目标,对于复杂的舰船场景无法进行有效的统计判别。

      基于投票判别的方法对于高分辨率的复杂近岸场景图像,基于部件表示的模型将舰船目标检测转化为利用一组对象组件、形状等特征进行相似性测量。在舰船检测中大多利用广义霍夫变换 [35-37]进行特征度量,再通过后续的投票获取最终的定位检测结果。此类方法对于平静水面场景的靠岸舰船能取得良好的检测提取结果,但并不能适用于各种复杂背景干扰如阴影、光照、海浪、云雾等,以及舰船目标多尺度、多姿态、多方向分布复杂的情况。

      基于特征学习的方法为了适用于大范围、大规模的舰船目标定位检测,基于大量数据学习分类的方法被广泛使用。一些具有不变性质的特征[222538-39]表示,如尺度不变特征(scale invariant feature transform,SIFT)、Gabor特征、梯度直方图(histogram of oriented gradient,HOG)特征、视觉显著特征等被广泛用于特征提取。为了弥补底层视觉特征与高层语义之间的鸿沟,基于中层特征编码建模的目标特征表征模型被广泛地使用,包括词袋模型(bag of words,BOW)[2340]、稀疏编码[3241-44]等。这类基于特征编码的方法能够较好地适用于复杂背景下的舰船目标判别,但大多是基于图像块的建模,因此不能进行目标的有效定位。后续基于部件模型(deformable part models,DPM)的方法[45-47]能够有效对目标进行各个部件的组合建模,从而实现目标的精确定位与检测。但这种方法需要将目标进行统一尺度的对齐,人工参与较多,对于旋转、尺度、类型差异大的舰船目标检测效果差。

    • 尽管基于深度CNN模型与传统的舰船目标检测模型在特征设计上有巨大差异,但整个检测流程后者对前者的影响深远。虽然基于深度学习的目标检测流程逐渐形成了一体化的目标检测体系,但传统方法尤其是后期特征编码学习的方法中的滑动窗口策略、多层次信息整合等思想依然在基于深度学习的舰船目标检测中起着重要作用。当前基于深度学习的高分可见光图像舰船目标方法依托于计算机视觉中目标检测领域的方法体系,在此基础上针对可见光遥感图像本身的特殊性、舰船目标的独特性进行进一步深化改进,推动着高分可见光遥感图像的舰船检测向着更加自动化、高精度、实用性强的方向发展。增强目标特征表征的有效性、多尺度定位的适应性、多姿态位置回归的稳定性、不同场景范围的鲁棒性等都是有效提升舰船目标检测性能的关键,现有的检测方法往往针对其中一点或多个点综合开展研究,本文将这4个方面的具体方法分别进行总结分析。

    • 高分可见光遥感图像可以清晰地呈现一定范围内的目标及其背景,在带给目标更丰富细节特征的同时引入了大量的冗余信息。为了能将目标从大量复杂的负样本中分离出来,同时尽可能满足不同类型、尺度、姿态的目标表征,就需要提取更为有效的目标特征来提升目标判别的准确性。

      除了加深网络层数外,增大卷积核的感受野(receptive field,RF)能够对更大范围的图像块(包括目标及其上下文)进行特征描述,从而有效提升CNN网络的特征提取能力。早期的一些方法直接利用大卷积核(如Alexnet[48])进行特征抽取,增强网络表征能力的同时给计算资源带来了极大挑战,因此后续发展的多个小卷积核代替大卷积核(Inception [49]系列)、空洞卷积(dilated CNN[50])、金字塔池化(spatial pyramid pooling,SPP[51])等方法被广泛用于视觉任务中。在舰船目标检测方法中,Zheng等[52]开发了多感受野卷积分组表征聚合模块,用于捕获超尺度特征的尺度不变性,提升模型对于舰船目标尺度变化的适应性。此外,各种上下文关联模块[53-54]被用来增强网络的舰船检测性能尤其是小目标的检测性能。

      另一种能够辅助网络有效忽略无关信息,关注重点信息,从而加强网络对于目标及其相关上下文的模型为注意力机制。不同于单纯的特征设计,注意力机制通过显式的监督,将学习到的权重信息施加在特征上进一步强化对于目标表征更有用的特征。典型的视觉任务有关的注意力机制有通道注意力[55]、空间注意力[56]、混合域注意力[57]、全局注意力[58]等。在遥感目标舰船目标检测中,一些学者基于不同层次特征[59-60]、不同空间尺度的注意力[61-63]机制来提升目标的表征能力,取得了不错的结果。考虑到空间上的和全局的注意力需要的计算量很大,舰船检测中目前更多的是使用分割的结果来定位关键点或区域[64-66],以此作为进一步约束检测框架产生更高精度的目标定位检测结果。

      此类方法能充分应用目标及其上下文信息进行丰富的特征建模,但同时也不可避免引入新的问题,如新引入的超参数的敏感性与鲁棒性,新增模块与检测定位网络如何联合优化等。

    • 为适应不同尺度的目标定位与识别,便于并行运算,充分利用CNN网络特征层的多尺度特性代替多尺度图像多次进行不同尺度的统一区域定位与检测是一种更为快速有效的方法。特征金字塔网络(feature pyramid network,FPN)[67]是一种典型的联合自上而下的多尺度特征增强网络,通过使用更深的层探测较大的物体,使用较浅层在较大的尺度上检测小目标被广泛用于目标检测研究中。Li等[68]构造的HSF-Net将不同尺度的特征映射到同一尺度空间进行采样回归检测,高层特征能够有效检测大尺度目标的同时,底层尺度空间特征经过与上层特征的融合提升了对于小目标的感知能力。文献[69-71]基于FPN的结构或改进不同尺度特征层的连接方式如稠密连接、跳跃连接等进行多尺度特征融合的舰船检测。

      与深度特征增强的目标特征表征方法尤其是上下文信息融合的方法不同,FPN系列的多尺度特征融合模型更强调在解码阶段将不同层的特征经过采样后与原先层进行融合,能够有效地将图像中不同尺度的目标进行统一学习,提升了舰船目标检测的速度;同时通过合理分配相应尺度的目标回归检测,有效地提升了目标检测的性能。如何构建强健的多尺度特征融合结构是此类方法的重点与难点,后续很多研究在此基础上探索更好的连接方式设计[72]或进行网络架构搜索(NAS-FPN[73])学习,以追求更高效、更高精度的目标检测性能。

    • 遥感目标不同于一般自然图像与人脸目标检测数据集中的竖直排布,其目标位置分布是任意方向的。舰船目标的长宽比范围比一般的目标更为多样,且目标与目标之间、目标与背景之间干扰都非常严重,影响着舰船目标的准确定位与判别。使用传统的一般水平框回归会导致目标正样本区域存在大量背景干扰使得回归位置不准确,而在后处理过程中也可能因为水平框重叠度过高导致部分检测框被删除而导致漏检。基于此,遥感领域的学者开展了大量的基于更准确目标位置回归的研究[6274-83],引领了独属于遥感领域目标检测的研究热潮。其中最直接的解决方法就是通过将水平的锚点(anchor)框进行旋转增强[74],以此更好地贴合旋转框定位检测任务。此类方法能够改善密集排布的舰船目标检测情况,但由于不可能穷举所有的可能角度,导致不能产生足够的与正样本比较贴合的正例,而且对于参数相当敏感,不容易学习,检测速度缓慢。后续有学者陆续提出了旋转池化区域推荐层[75-76],用于进行旋转特征学习定位。Zhang等 [77]直接利用旋转anchor进行两阶段的回归检测;Yang等[78]研究R3Det、SCRDet[62]等模型在生成初始更容易回归的区域后进一步细化对齐到精确的目标位置;Ding等 [79]通过设计一个可学习的RROI Learner模块,进行更高精度的锚点框生成。针对旋转框角度不连续的问题,Zhu等 [80]基于一种新的表示方法进行目标角度的可连续学习。

      除了水平框不能很好贴合目标的问题外,基于锚点设计(anchor-based)的策略对于舰船这种具有极大长宽比变化的目标也不能很好地贴合(用传统的1∶1、1∶2、2∶1预设锚点产生的正样本很少)。一些学者基于数据集中的舰船尺寸统计[81],并以此选择合适的尺度分配进行定位检测;也有学者基于任意锚点(anchor-free)定位的思路,基于可学习的锚点预测模型[82-83]来灵活学习目标的位置。对于常用的位置回归损失与真实目标预测回归框不完全对应导致回归偏差的问题,提出了基于改进目标检测分类与回归的损失函数[7982-83]、多次逐步精细回归[8084-85]以及改进的非最大值抑制(non-maximum suppression,NMS)[5986]等方法进行更为有效的特征学习、模型训练以及结果优化,从而达到更高的检测精度。

      此类方法通过深入分析影响舰船目标定位精度的因素,利用增强目标区域对齐的方法进行检测性能优化,有效地提升了目标定位与检测的上限。如何保证回归过程的稳定性以及提升定位的泛化能力是此类方法面临的主要问题。

    • 尽管多尺度特征金字塔的方法能够一定程度上解决目标的尺度问题,但由于遥感图像舰船目标尺度差异极大,当前将图像裁切缩放后统一尺寸地输入检测网路不可避免地导致部分过大或极小的目标无法得到有效的学习。为了缓解这种目标尺度分布规模不平衡问题,如何合理地进行多尺度候选区域获取,使得不同尺寸的目标都能够尽可能在一定的尺度范围内被检测到是此类方法的重点研究目标。Li等[87]以及You等[88]在统计小尺寸舰船目标分布的基础上进行基本图像块的确定,并基于显著性评估的方法对图像中的大尺寸船图像块缩小后进行统一目标尺度分布下的定位与检测。Yu等[89]在获取较为准确的舰船候选区后,对每个区域基于中心裁剪的方法获取多尺度图像,并以此输入卷积网络中进一步进行目标判别。Wang等[90]采用不同的块尺度对大规模舰船数据集中的目标进行检测,计算不同块尺度下不同目标检测结果的平均精度,并统计最优值获取对应的图像尺度进一步用于自适应的舰船检测以提升整体检测精度。此外,无论是模型训练还是测试阶段,随机裁剪、多尺度图像训练/测试都能极为有效地提升检测方法对不同尺度分布的目标适应性[91]

      针对实际应用特别是可见光卫星图像上的舰船检测范围相当大,真实舰船分布的区域往往只占很小一部分,直接进行目标检测由于大量的冗余背景使得正负样本分布极度不平衡,严重影响检测的准确性和时效性。因此如何自适应提取大范围图像上的舰船目标疑似区域尤为关键。此类型方法目前的研究思路都是利用舰船目标本身的场景关联特性,利用先验地理信息[88]进行港口场景区域的定位实现疑似图像区域的提取,在此基础上进一步执行舰船目标检测。

      此类方法可以显式地适应不同大小、场景的舰船目标以提升检测精度,但需要有专业知识辅助学习,而对于不同场景图像之间尺度参数的适应性及迁移性研究需要进一步探索。

    • 对于舰船目标的检测结果评估是高分辨率可见光遥感图像目标检测的重要一环。目前对于遥感图像舰船检测性能的定量评估主要基于对象级统计,检测的结果可能会出现正确检测、错误检测和漏检3种情况,主要用以下4个指标来评价检测的结果:查全率(Recall)、查准率(Precision)、平均精度(average precision,AP)、平均均值精度(mean average precision,MAP)。查全率R指预测值中被正确识别到的正样本数占所有正样本数量的比例;查准率P表示被正确识别的正样本在所有预测到为正样本中的占比;AP表示在不同的测试召回率下的平均精度,对应着不同的IOU(intersection over union)阈值;MAP首先对每一个类别都计算出AP,然后再计算平均值,是对检测到的目标平均精度的一个综合度量。计算如下:

      R=TPTP+FN×100% ]]>
      P=TPTP+FP×100% ]]>
      AP=01PRdR ]]>
      MAP=mAPm ]]>

      式中,TP(true positives)、FP(false positives)、FN(false negatives)分别表示检测到的目标与真值比对后产生的真阳性、假阳性以及假阴性目标个数;m表示所有样本的类别个数。预测框(Bp)位置是否预测正确(实际标注真值框(Bt))通过IOU判定:

      val=true,IOU>Tfalse, ]]>
      IOU=BpBtBpBt ]]>

      式中,T一般通过具体指定来约束检测框与真值的贴合程度要求。

      对于检测结果的精度评估离不开数据集的构建。随着第一个大规模遥感公开目标场景数据集UCmerged[92]的提出,后续的大规模、细粒度标注数据集不断涌现。本文对位置标注级的可见光图像舰船检测数据集进行介绍,具体包括NWPU VHR-10[93]、HRSC2016[94]、Kaggle-ship[95]、HRRSD[96]、DOTA[97]、iSAID[98]、DIOR[99]、xView[100]等(见表 1)。

      表 1  高分辨率可见光遥感图像舰船目标检测有关公开数据集统计

      Table 1.  Public Detection Datasets Related to Ship Targets in High-Resolution Optical Remote Sensing

      数据集 目标个数(训练+验证) 图像大小/像素 分辨率/m 标注方法 被引用次数
      NWPU VHR-10[93] 约300 450~1 500 0.5~2 水平框 261
      HRSC2016 [94] 约3 000 300~1 500 0.4~2 水平框/旋转框 39
      Kaggle-ship[95] 约80 000 768 约2 掩码 43
      HRRSD[96] 约2 000 150~15 000 0.15~1.2 水平框 20
      DOTA [97] 约45 000 400~15 000 0.1~5 水平框/旋转框 315
      iSAID[98] 约80 000 400~15 000 0.1~5 掩码 11
      DIOR[99] 约60 000 800 0.5~5 水平框 43
      xView[100] 约10 000 2 500~5 000 0.3 水平框 10

      表 1中可以看出,近几年高分可见光遥感图像舰船检测相关数据集发展迅速且备受瞩目,亚米级的图像被广泛应用于检测任务中,并且有由少量类型专用数据集向综合多类数据集发展的趋势,目标标注粒度也从水平框的标注向更为精确的旋转框、实例掩码标注发展。HRSC2016和Kaggle-ship是专门针对舰船目标的数据集,前者是目前公开的唯一可以进一步识别舰船类型的高分辨率图像数据集,而后者是舰船目标掩码标注的数据集。

    • 随着对地观测技术和信息技术的蓬勃发展,研究人员在高分可见光遥感图像舰船检测技术方面做了大量的研究工作,2010—2020年基于深度学习的高分可见光图像舰船检测无论在检测规模、检测性能还是检测自动化程度上都得到了巨大的提升。但目前的检测技术面对数据源的不确定性、算法的适应性、稳定性与可靠性等难题依然存在挑战,距离自适应、高精度、实时舰船目标检测及智能解译依然存在很大的差距,有待进一步的研究。本文对基于高分可见光遥感图像舰船目标检测的展望如下:

      1)舰船目标检测性能进一步增强。目前利用高分可见光遥感图像的舰船目标检测在大规模数据集上的检测精度有待进一步提高,实际应用于大范围、多云雾干扰的近岸及海上图像舰船检测时,存在大量虚检与漏检,需要更加有效的检测算法。对于背景与目标分布极度不平衡问题、不同尺度目标尤其是小目标(二十个像素内)、极限长宽比目标、难分目标等的定位判别问题需要进一步探索。

      2)舰船目标检测算法适应性提升。目前基于深度学习的舰船检测框架种类繁多、设计复杂,包含的超参数非常多且严重依赖于经验,对于检测性能影响很大。发展自动的网络结构设计、参数初始化与调整策略优化等技术是未来自适应舰船目标检测的重要方向。对于不同的数据集、不同的应用任务,目前方法需要经过部分的新数据标注及模型迁移后才能进行目标检测,过程成本开销大且效率低下,因此需要开发基于弱监督甚至无监督的图像标注与目标检测,提高舰船目标检测对不同数据源、任务的适应能力。开展受限资源下如移动平台、在轨卫星数据的舰船模型轻量化、实时检测技术研究,为实际舰船目标动态监测应用提供支撑。

      3)舰船目标检测识别能力深化。实际舰船检测应用中对于舰船目标的定位及进一步的类别识别有着迫切需求,当前舰船目标类型识别主要还是依赖人工判读解译舰船类别属性。高分可见光遥感图像仅仅提供了有限视角下(下视与侧下视)的目标形态,且图像中的目标往往存在模糊、扭曲、遮挡的情况,仅依赖高分可见光图像进行舰船目标识别相当困难。建立权威、完善的大规模舰船目标分类数据集是实现自动化舰船目标识别的基础。同时需要融合多源遥感信息(如AIS、凝视卫星图像、SAR图像、光学图像等)实现对舰船目标多维度特征互补关联,提升任意时间、场景下的智能化舰船目标解译能力。

参考文献 (100)

目录

    /

    返回文章
    返回