快速检索        
  武汉大学学报·信息科学版  2015, Vol. 40 Issue (1): 71-76

文章信息

李新科, 高潮, 郭永彩, 邵延华, 贺付亮
LI Xinke, GAO Chao, GUO Yongcai, SHAO Yanhua, HE Fuliang
利用改进的SIFT算法检测桥梁拉索表面缺陷
Using Improved SIFT Algorithm to Implement Surface Defects Detection for Bridge Cable
武汉大学学报·信息科学版, 2015, 40(1): 71-76
Geomatics and Information Science of Wuhan University, 2015, 40(1): 71-76
http://dx.doi.org/10.13203/j.whugis20130191

文章历史

收稿日期:2013-05-30
利用改进的SIFT算法检测桥梁拉索表面缺陷
李新科1,2, 高潮1, 郭永彩1, 邵延华1, 贺付亮1     
1. 重庆大学光电技术及系统教育部重点实验室, 重庆, 400030;
2. 重庆大学通信工程学院, 重庆, 400030
摘要:设计了一种分布式机器视觉检测系统对斜拉桥拉索表面的损伤缺陷进行自动无损检测。该系统采用4个CCD摄像头分布在拉索表面一周获取图像,一个缺陷有可能分布在几幅图像中。为了快速有效地获得完整的拉索表面缺陷,本文提出了改进的尺度不变特征变换(SIFT)特征匹配算法对缺陷图像进行自动拼接。首先,采用简洁有效的Harris算子提取特征点;然后,根据检测系统采集的缺陷图像的特点,简化SIFT算子的特征点主方向分配和匹配图像旋转等算法步骤,对特征点进行描述和匹配;最后,融合匹配图像,得到相对完整的缺陷图像。实验结果表明,利用改进的SIFT算法对拉索表面缺陷图像进行自动拼接,降低了算法的复杂度,提高了桥梁拉索表面缺陷检测的完整性。
关键词桥梁拉索     机器视觉     表面缺陷检测     SIFT     图像拼接    
Using Improved SIFT Algorithm to Implement Surface Defects Detection for Bridge Cable
LI Xinke1,2, GAO Chao1, GUO Yongcai1, SHAO Yanhua1, HE Fuliang1     
1. Key Laboratory of Optoelectronic Technology and Systems of the Education Ministry of China, Chongqing University, Chongqing 400030, China;
2. College of Communication Engineering, Chongqing University, Chongqing 400030, China
Abstract:In order to realize automatic nondestructive testing for surface cable damage on a cable-stayed bridge, a distributed machine vision system was developed. It uses four cameras to acquire images around the cable surface. Surface defection may be distributed in several images. An improved scale invariant feature transform (SIFT) feature matching algorithm for image mosaicing is proposed to real time processing to obtain a whole defect effectively. First, feature points are extracted by a Harris operator. Second, according to defect images collected by the system, the steps of the SIFT operator such as the distribution of the main direction for the matching feature points and the matching image rotation is simplified. The simplified SIFT operator is employed to describe the feature points and match the images. Finally, image fusion is implemented and a complete image of a defect is obtained. Experimental results show that the algorithm complexity is greatly reduced and improves detection integrity for surface cable defects using our improved SIFT to automaticslly stitch the defect images together.
Key words: bridge cable     machine vision     surface defect detection     SIFT     image mosaic    

斜拉索桥具有外形美观、跨越能力强等特点,是大跨度桥梁的最主要桥型,在桥梁建设中被广泛采用[1]。斜拉桥由许多固定在竖向塔上的钢缆拉索拉起桥面,因而拉索是其中的重要受力构件。为确保斜拉桥安全工作并延长其使用寿命,对斜拉索桥的拉索进行检测成为桥梁健康监测的一个重要课题[2]。拉索表面PE保护层的破损缺陷成为拉索腐蚀、断丝的主要因素。目前主要由拉索维护人员对拉索表面的破损进行检测[3]。为避免人眼检测的主观误判以及高空作业带来的安全隐患,本文采用机器视觉检测系统完成缺陷的检测、判断和定位[4]

拉索是大型圆柱体结构,检测系统采用4个摄像头同时获取圆柱体表面一周的图像。为了检测到完整的缺陷,需要对缺陷图像进行自动拼接,从而提高检测的精度。拉索表面缺陷图像的光照不均匀,背景复杂多样,图像特征比较简单,而且只有较少的局部相似区域。尺度不变特征变换(SIFT)匹配算法可通过提取并描述特征点来实现图像匹配,对尺度变换、旋转、亮度等变化能够保持稳定不变[5, 6]。基于SIFT图像配准的应用包括机器人定位、目标识别、遥感和计算机视觉等领域[7]。但是,SIFT算法复杂度高,不利于快速实时处理[8],加速稳健特征(speeded up robost features,SURF)算法在计算速度上有较大提高,但其只描述了特征点周围的3/8信息,影响了后续的图像配准精度[9, 10]。本文采用计算简单、有效的Harris算法提取角点[11],并根据分布式检测系统获取缺陷图像的特点,提出了改进的SIFT图像拼接算法,实现了拉索表面缺陷的快速完整检测。

1 分布式机器视觉检测系统

分布式系统采用4个CCD摄像头固定在同一水平面,组成一个并行式的图像采集器阵列。在进行拉索表面图像采集时,使图像采集阵列组成的平面和拉索垂直,并且4个CCD摄像头等间隔分布在拉索四周,系统整体结构如图 1所示[12]。爬行机器人装载图像采集器阵列、数字信号处理器(digital signal processor,DSP)处理平台、光源、光电位置传感器和存储设备等。

图 1 拉索缺陷检测系统结构示意图 Fig. 1 Diagram of Structure of the System

图 2所示为本文设计和采用的分布式机器视觉检测系统的实验装置。爬行机器人装载检测系统沿拉索攀爬,4个CCD摄像头用来获取拉索表面一周的图像数据,这些数据通过DSP进行处理和缺陷识别。光电编码器和计数器用于标记和记录系统的位置信息。如果系统采集到缺陷图像,则将缺陷图像及其定位信息保存到存储器,自动放弃无缺陷图像。这样,拉索表面一周的图像采集处理完成之后,系统在DSP的控制下,继续往前爬升,进行下一周图像的采集处理。

图 2 分布式机器视觉检测系统装置 Fig. 2 Device of Distributed Machine Vision Inspection System
2 SIFT匹配算法分析 2.1 尺度空间的DOG特征点检测

特征点检测是先通过高斯函数 G(x ,y,σ)对被处理图像I(x ,y)卷积建立多尺度空间L(x,y,σ)函数:

式中,(x,y)为空间坐标;σ是可变尺度空间因子。取不同的σ值可建立一组高斯尺度空间图像,若干组图像构成一个具有尺度空间不变性的高斯金字塔,从而生成被处理图像I(x ,y)的多尺度空间。

尺度归一化的高斯拉普拉斯函数(Laplacion of Gaussian,LOG)σ22G具有尺度不变性,高斯差分函数(difference of Gaussian,DOG)与其非常近似。DOG算子和高斯差分尺度空间 D(x,y,σ)分别表示为:

其中,k为常数乘性尺度因子 。将相邻尺度的图像进行差分后,再比较DOG尺度空间的检测点和其周围的相邻点,以确定极值点。由于检测点易受噪声和边缘的干扰,用DOG函数的Taylor展开式来拟合极值点以确定特征点:

对上述函数求极值,对应的极值点和相应方程的值为:

通过比较D( ) 的值来剔除低对比度的不稳定极值点。对于DOG函数较强的边缘响应,通过计算极值点的Hessian矩阵主曲率大小来进行排除[5]

在进行匹配时,每个特征点 (x,y)处的梯度值和方向可表示为:

以特征点为中心,统计一定邻域内的像素点的梯度方向和梯度幅值。以梯度直方图来判定特征点方向,在梯度直方图中,最大峰值的柱所处的位置角度表示特征点处邻域梯度的主方向,也就是特征点的主方向。

2.2 特征点描述

特征点可以用一组特征向量来描述,如图 3所示,以特征点为中心,取8×8的邻域窗口,在图像半径区域内对每个像素点求其梯度幅值和方向,并生成方向直方图。

图 3 特征点的特征向量生成 Fig. 3 Generation of Feature Vector of Feature Point

图 3所示,在4×4的区域内,可计算8个梯度方向直方图,并计算其累加值,从而作为一个种子点。这样,8×8的邻域共生成4个种子点。在实际应用中,采用16个4×4的区域来处理,这样,每个特征点将有16个种子点。最终一个特征点由16×8共128个数据组成的特征向量来描述。

2.3 特征点匹配

SIFT特征描述符的欧氏距离用来判断特征点是否匹配。式(10)表示的特征描述符为两幅待匹配图像所生成,则其欧氏距离如式(11)所示:

然后,采用Best Bin First算法[13]搜索某个特征点的最近邻和次近邻两个特征点。若被搜索特征点为 E,而P和P′是与其欧氏距离最短和次短的两个特征点,计算EP和EP′的距离比率Z,如果Z值比某一阈值T小,则将(E,P)作为匹配点对匹配成功。为了进一步删除错误匹配点对,最后采用随机抽样一致性(random sample consensus,RANSAC)算法在全部匹配的特征点对中抽取部分特征点计算图像的变换模型[7],统计出符合模型的准确的特征点。

3 改进的SIFT算法

对于嵌入式实时系统来说,SIFT算法复杂度高,计算量较大,在特征点检测过程中,要多次用高斯核和DOG算子进行检测以及重复比较判断。根据本文桥梁拉索检测系统所获取图像的处理要求,在特征提取和匹配过程进行了改进。

1) 根据前述SIFT匹配算法分析可知,采用多尺度空间DOG算子提取的候选特征点数量较多,对其进行筛选判断也比较复杂,整个提取过程计算量大,难以满足实时性要求较高的系统和大数据量处理的需求。在不影响SIFT配准算法鲁棒性的基础上,为提高其运算速度,本文采用Harris算子来替代SIFT算法中提取特征点的部分。将像素点 u(x,y)的自相关矩阵表示为:

式中,Ix、Iy表示图像点u的灰度在x和y方向的偏导;而Ixy为二阶混合偏导。Harris角点响应函数R表示为:

式中,det代表 M 的行列式;k是一个大于0的常数,通常取0.04~0.06,本文取0.04; tr为 M 矩阵的迹。对于检测点,通过上述Harris算子来计算R的大小,并设定阈值T0,若R>T0,则该点确定为特征点。由于Harris算子只用到灰度的滤波和一阶差分,能够最大限度地将局部特征点提取出来,并且具有旋转及仿射不变性,所以其特征点提取不仅稳定有效,而且计算也十分简单,较SIFT特征点提取大大降低了运算复杂度。

2) 本文的拉索表面缺陷检测系统中,CCD的位置是固定的,并且按照相应的角度获取拉索缺陷图像,这些缺陷图像具有相同的几何尺寸和确定的位置顺序。在图像的特征点提取出来之后,由于被匹配图像之间具有严格的配准位置和方向,因此,按照SIFT算法描述生成特征向量时,可以不必为特征点确定主方向和旋转匹配图像,就能保证对应的特征点准确匹配,自动满足SIFT的旋转不变性。这样可以进一步降低匹配计算的复杂度。

4 拉索缺陷图像拼接实现 4.1 图像融合

为了获取完整的拉索表面缺陷图像,在利用SIFT特征匹配算法对待配准缺陷图像进行处理之后,还需要选择合适的图像融合策略来完成图像的拼接。常用的图像融合算法有:① 取单幅图像上的重叠区域;② 图像重叠区域数据的加权平均;③ 渐进渐出的方法实现平滑过渡。在两幅图像间的光照变化较大时,为了防止拼接后图像连接处出现明显的接缝,一般采用后两种方法。采用加权平均融合法是对两幅图像的重叠区域进行加权后再叠加[14]。假设拼接图像为 I1(x,y)和I2(x,y),拼接后的图像I(x,y)可表示:

k1和k2分别是待拼接图像中重叠区域内对应像素的权值,并且满足k1+k2=1,0<k1<1,0<k2<1。本文实验取k1=k2=0.5。

4.2 缺陷图像拼接流程

整个算法流程如图 4所示。由桥梁拉索表面缺陷检测系统的CCD获取到相邻两幅拉索缺陷图像,为了增强图像匹配的稳定性,对采集来的拉索表面缺陷图像进行图像预处理,去除图像背景中的部分噪声特征点。然后,采用Harris算子对两幅图像进行特征点提取,并利用SIFT算子对特征点进行描述和匹配。最后,通过加权平均融合算法获取完整的缺陷图。

图 4 拉索缺陷图的拼接算法流程图 Fig. 4 Flow Chart of Algorithm for Defect Image Mosaic
4.3 拼接图像效果评估

拼接图像通过客观评价指标进行评估[15],本文采用拼接图像的信息熵来评价图像拼接效果。假设一幅图像的灰度范围 为{0,1,…,L-1},则其信息熵定义为:

式中,p(k)表示图像中像素的灰度值为k时的概率。对于本文拼接图像的质量评价,若熵值M越大,则表明拼接效果也就越好。

5 实验与分析

本文实验基于Pentium Duel-core CPU主频为2.1 G和内存为2 G的主机,并且在Matlab 2010a仿真环境下运行,实现了拉索表面缺陷图像的拼接。图 5~8表示了实验的缺陷图像的拼接过程。

图 5 滤波处理后待拼接的缺陷图 Fig. 5 Defect Images After Denoising Process
图 6 Harris算子提取的特征点 Fig. 6 Feature Points Extracted by Harris Operator
图 7 缺陷图像特征点的配准连线 Fig. 7 Feature Points Matching in Defect Image
图 8 缺陷图像融合拼接结果 Fig. 8 Integral Defect After Image Mosaic Process

图 5为相邻两个CCD摄像头采集到的两幅缺陷图并经过滤波处理,其大小均为490×485。将预处理后的缺陷图通过Harris算子提取特征点,提取特征点后的缺陷图如图 6所示,可见这些特征点都是反映了图像结构的角点。图 7(a)、7(b)和7(c)分别表示利用原SIFT匹配算法、SURF匹配算法和本文改进的SIFT匹配算法进行特征点配准并连线的缺陷图像。其中,SIFT算法的匹配特征点较多,后两种算法的匹配特征点相对较少。 图 8(a)、8(b)和8(c)是分别对上述三种算法的配准图像采用加权平均融合算法对缺陷图像进行拼接之后的完整缺陷图。拼接之后,整个缺陷都被完全显示和检测出来。

表 1对以上三种匹配算法的实验数据以及拼接之后的图像效果进行了分析对比。由表 1可知,SURF算法较原SIFT算法计算速度提高了,但是特征点的误配率增加了,图像的拼接效果有所下降。而改进的SIFT算法提取的特征点比SIFT算法大大减少,提高了算法的运算速度,而且提取的特征点描述了图像的基本结构,有利于正确匹配,从而降低了特征点的误配率,拼接图像效果也有所提高。

表 1 实验结果对比 Tab. 1 Comparsions of Experimental Results
算法总时间/s匹配点数误配点数误配率/%图像熵
SIFT 7.16 129 6 4.65 6.86
SURF 2.43 59 4 6.78 6.63
本文算法 0.71 52 2 3.85 6.88
6 结 语

本文针对分布式机器视觉的表面缺陷检测中缺陷图像只包含部分缺陷的问题,研究了实时、快速的图像融合拼接算法。该算法对SIFT的特征匹配进行改进,采用运算简单、有效的Harris算子代替SIFT算法中的DOG算子来提取特征点,同时简化了特征点主方向分配和匹配图像旋转等算法步骤,不仅降低了算法复杂度,而且降低了图像配准的误配率。利用本文算法对缺陷图像进行拼接实验,结果表明,分离的缺陷能够自动拼接成完整缺陷并有效地被检测出来。同时,本文提出的图像配准拼接方法可以应用于其他分布式机器视觉检测系统。

参考文献
[1] Zen Pan , Zhong Tieyi , Yan Guiping. An Study of Dynamic Characteristics for Large-span Cable-Stayed-Suspension Bridges[J]. Chinese Journal of Computational Mechanics, 2002,19(4): 472-476(曾攀,钟铁毅,闫贵平. 大跨径斜拉-悬索协作体系桥动力分析[J]. 计算力学学报,2002,19(4): 472-476)
[2] Sih G C, Tang X S, Li Z X, et al. Fatigue Crack Growth Behavior of Cables and Steel Wires for the Cable-stayed Portion of Runyang Bridge: Disproportionate Loosening and/or Tightening of Cables[J]. Theoretical and Applied Fracture Mechanics, 2008 (49): 1-25
[3] Zhang Jialiang, Lv Tiansheng, Guo Jianying. Automatic Inspection of Inservice Cable[J]. Nondestructive Testing, 2003,25(2): 99-101(张家梁,吕恬生,郭剑鹰. 在役缆索自动检测[J]. 无损检测,2003,25(2): 99-101)
[4] Gao C, Li X K, Guo Y C, et al. Cable Health Monitoring System for Long-Span Cable-Stayed Bridge[J]. Disaster Advances, 2011, 4(1): 130-135
[5] Lowe D G.Distinctive Image Features from Scale-in- variant Keypoints[J].International Journal of Computer Vision, 2004, 60(1):91-110
[6] Yuan Xiuxiao, Li Ran. A SIFT Image Match Method with Match-Support Measure for Multi-source Remotely Sensed Image[J]. Geomatics and Information Science of Wuhan University,2012,37(12): 1 438-1 442(袁修孝, 李然. 带匹配支持度的多源遥感影像SIFT匹配方法[J]. 武汉大学学报·信息科学版,2012,37(12): 1 438-1 442)
[7] Tang Yonghe, Lu Huanzhang. Fast Local Feature Description Algorithm Based on Greyvalue Differential Invariants[J]. Optics and Precision Engineering,2012, 20(2): 447-454(唐永鹤,卢焕章. 基于灰度差分不变量的快速局部特征描述算法[J]. 光学精密工程,2012, 20(2): 447-454)
[8] Zhu H B, Xu X J, Wang J, et al. A Rapid Automatic Image Registration Method Based on Improved SIFT[J]. Procedia Environmental Sciences. 2011(11):85-91
[9] Lian Lin, Li Guohui, Tian Hao, et al. Windowed Intensity Difference Histogram Descriptor and Its Application to Improving SURF Algorithm[J]. Journal of Electronics & Information Technology, 2011,33(5):1 042-1 048(廉蔺,李国辉,田昊,等. 加窗灰度差直方图描述子及其对SURF算法的改进[J].电子与信息学报,2011,33(5):1 042-1 048)
[10] Huo C L, Pan C H, Huo L G, et al. Multi-level SIFT Matching for Large-Size VHR Image Registration[J]. IEEE Geoscience and Remote Sensing Letters, 2012, 9(2):171-175
[11] Xu Qiuhui, She Jiangfeng, Song Xiaoqun, et al. Matching Low Altitude RS Image with Harris-Laplace and SIFT Descriptor[J]. Geomatics and Information Science of Wuhan University, 2012,37(12):1 443-1 447 (徐秋辉,佘江峰,宋晓群,等. 利用Harris-Laplace和SIFT描述子进行低空遥感影像匹配[J]. 武汉大学学报·信息科学版,2012,37(12):1 443-1 447)
[12] Guo Yongcai, Li Zhe, Gao Chao. Design of Nondestructive Examination System for Bridge Cables Surface Defect[J]. Journal of Chongqing University,2010,33(8):7-11(郭永彩, 李哲, 高潮.桥梁拉索表面缺陷无损检测系统设计[J].重庆大学学报,2010,33(8):7-11)
[13] Beis J, Lowe D G. Shape Indexing Using Approxi-Mate Nearest-Neighbour Search in High Dimensional Spaces[C]. Conference on Computer Vision and Pattern Recognition, Puerto Rico, 1997
[14] Wei C, Rick S B. Theoretical Analysis of Correlation-Based Quality Measures for Weighted Averaging Image Fusion[J]. Information Fusion, 2010(11):301-310
[15] Yao Hanying, Sun Wenfeng, Li Ping, et al. Research on Evaluation Methods of SAR Image Mosaic Effect[J]. Computer Engineering,2010,36(15):196-198(姚汉英,孙文峰,李平,等. SAR图像拼接效果的评价方法研究[J].计算机工程,2010, 36(15): 196-198)