留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

利用词袋模型检测建筑物顶面损毁区域

涂继辉 眭海刚 冯文卿 孙开敏

涂继辉, 眭海刚, 冯文卿, 孙开敏. 利用词袋模型检测建筑物顶面损毁区域[J]. 武汉大学学报 ● 信息科学版, 2018, 43(5): 691-696. doi: 10.13203/j.whugis20150665
引用本文: 涂继辉, 眭海刚, 冯文卿, 孙开敏. 利用词袋模型检测建筑物顶面损毁区域[J]. 武汉大学学报 ● 信息科学版, 2018, 43(5): 691-696. doi: 10.13203/j.whugis20150665
TU Jihui, SUI Haigang, FENG Wenqing, SUN Kaimin. Detection of Damaged Areas Based on Visual Bag-of-Words Model from Aerial Remote Sensing Images[J]. Geomatics and Information Science of Wuhan University, 2018, 43(5): 691-696. doi: 10.13203/j.whugis20150665
Citation: TU Jihui, SUI Haigang, FENG Wenqing, SUN Kaimin. Detection of Damaged Areas Based on Visual Bag-of-Words Model from Aerial Remote Sensing Images[J]. Geomatics and Information Science of Wuhan University, 2018, 43(5): 691-696. doi: 10.13203/j.whugis20150665

利用词袋模型检测建筑物顶面损毁区域

doi: 10.13203/j.whugis20150665
基金项目: 

国家重点研发计划 2016YFB0502603

国家自然基金 41471354

详细信息
    作者简介:

    涂继辉, 博士, 副教授, 主要研究领域为遥感影像图像处理与信息提取和三维重建。green666@126.com

    通讯作者: 眭海刚, 博士, 教授。haigang_sui@263.net
  • 中图分类号: P237;TP753

Detection of Damaged Areas Based on Visual Bag-of-Words Model from Aerial Remote Sensing Images

Funds: 

The National Key Research and Development Program of China 2016YFB0502603

the National Natural Science Foundation of China 41471354

More Information
    Author Bio:

    TU Jihui, PhD, associate professor, specializes in remote sensing image processing and information extraction, and 3D reconstruction. E-mail: green666@126.com

    Corresponding author: SUI Haigang, PhD, professor. E-mail: haigang_sui@263.net
图(4) / 表(1)
计量
  • 文章访问数:  1091
  • HTML全文浏览量:  95
  • PDF下载量:  322
  • 被引次数: 0
出版历程
  • 收稿日期:  2016-04-18
  • 刊出日期:  2018-05-05

利用词袋模型检测建筑物顶面损毁区域

doi: 10.13203/j.whugis20150665
    基金项目:

    国家重点研发计划 2016YFB0502603

    国家自然基金 41471354

    作者简介:

    涂继辉, 博士, 副教授, 主要研究领域为遥感影像图像处理与信息提取和三维重建。green666@126.com

    通讯作者: 眭海刚, 博士, 教授。haigang_sui@263.net
  • 中图分类号: P237;TP753

摘要: 针对航空影像中已分割出的建筑物顶面,提出了一种利用视觉词袋模型检测建筑物顶面损毁区域的方法。该方法首先利用简单线性迭代聚类方法对建筑物顶面进行超像素分割,然后对超像素区域利用颜色和梯度方向直方图特征构建视觉词袋模型,最后使用支持向量机(support vector machine,SVM)对超像素区域中的损毁区域进行检测。实验结果表明,该方法能有效判定建筑物顶面损毁区域,对提高建筑物整体损毁检测精度具有重要意义。

English Abstract

涂继辉, 眭海刚, 冯文卿, 孙开敏. 利用词袋模型检测建筑物顶面损毁区域[J]. 武汉大学学报 ● 信息科学版, 2018, 43(5): 691-696. doi: 10.13203/j.whugis20150665
引用本文: 涂继辉, 眭海刚, 冯文卿, 孙开敏. 利用词袋模型检测建筑物顶面损毁区域[J]. 武汉大学学报 ● 信息科学版, 2018, 43(5): 691-696. doi: 10.13203/j.whugis20150665
TU Jihui, SUI Haigang, FENG Wenqing, SUN Kaimin. Detection of Damaged Areas Based on Visual Bag-of-Words Model from Aerial Remote Sensing Images[J]. Geomatics and Information Science of Wuhan University, 2018, 43(5): 691-696. doi: 10.13203/j.whugis20150665
Citation: TU Jihui, SUI Haigang, FENG Wenqing, SUN Kaimin. Detection of Damaged Areas Based on Visual Bag-of-Words Model from Aerial Remote Sensing Images[J]. Geomatics and Information Science of Wuhan University, 2018, 43(5): 691-696. doi: 10.13203/j.whugis20150665
  • 航空遥感具有实时性强、机动快速、影像分辨率高、经济便捷等特点,且能够在高危地区作业,非常适合于各种自然灾害的检测与应急救援,因此如何利用航空影像对建筑物进行全方位的高精度定量损毁评估是目前研究的热点。建筑物的顶面是在航空影像中观测到的建筑物最显著的特征,其损毁检测研究对提高建筑物整体损毁精度评估具有重要意义[1-2]

    国内外学者利用航空影像对建筑物顶面损毁检测展开一些研究工作,主要方法体现在两个方面:(1)基于单时相的建筑物顶面损毁检测[3]。由于灾后航空影像易于获取,因此这类方法更加符合实际生产需求。此类方法主要利用建筑物顶面的面积信息进行损毁检测,但是灾后很多建筑物顶面损毁的特征是顶面发生了破损或者裂缝,而整体面积未有变化,因此该方法在高精度减灾评估中具有一定的局限性。(2)基于多时相的建筑物顶面损毁检测[4]。此类方法主要利用顶面面积变化检测的方法进行建筑物顶面损毁检测,但灾前的航空影像一般很难获取,特别是临近受灾前时间段的倾斜影像更加难以获取,而且灾前灾后多时相的影像如何进行高精度配准也是目前的难点。

    基于以上研究,根据建筑物顶面纹理特征,本文提出了一种基于视觉词袋模型的航空影像建筑物顶面损毁区域检测方法。该方法利用超像素分割使得损毁检测从传统的以像素为单位变为有语义信息的像素块,有效克服了语义鸿沟的问题,同时利用视觉词袋模型对超像素分割像素块赋予语义信息,有利于支持向量机(support vector machine, SVM)分类器的训练和识别。利用本文方法对北川地震遗址的航空影像中的大量建筑物顶面进行了损毁检测,检测效果较好,为提高灾害中建筑物整体损毁精细评估提供了重要手段。

    • 在航空影像中建筑物顶面已经提取的前提条件下,本文方法的整体流程如图 1所示,分为3步:(1)对建筑物顶面进行超像素分割;(2)提取分割区域的特征,建立视觉词袋模型;(3)对分割区域进行SVM分类,获取损毁区域。

      图  1  研究方法流程图

      Figure 1.  Flowchart of the Proposed Method

    • 当建筑物顶面完好时,它的局部区域特征是颜色和纹理结构具有一致,而当建筑物顶面有损毁时,其局部区域特征是颜色出现了非一致性,且纹理结构混乱。因此,利用超像素的方法对建筑物顶面进行分割,可以将建筑物顶面的损毁和非损毁区域像素进行分类,有助于下一步基于局部区域的语义分析。目前,超像素分割的方法很多[5],典型的超像素方法有简单线性迭代聚类(simple linear iterative clustering, SLIC)[6]、Watersheds[7]、NormalizedCuts[8]、MeanShift[9]、QuickShift[10]和TurboPixel[11]等,其中SLIC是一种基于k-means思想的超像素分割算法,具有使用简单、处理速度快和产生的超像素最规整的特点。所以,本文采用SLIC算法进行超像素分割,又由于当前建筑屋顶面多为彩色,因此本文采用的SLIC利用像素的颜色相似度和图像的平面空间信息对像素进行聚类。具体算法描述如下。

      1) 初始化聚类中心。对于有N个像素的图像,如需要产生的超像素区域的数目为K, 则每个超像素的平均面积为N/K,每个种子点的平均距离近似为$ S = \sqrt {N/K} $, 在图像内以该距离均匀分配聚类中心。

      2) 移动聚类中心。为了避免种子点处于图像边缘位置而对聚类造成干扰,种子点被移动到其3×3区域内梯度值最小的位置。

      3) 计算像素点(x1, y1)和(x2, y2)的相似度d

      $$ \begin{array}{l} {d_c} = \\ \sqrt {{{\left( {l\left( {{x_1}, {y_1}} \right)-l\left( {{x_2}, {y_2}} \right)} \right)}^2} + {{\left( {a\left( {{x_1}, {y_1}} \right)-a\left( {{x_2}, {y_2}} \right)} \right)}^2} + {{\left( {b\left( {{x_1}, {y_1}} \right)-b\left( {{x_2}, {y_2}} \right)} \right)}^2}} \end{array} $$ (1)
      $$ {d_s} = \sqrt {{{\left( {{x_1}-{x_2}} \right)}^2} + {{\left( {{y_1}-{y_2}} \right)}^2}} $$ (2)
      $$ \begin{array}{l} d\left( {\left( {{x_1}, {y_1}} \right), \left( {{x_2}, {y_2}} \right)} \right) = \\ \sqrt {d_c^2\left( {\left( {{x_1}, {y_1}} \right), \left( {{x_2}, {y_2}} \right)} \right) + {m^2}\left( {\frac{{d_s^2\left( {\left( {{x_1}, {y_1}} \right), \left( {{x_2}, {y_2}} \right)} \right)}}{S}} \right)} \end{array} $$ (3)

      式中,liaibi为像素点i在CIE Lab空间中Lab通道的数值;(x, y)为像素点坐标值;m为平衡参数。

      4) 按最小相似度对图像的像素点进行聚类,不断迭代,直到新种子点和原来的种子点之间的距离足够小时迭代终止。

      5) 把面积较小的区域与其距离最近的区域合并,以保证区域的连通性。

      为了提高算法的运行速度,对每个种子点聚类时,只在以种子点为中心的2S×2S区域内搜索像素点。

    • 单词包模型(bag-of-word, BoW)最早应用于文本检索领域,是一种利用基于语义的方法对自然语言进行检索和处理的算法[12],许多学者后来将该方法引入到计算机视觉和多媒体领域,成为一种有效的基于语义特征提取和描述的算法,在图像分类、目标识别和图像检索中得到了广泛应用[13]。本文利用视觉词袋模型对超像素区域进行语义特征的描述,即在建筑物顶面超像素区域内提取特征构建损毁和非损毁的语义词袋模型,为下一步的SVM分类训练提供正负样本。视觉词袋模型的实现流程分为特征的描述、视觉词典的生成、视觉词汇的构建和SVM训练4个部分,具体流程如下。

      1) 特征描述。根据建筑物顶面损毁特征,本文利用颜色特征和(histogram of oriented gradient, HOG)纹理特征对分割区域进行特征描述。由于HSV颜色空间较RGB颜色空间更加符合人眼视觉,对亮度更加敏感,有利于颜色特征的区分,所以本文利用HSV对分割区域进行非均匀量化,即将色调量H分为8个级别,饱和度S和亮度V各分为3个级别,然后将3个颜色分量合成一个值LL=9H+3S+V(L∈[0, 71])。由于超像素分割区域在形态上有一定的差异,本文根据超像素区域的长轴长度以及质心位置来确定一个矩形区域,用于计算HOG的特征。根据本文实验统计,超像素区域长轴为30像素,所以提取以质心为中心30×30像素的区域用于计算HOG特征,HOG的细胞大小为6×6像素,梯度方向抽取9个方向块,所以可以产生225个HOG的特征。为了防止较小的特征分量在计算中被忽略,对两类不同的特征量进行归一化处理,使得所有分量在特征描述时具有相同的权重。

      2) 视觉词典生成。设上一步得到的每个超像素分割区域的特征向量为F=[f1 f2fN],其中N表示每个区域的特征数量。对特征向量F进行K-均值聚类,生成一个K维向量的视觉词典W=[w1 w2wK]。

      3) 基于视觉词典对图像的表达。在视觉词袋模型中,图像是由不同频率的视觉词典组成的,本文对超像素分割区域进行视觉词典的直方图统计,得到统计向量N=[n1 n2 n3ninK]。由于不同的视觉单词对图像的表达作用不同,直接使用最初的视觉词典对图像进行表达会对后续的识别造成不佳的影响。为了区分不同的视觉单词对图像表达的贡献,本文利用了文本信息检索中的tf-idf[14](词频-反转文件频率)的加权方法来描述视觉词典中单词的权重。视觉词典中单词的权重向量为T=[t1 t2 t3titK],权重ti的表达式为:

      $$ {t_i} = \frac{{{n_{id}}}}{{{n_d}}}\lg \frac{N}{{{n_i}}} $$ (4)

      其中,nid表示第i个视觉单词在分割区域中出现的频率;nd表示所有视觉单词在分割区域中出现的总频率;N表示分割区域的总数;ni表示第i个视觉单词在所有分割区域中出现过的次数。那么损毁和非损毁区域的加权特征表达为:

      $$ {f_i} = {n_i} \times {t_i} $$ (5)

      4) 基于SVM的分类训练。利用式(5)的视觉词袋模型分别对建筑物顶面的损毁区域和非损毁区域训练SVM分类器,得到损毁区域的分类器。

    • 基于视觉词袋模型的建筑物顶面损毁判定流程如下所示,分类器采用SVM,图像分割采用SLIC的超像素方法。

      1) 利用SLIC的方法对建筑物顶面进行分割,得到不同的分割区域R={R1, R2, R3Rn}。

      2) 取出某一个分割区域Ri,提取Ri区域的颜色特征和HOG特征,将特征归一化。

      3) 统计分割区域Ri的视觉词典直方图,根据式(5)得到特征表达fi

      4) 将特征表达fi放入经过训练的SVM分类器中,判断区域Ri是否为损毁区域。

    • 本文利用武汉大学测绘遥感信息工程国家重点实验室于2014年4月在北川地震遗址进行灾害考察时航拍的遥感影像进行实验,图幅大小为8 260×6 166像素,影像分辨率为0.2 m。本文主要利用了航空影像中的下视影像,用北川地震遗址数据中50个建筑物顶面作为训练样本集、50个建筑物顶面作为测试数据集。为了定量评价建筑物顶面损毁检测的性能,本文采用准确率P和召回率R,分别定义为:

      $$ P = \frac{{{T_P}}}{{{T_P} + {F_P}}} $$ (6)
      $$ R = \frac{{{T_P}}}{{{T_P} + {F_N}}} $$ (7)

      其中,TP表示正确检测到的损毁区域;FP表示非损毁却被检测为损毁的区域;FN表示损毁被检测为非损毁的区域。由于词袋模型中特征描述的选取是最后目标识别的关键,为了验证本文算法中特征选取的有效性,本文利用Surf特征[15]、Gabor特征[16]和本文提出的方法分别进行比较。

    • 本文实验中,首先选用航空影像中的50个建筑物顶面作为样本训练数据,经过SLIC分割后,通过人工分类方式共获得8 921个未损毁区域和4 367个损毁区域,如图 2(a)所示为部分损毁区域的样本,图 2(b)为部分未损毁区域的样本;然后利用1.2节的流程对样本进行特征提取、视觉词典生成以及SVM分类器训练;最后选取50个建筑物顶面作为测试数据,利用1.3节的流程对测试数据进行损毁检测,列出了部分如图 3(e)所示的检测结果。本文还分别选用了Surf和Gabor两种特征作为词袋模型的特征描述,检测结果分别如图 3(c)3(d)所示。表 1给出了Surf、Gabor和本文算法对50个建筑物顶面检测后的平均检测精度。本文算法之所以能取得较好的效果是由于建筑物顶面未损毁时候纹理较为均匀且方向一致性较强;而HOG的算法主要通过计算和统计图像局部区域的梯度方向直方图来构成特征,因此对局部区域的方向性变化具有一定的敏感度。同时,由于建筑物顶面损毁区域的颜色较其他区域亮度更暗,因此颜色特征的选取也有助于对损毁区域的检测。从图 3中可以发现,本文算法对部分建筑物顶面小的白色损毁区域未能检测出来,主要是由这部分区域纹理均匀且颜色较亮,和未损毁区域特征非常相似,因此本文算法未能正确检测。另外两种特征未能取得较好的检测结果是因为损毁区域的亮度较暗,Surf特征点难以提取,Gabor作为特征对光照变化不敏感,且能容忍一定程度的图像旋转和变形。

      图  2  训练样本

      Figure 2.  Training Samples

      图  3  损毁检测结果

      Figure 3.  Results of Damage Detection by Different Methods

      表 1  损毁检测精度评价

      Table 1.  Performance of Variant Methods

      方法 准确率 招回率
      Surf特征 0.73 0.71
      Gabor特征 0.81 0.79
      HOG+Color特征 0.92 0.88
    • 在视觉词袋模型中,视觉词典的长度K是一个非常关键的参数,它的选取决定了最后检测效果。如图 4(a)所示,当K的范围在20到45之间时,检测平均精度变化不大,当K取45时,精度达到最优。图 4(b)是选择K=45作为视觉单词的长度时得到的检测精度。

      图  4  视觉词典长度与精度关系图

      Figure 4.  Relationship Between Precision, Recall and Codebook Length

    • 建筑物顶面损毁检测对于建筑物整体损毁评估具有重要意义,本文提出了一种利用视觉词袋模型检测航空影像中建筑物顶面损毁区域的方法。该方法首先利用SLIC方法对建筑物顶面进行超像素分割,使得损毁检测变为基于像素块的语义信息检测;然后在超像素分割区域构建视觉词袋模型,将像素块赋予语义信息;最后利用SVM对视觉词袋模型进行分类训练和损毁识别,从而达到对建筑物顶面损毁的判定。实验结果表明,该方法能够有效检测建筑物顶面损毁区域,为提高建筑物整体损毁评估的精度和自动化程度提供了解决方法。

参考文献 (16)

目录

    /

    返回文章
    返回