留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

无人机影像应急并行处理负载均衡方法

李鹏飞 孙开敏 李德仁 王玮

李鹏飞, 孙开敏, 李德仁, 王玮. 无人机影像应急并行处理负载均衡方法[J]. 武汉大学学报 ● 信息科学版, 2018, 43(2): 268-274. doi: 10.13203/j.whugis20130095
引用本文: 李鹏飞, 孙开敏, 李德仁, 王玮. 无人机影像应急并行处理负载均衡方法[J]. 武汉大学学报 ● 信息科学版, 2018, 43(2): 268-274. doi: 10.13203/j.whugis20130095
LI Pengfei, SUN Kaimin, LI Deren, WANG Wei. A Load Balancing Strategy for Urgent Parallel Processing of UAV Imagery[J]. Geomatics and Information Science of Wuhan University, 2018, 43(2): 268-274. doi: 10.13203/j.whugis20130095
Citation: LI Pengfei, SUN Kaimin, LI Deren, WANG Wei. A Load Balancing Strategy for Urgent Parallel Processing of UAV Imagery[J]. Geomatics and Information Science of Wuhan University, 2018, 43(2): 268-274. doi: 10.13203/j.whugis20130095

无人机影像应急并行处理负载均衡方法

doi: 10.13203/j.whugis20130095
基金项目: 

国家自然科学基金 41471354

国家重点研发计划项目 2016YFB0502602

详细信息
    作者简介:

    李鹏飞, 博士生, 主要从事无人机摄影测量研究。afei200815@whu.edu.cn

    通讯作者: 孙开敏, 博士, 副教授。sunkm@whu.edu.cn
  • 中图分类号: P231

A Load Balancing Strategy for Urgent Parallel Processing of UAV Imagery

Funds: 

The National Natural Science Fundation of China 41471354

the National Key Research and Development Program 2016YFB0502602

More Information
    Author Bio:

    LI Pengfei, PhD candidate, specializes in UAV photogrammetry. E-mail: afei200815@whu.edu.cn

    Corresponding author: SUN Kaimin, PhD, associate professor. E-mail: sunkm@whu.edu.cn
图(9) / 表(2)
计量
  • 文章访问数:  3143
  • HTML全文浏览量:  194
  • PDF下载量:  1055
  • 被引次数: 0
出版历程
  • 收稿日期:  2016-07-22
  • 刊出日期:  2018-02-05

无人机影像应急并行处理负载均衡方法

doi: 10.13203/j.whugis20130095
    基金项目:

    国家自然科学基金 41471354

    国家重点研发计划项目 2016YFB0502602

    作者简介:

    李鹏飞, 博士生, 主要从事无人机摄影测量研究。afei200815@whu.edu.cn

    通讯作者: 孙开敏, 博士, 副教授。sunkm@whu.edu.cn
  • 中图分类号: P231

摘要: 基于应急条件下的计算机和网络资源,以实现无人机影像应急并行处理为目的,提出了一种简洁的负载均衡实现方法。采用了以进程为调度单元的主动式计算资源统计策略,辅以任务队列二级动态分配方法,实现了负载均衡。使用本方法在应急环境中建立简易的并行化集群处理系统,可以灵活、高效、鲁棒地利用可用的计算资源,大幅缩短无人机影像应急处理时间。为验证本文负载均衡方法的有效性,利用无人机机载定位定向系统记录的定位定向参数,结合已知数字高程数据,完成了无人机影像的初步正射纠正和拼图处理。实验结果表明,该方法实现简单、部署方便、扩展灵活、任务分配均衡,处理效率随着计算单元的增加而提高,可大幅提高应急条件下无人机应急影像图制作效率。

English Abstract

李鹏飞, 孙开敏, 李德仁, 王玮. 无人机影像应急并行处理负载均衡方法[J]. 武汉大学学报 ● 信息科学版, 2018, 43(2): 268-274. doi: 10.13203/j.whugis20130095
引用本文: 李鹏飞, 孙开敏, 李德仁, 王玮. 无人机影像应急并行处理负载均衡方法[J]. 武汉大学学报 ● 信息科学版, 2018, 43(2): 268-274. doi: 10.13203/j.whugis20130095
LI Pengfei, SUN Kaimin, LI Deren, WANG Wei. A Load Balancing Strategy for Urgent Parallel Processing of UAV Imagery[J]. Geomatics and Information Science of Wuhan University, 2018, 43(2): 268-274. doi: 10.13203/j.whugis20130095
Citation: LI Pengfei, SUN Kaimin, LI Deren, WANG Wei. A Load Balancing Strategy for Urgent Parallel Processing of UAV Imagery[J]. Geomatics and Information Science of Wuhan University, 2018, 43(2): 268-274. doi: 10.13203/j.whugis20130095
  • 近年来,无人机在众多行业都得到了广泛应用[1-4],从臧克等[5-8]将无人机应用于汶川地震开始,无人机在抢险救援、应急处突等领域的应用一直是学术界研究热点[9-12]

    无人机遥感数据具有数据量大、处理过程并行度高的特点,因而关于无人机影像的并行处理方法,特别是在应急领域中的并行处理方法受到了广泛关注和深入研究[13-14],但是这些研究中所使用的负载均衡平台部署复杂,功能固化,只能运行在专业的集群处理系统之上,而在受灾现场等应急条件下,往往无法提供并行处理集群系统所需的计算机资源、网络资源以及供电条件。如何充分利用应急现场的计算资源,发挥便携式笔记本数量众多及组网方便的优势,搭建临时性集群处理系统是本文的研究重点。

    本文以应急条件下的无人机应急影像处理为背景,在研究了郭明强[15-16]提出的负载均衡平台的基础上,将其简化,提出并实现了适用于受灾现场的无人机影像应急并行处理方法。本文提出的负载均衡方法接口简单,复用性高,具备优良的普适性,可以应用于包括无人机影像处理在内的其他具备任务级并行处理特点的数据处理领域。通过对计算任务的动态负载均衡和并行调度,将便携式计算机这种随处可见的计算资源纳入处理集群中,使得应急条件下具备大数据吞吐能力的并行处理系统成为可能。

    • 负载均衡平台原理如图 1所示。

      图  1  负载均衡平台原理

      Figure 1.  Principle of the Load Balancing Platform

      负载均衡平台由负载均衡伺服器和负载均衡中心两部分组成。其中,负载均衡伺服器用Ps表示,部署在所有计算节点上。负载均衡中心用PC表示,部署在集群系统中的任意一个节点上。PS负责向PC申请计算任务,维护本节点请求队列缓冲区,调度所在计算机的计算内核(记为ES),完成计算并实时反馈本节点资源变化情况。PC负责实时记录、更新计算节点的计算资源信息,响应计算主控软件(记为EC)的计算请求并维护全局任务队列。

    • 在本文提出的负载均衡系统中,采用了主动式任务获取机制, 如图 2所示。部署在计算节点上的PS主动向PC申请任务,主动更新本节点的计算资源使用情况。

      图  2  主动式任务获取机制

      Figure 2.  Active Mission Acquiring

      在主动式任务获取机制中,如图 2左半部分的箭头1和箭头2所示,PS主动向PC申请任务,填充请求队列缓冲区,并主动更新本节点计算资源(可用计算核心数)情况。主动式任务获取机制相比于传统集中式策略[17-18]中由负载均衡中心处理器完成任务分发的决策机制(图 2右半部分的箭头3),提高了任务分发效率,减轻了负载均衡中心实时监测节点资源的压力。

      在任务调度方面,如图 3所示,采用了两级任务队列机制。

      图  3  两级任务队列机制

      Figure 3.  Two-level Mission Queue

      两级任务队列机制指平台在PCPS分别维护一级任务队列,分别对应图 3中“全局任务优先级队列”和“请求队列缓冲区”。采用主动式任务获取机制提高了任务分发效率,但会产生并发访问问题,在申请任务时因排队等待、锁操作引起效率降低,因此平台采用了两级任务队列机制避免这一问题。在该机制中,除了PC维护的常规任务队列外,负载均衡平台在计算节点上也建立了请求队列缓冲区,并交由单独的线程维护。请求队列缓冲区有空闲时平台进行任务的填充;与此同时,本节点内的调度线程在有空闲时并不直接向PS请求任务,而向本节点的任务队列缓冲区请求。由于缓冲区填充与本节点任务申请独立进行,因此避免了排队等待、锁操作引起的效率降低问题。

    • 本文提出的负载均衡系统在执行计算任务时主要分为图 4所示的4个步骤:提交计算任务、分配计算任务、解析计算任务以及执行计算任务。需要说明的是,查询计算任务执行状态的原理与此相同。

      图  4  计算任务实施流程

      Figure 4.  Workflow of Computing Missions

      提交计算任务时,计算主控程序EC将计算任务按指定格式格式化为统一资源定位符(uniform resource locator,URL),访问该URL可以完成计算任务的提交并得到为本次任务分配的编号;分配计算任务时,负载均衡中心通过两级任务队列机制将计算任务转发至计算节点;解析计算任务时PS通过Windows通讯开发平台(Windows communication foundation,WCF)的服务契约(service contract)和操作契约(operation contract)解析任务URL;执行计算任务时,计算程序ES接收到伺服器PS的调用请求后正常完成计算任务。

    • 本文在实验部分直接使用无人机影像的机载定位定向系统(position & orientation system,POS)记录飞机的位置和姿态参数,通过无人机系统提供的全球定位系统(global positioning system,GPS)天线相位中心、惯性测量单元(inertial measurement unit,IMU)旋转中心与相机投影中心的安装关系,将机载POS参数转换为影像外方位元素[19],利用90 m格网的航天飞机雷达地形测绘使命(shuttle radar topography mission,SRTM)数字高程模型(digital elevation model,DEM)实现单张影像的初步正射纠正和概略坐标定位,其原理如图 5所示。

      图  5  机载POS系统直接对地定位技术原理图

      Figure 5.  Principle of Direct Georeferencing

      与采用空中三角测量方法获取影像外方位元素相比,由于不需要进行繁复的密集匹配等操作,在速度与自动化程度上具有极大优势,在应急影像图制作中,在满足目视判读的条件下,牺牲了正射影像图的精度,换取了更高的处理速度。其实施过程包括数据准备、范围计算和使用间接法微分纠正进行正射纠正。本文将这一处理过程简称为“直接对地定位”。

    • 基于负载均衡平台实现机载POS系统直接对地定位,其核心思想是将ECES的直接调用,改为由负载均衡中心调用,从而实现跨设备调用和计算资源的负载均衡。为突出区别,可将图 1进行简化,并添加未经改造时的调用路径。负载均衡前后的对比如图 6所示。

      图  6  改造前后对比图

      Figure 6.  Comparison of the Optimization

      图 6中,箭头4表示负载均衡前的程序调用路径,箭头1、2、3表示基于负载均衡平台的机载POS系统直接对地定位程序调用路径。因此,负载均衡化工作由计算主控程序的改造和负载均衡伺服器的改造两部分组成。其中主控程序的改造又可分为两个步骤,对应图 6中的箭头1和箭头2,分别代表任务提交与状态查询。任务提交是将所需参数按规定方式编码成任务URL,随后访问该URL,而非直接调用时将所需参数直接传递给计算内核ES。状态查询同样以访问URL方式实现,查询使用的URL类似于http://localhost:19190/task/result/2,其中的2为任务编号,任务状态分为等待、执行中、执行完成。

      任务由计算主控程序提交至负载均衡中心后,经由后者接受申请并分配至合适的计算节点,其上的负载均衡伺服器负责识别任务、执行任务,即PS的改造部分。

      任务的识别是通过WCF中WebGet方式的UriTemplate参数对任务URL的匹配完成的,因此,识别计算任务类型,仅需要为UriTemplate赋合适的模板即可;执行任务时使用识别任务时得到的参数,完成计算的过程与图 6中的箭头4相同,即使用识别得到的参数调用对应的计算内核。

    • 为验证本文方法的有效性,选用了一套真实的无人机数据进行实验验证。

    • 实验所用无人机可见光遥感影像与文献[20]中所使用数据相同,覆盖的地面区域为云南省盈江县;航拍于2011年3月10日进行,相机为Cannon 5D MarkⅡ;实际有效影像533幅,JPG格式;像幅5616×3744像素,CCD像元大小6.41 μm;影像的大致地面分辨率为0.1 m;实验所用DEM数据为全国范围内90 m格网的SRTM DEM。

      实验所用计算机的配置情况列于表 1

      表 1  计算节点列表

      Table 1.  List of the Computing Nodes

      编号 型号 CPU 内存 硬盘 GPU 网卡
      1 Thinkpad L421 IntelCore I5 2450M双核4线程 4GB Sumsung 850 EVO 250G SSD AMD Radeon HD 7400M系列 Realtek PCIe GBE Famlily Controller
      2 Thinkpad L421 Intel Core I5 2450M双核4线程 4GB Sumsung 850 EVO 250G SSD AMD Radeon HD 7400M系列 Realtek PCIe GBE Famlily Controller
      3 DELLPrecision M4800 Intel Core i7 4810MQ 4核8线程 16GB Seagate ST1000L M014-1EJ164机械硬盘 NVIDIA Quadro K2100M Intel Ethernet Connection I217-LM
      4 DELL Precision M4800 Intel Core i7 4810MQ 4核8线程 16GB Seagate ST1000L M014-1EJ164机械硬盘 NVIDIA Quadro K2100M Intel Ethernet Connection I217-LM
    • 为验证负载均衡平台后速度的提升效果,本文设计使用同一批数据进行多次实验,每次实验计算节点依次增加,分别统计每次实验时完成任务的总时间与每张影像的平均处理时间。

      每次实验均使用相同的输出分辨率,即0.1 m的原始分辨率。分别采用计算机1、3进行单独实验,随后使用其中3台计算机实验,最后使用所有4台计算机进行多机并行实验。4次实验中,考虑到Thinkpad L421、Dell Precision M4800两种型号计算机性能差异,前者均设置为4线程可用,后者均设置为8线程可用,以保证两者同时可分别并行处理相应数量的计算任务。

    • 1) 精度

      无人机影像直接对地定位的结果之一见图 7,最后的拼接结果见图 8

      图  7  无人机影像直接对地定位结果

      Figure 7.  Direct Georeferencing Result of a UAV Image

      图  8  拼接结果

      Figure 8.  Stitching Result

      图 8可以看出,无人机影像直接对地定位的结果中,影像间不可避免地存在着错位,但是具备真实坐标(见屏幕截图右下角的红框)。镶嵌图虽然有少量错位,但这些错位多出现在建筑物区域,若在后续镶嵌处理中加入匹配和拼接线优化策略,则可以获得更好的效果。因此,直接对地定位的结果仍然可以直观展示地面真实情况,且其结果具有一定程度的可量测性。这两点可为应急响应提供有力的信息保障。

      2) 速度

      实验速度统计结果如表 2图 9。实验结果中,多台计算机并行计算时,时间取用时较多者。由于4台计算机的性能并不相同,因此在统计速度时以所使用的线程数量为衡量标准,而不使用计算机数量。

      表 2  多机并行速度统计

      Table 2.  Statistics of the Speed of Parallel Computation

      实验编号 节点数 节点编号(线程数) 线程数 时间/s 总时间/s 影像总数 平均耗时/s
      1 1 1(4) 4 3 240 3 240 533 6.1
      2 2 1(4) 12 1 230 1 230 208 2.3
      3(8) 1 217 325
      3 3 1(4) 16 862 867 146 1.6
      2(4) 867 148
      3(8) 854 239
      4 4 1(4) 24 627 647 102 1.2
      2(4) 632 104
      3(8) 638 162
      4(8) 647 165

      图  9  多机并行加速效果图

      Figure 9.  Result of Parallel Computation

      由上述实验结果可得出以下结论:

      1) 使用负载均衡平台进行多机并行计算,可以有效利用计算资源,相同计算任务量时可以有效减少计算所需时间;

      2) 参考实验2与实验4的对比可知,使用负载均衡平台进行多机并行计算时,在计算机性能接近的情况下,速度与计算机数量大致成正比;

      3) 进行多机并行计算时,不同计算机参与计算的时间非常接近,实验2差异仅为13 s,占总计算时间的1.1%;实验3最大差异为13 s,占1.5%;实验4最大差异为20 s,占3%。上述结果表明负载均衡平台对计算节点任务量的分配合理,计算资源得到了充分利用;

      4) 实验4中,在参与计算时间基本一致的前提下,计算节点3、4完成的任务量基本一致,计算节点1、2完成的任务量也基本一致,表明相同计算能力的计算机完成了数量相当的计算任务;而同时计算节点3、4完成的任务量明显多于计算节点1、2,这与后者计算能力低于前者的事实相一致。上述结果表明,负载均衡平台对计算节点任务量的分配合理,计算资源得到了充分利用。

      需要说明的是,为使得分析更准确,多机并行的处理结果分别存放至各计算节点的本地磁盘中,并不通过网络存放至共享磁盘,以尽量排除不与本文主题相关的因素的干扰。总体而言,使用负载均衡平台实现多粒度(多机级别、多任务级别)的并行计算,计算效率得到了明显提升。

    • 本文对应急现场利用低性能计算资源实现无人机遥感影像多机并行处理的问题进行研究,采用了进程为调度单元的主动式计算资源统计策略,辅以任务队列二级动态分配方法,实现了任务级的动态负载均衡,大幅提高了利用廉价计算资源处理无人机遥感影像的速度,并以无人机遥感影像的直接对地定位为例进行了实验验证。实验结果表明,本文提出的负载均衡方法能够充分利用便携式笔记本等低性能设备的计算资源,组成临时计算集群,大幅提高了无人机遥感影像直接对地定位的效率。除此之外,在无人机遥感影像的应急处理过程中,特别是在自动化处理过程中,一般都会涉及到影像的特征提取、特征匹配、单张影像的辐射处理、纠正等过程,这些处理步骤均具备优良的并行性,从而可以使用本文提出的负载均衡思想获得更快的处理速度。

参考文献 (20)

目录

    /

    返回文章
    返回