留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

均值漂移模式几种粗差探测法的MDB比较

鲁铁定 杨元喜 周世健

鲁铁定, 杨元喜, 周世健. 均值漂移模式几种粗差探测法的MDB比较[J]. 武汉大学学报 ● 信息科学版, 2019, 44(2): 185-192, 199. doi: 10.13203/j.whugis20140330
引用本文: 鲁铁定, 杨元喜, 周世健. 均值漂移模式几种粗差探测法的MDB比较[J]. 武汉大学学报 ● 信息科学版, 2019, 44(2): 185-192, 199. doi: 10.13203/j.whugis20140330
LU Tieding, YANG Yuanxi, ZHOU Shijian. Comparative Analysis of MDB for Different Outliers Detection Methods[J]. Geomatics and Information Science of Wuhan University, 2019, 44(2): 185-192, 199. doi: 10.13203/j.whugis20140330
Citation: LU Tieding, YANG Yuanxi, ZHOU Shijian. Comparative Analysis of MDB for Different Outliers Detection Methods[J]. Geomatics and Information Science of Wuhan University, 2019, 44(2): 185-192, 199. doi: 10.13203/j.whugis20140330

均值漂移模式几种粗差探测法的MDB比较

doi: 10.13203/j.whugis20140330
基金项目: 

国家自然科学基金 41464001

江西省自然科学基金 2017BAB203032

江西省科技落地计划 KJLD12077

国家重点研发计划 2016YFB0501405

国家重点研发计划 2016YFB0502601-04

详细信息
    作者简介:

    鲁铁定, 博士, 教授, 主要从事测量数据处理理论研究。tdlu@ecit.cn

    通讯作者: 周世健, 博士, 教授。shjzhou@nchu.edu.cn
  • 中图分类号: P207

Comparative Analysis of MDB for Different Outliers Detection Methods

Funds: 

The National Natural Science Foundation of China 41464001

Natural Science Foundation of Jiangxi Province 2017BAB203032

Science and Technology Project of the Education Department of Jiangxi Province KJLD12077

State's Key Project of Research and Development Plan 2016YFB0501405

State's Key Project of Research and Development Plan 2016YFB0502601-04

More Information
    Author Bio:

    LU Tieding, PhD, professor, specializes in the theories and methods of measurement data processing.E-mail: tdlu@ecit.cn

    Corresponding author: ZHOU Shijian, PhD, professor. E-mail:shjzhou@nchu.edu.cn
  • 摘要: 针对均值漂移模式的几种粗差定位与定值方法,在显著水平和检验功效下,推出最小可探测偏差(minimal detectable bias,MDB)的计算公式。通过数值分析比较,得出观测值独立等精度时,几种方法的MDB的计算结果相同;独立不等精度时,数据探测法、拟准检定法和部分最小二乘法的MDB结果相同,而多维粗差同时定位与定值法略大于其他方法;相关观测情形下,拟准检定法和部分最小二乘法的MDB结果相同,数据探测法的MDB结果最小,多维粗差的同时定位和定值法的MDB结果最大。
  • 图  1  水准网

    Figure  1.  Leveling Network

    表  1  不同方法的粗差可发现下界域MDB比较

    Table  1.   Comparison of MDBs of Different Methods

    方案 方法 1 2 3 4 5 6
    σli 2.35 1.97 0.89 2.32 0.45 1.18
    方案Ⅰ①MDBi/m 数据探测法 5.630 4 6.662 0 6.662 0 5.266 8 5.266 8 6.081 5
    PLS法 5.630 4 6.662 0 6.662 0 5.266 8 5.266 8 6.081 5
    QUAD法 5.630 4 6.662 0 6.662 0 5.266 8 5.266 8 6.081 5
    LEGE法 5.630 4 6.662 0 6.662 0 5.266 8 5.266 8 6.081 5
    方案Ⅰ②MDBi/m 数据探测法 10.686 1 10.065 4 10.065 4 9.768 7 6.501 2 8.393 5
    PLS法 10.686 1 10.065 4 10.065 4 9.768 7 6.501 2 8.393 5
    QUAD法 10.686 1 10.065 4 10.065 4 9.768 7 6.501 2 8.393 5
    LEGE法 10.723 1 10.400 4 10.400 4 9.771 6 6.793 3 8.695 5
    方案Ⅰ③MDBi/m 数据探测法 2.979 5 10.346 1 10.346 1 2.595 6 1.321 7 2.591 7
    PLS法 9.397 1 11.512 9 10.704 8 9.530 5 2.020 0 5.032 8
    QUAD法 9.397 1 11.512 9 10.704 8 9.530 5 2.020 0 5.032 8
    LEGE法 9.161 6 13.575 2 13.575 2 6.110 2 3.465 3 8.249 8
    下载: 导出CSV

    表  2  两个粗差观测量独立等精度时MDB比较

    Table  2.   The MDB for Two Outliers when Observations are Independent and Equal Precision

    MDBi/m MDBi/m
    i j 数据探测法 PLS法或QUAD法 LEGE法 i j 数据探测法 PLS法或QUAD法 LEGE法
    1 2 7.012 5 7.012 5 7.012 5 4 1 5.867 1 5.867 1 5.867 1
    1 3 7.012 5 7.012 5 7.012 5 4 2 5.725 7 5.725 7 5.725 7
    1 4 6.272 2 6.272 2 6.272 2 4 3 5.725 7 5.725 7 5.725 7
    1 5 6.272 2 6.272 2 6.272 2 4 5 7.242 5 7.242 5 7.242 5
    1 6 7.681 8 7.681 8 7.681 8 4 6 6.272 2 6.272 2 6.272 2
    2 1 8.297 3 8.297 3 8.297 3 5 1 5.867 1 5.867 1 5.867 1
    2 3 5 2 5.725 7 5.725 7 5.725 7
    2 4 7.242 5 7.242 5 7.242 5 5 3 5.725 7 5.725 7 5.725 7
    2 5 7.242 5 7.242 5 7.242 5 5 4 7.242 5 7.242 5 7.242 5
    2 6 7.681 8 7.681 8 7.681 8 5 6 6.272 2 6.272 2 6.272 2
    3 1 8.297 3 8.297 3 8.297 3 6 1 8.297 3 8.297 3 8.297 3
    3 2 6 2 7.012 5 7.012 5 7.012 5
    3 4 7.242 5 7.242 5 7.242 5 6 3 7.012 5 7.012 5 7.012 5
    3 5 7.242 5 7.242 5 7.242 5 6 4 7.242 5 7.242 5 7.242 5
    3 6 7.681 8 7.681 8 7.681 8 6 5 7.242 5 7.242 5 7.242 5
    下载: 导出CSV

    表  3  两个粗差观测量相互独立时MDB比较

    Table  3.   The MDB for Two Outliers when Observations are Uncorrelated

    MDBi/m MDBi/m
    i j 数据探测法 PLS法或QUAD法 LEGE法 i j 数据探测法 PLS法或QUAD法 LEGE法
    1 2 11.811 7 11.811 7 11.823 4 4 1 10.489 4 10.489 4 10.491 2
    1 3 11.811 7 11.811 7 11.823 4 4 2 10.490 1 10.490 1 10.495 4
    1 4 11.474 5 11.474 5 11.512 1 4 3 10.490 1 10.490 1 10.495 4
    1 5 12.761 3 12.761 3 12.799 2 4 5 13.550 1 13.550 1 13.738 1
    1 6 14.164 5 14.164 5 14.165 7 4 6 10.495 3 10.495 3 10.495 9
    2 1 11.125 7 11.125 7 11.148 1 5 1 7.763 7 7.763 7 8.121 2
    2 3 5 2 7.969 9 7.969 9 8.008 1
    2 4 10.808 7 10.808 7 11.167 1 5 3 7.969 9 7.969 9 8.008 1
    2 5 12.339 3 12.339 3 12.421 8 5 4 9.017 9 9.017 9 9.325 5
    2 6 14.164 5 14.164 5 14.165 7 5 6 10.495 3 10.495 3 10.495 9
    3 1 11.125 7 11.125 7 11.148 1 6 1 11.125 7 11.125 7 11.148 1
    3 2 6 2 11.811 7 11.811 7 11.823 4
    3 4 10.808 7 10.808 7 11.167 1 6 3 11.811 7 11.811 7 11.823 4
    3 5 12.339 3 12.339 3 12.421 8 6 4 9.017 9 9.017 9 9.325 5
    3 6 14.164 5 14.164 5 14.165 7 6 5 13.550 1 13.550 1 13.738 1
    下载: 导出CSV

    表  4  两个粗差观测量相关时MDB比较

    Table  4.   The MDB for Two Outliers when Observations are Correlated

    i j MDBi/m i j MDBi/m
    数据探测法 PLS法或QUAD法 LEGE法 数据探测法 PLS法或QUAD法 LEGE法
    1 2 3.514 6 8.136 9 8.625 5 4 1 9.834 4 9.839 6 9.838 6
    1 3 3.514 6 8.136 9 8.625 5 4 2 2.991 9 9.917 2 8.274 2
    1 4 11.289 2 13.300 5 13.746 2 4 3 2.991 9 9.917 2 8.274 2
    1 5 18.465 2 18.488 7 18.584 8 4 5 14.420 5 15.474 7 16.774 1
    1 6 14.030 6 15.833 9 14.428 6 4 6 7.354 0 9.251 9 7.413 1
    2 1 12.204 1 12.516 1 13.011 3 5 1 8.190 9 8.320 7 9.276 0
    2 3 5 2 1.635 2 1.637 8 2.908 9
    2 4 11.925 7 12.595 3 17.975 9 5 3 1.635 2 1.637 8 2.908 9
    2 5 12.800 0 13.271 6 14.790 7 5 4 7.343 0 7.416 2 10.593 0
    2 6 14.030 6 14.302 7 14.428 6 5 6 7.354 0 7.427 1 7.413 1
    3 1 12.204 1 12.473 6 13.011 3 6 1 12.204 1 12.725 6 13.011 3
    3 2 6 2 3.514 6 5.009 9 8.625 5
    3 4 11.925 7 12.096 6 17.975 9 6 3 3.514 6 6.340 8 8.625 5
    3 5 12.800 0 13.006 2 14.790 7 6 4 7.343 0 7.345 9 10.593 0
    3 6 14.030 6 14.749 6 14.428 6 6 5 14.420 5 14.422 0 16.774 1
    下载: 导出CSV
  • [1] Baarda W. A Testing Procedure for Use in Geodetic Networks[J]. Netherlands Geodetic Commission, Publication on Geodesy, 1968, 2(5):45-53
    [2] 杨元喜.抗差估计及其应用[M].北京:八一出版社, 1993

    Yang Yuanxi. Robust Estimation Theory and Its Applications[M]. Beijing:Bayi Publishing House, 1993
    [3] 杨元喜.相关观测抗差估计[C]//抗差估计论文集.北京: 测绘出版社, 1992

    Yang Yuanxi. Robust Estimation for Correlated Observations[C]//Proceedings on Robust Estimation. Beijing: Surveying and Mapping Press, 1992: 14-22
    [4] 於宗俦, 李明峰.多维粗差的同时定位与定值[J].武汉测绘科技大学学报, 1996, 21(4):323-329 http://d.old.wanfangdata.com.cn/Conference/76901

    Yu Zongchou, Li Mingfeng. Simultaneous Location and Evaluation of Multi-dimensional Gross Errors[J]. Journal of Wuhan Technical University of Surveying and Mapping, 1996, 21(4):323-329 http://d.old.wanfangdata.com.cn/Conference/76901
    [5] Ou J K. A New Method of Identifying and Locating Gross Errors:Quasi-accurate Detection[J]. Chin Sci Bull, 1999, 44(23):2200-2204 doi:  10.1007/BF03182709
    [6] 欧吉坤.粗差的拟准检定法(QUAD法)[J].测绘学报, 1999, 28(1):15-20 doi:  10.3321/j.issn:1001-1595.1999.01.004

    Ou Jikun. Quasi-Accurate Detection of Gross Errors(QUAD)[J]. Acta Geodaetica et Cartograghica Sinica, 1999, 28(1):15-20 doi:  10.3321/j.issn:1001-1595.1999.01.004
    [7] 王爱生, 欧吉坤.部分最小二乘平差方法及在粗差定值与定位中的应用[J].大地测量与地球动力学, 2005, 30(2):70-72 http://d.old.wanfangdata.com.cn/Periodical/chkx200502021

    Wang Aisheng, Ou Jikun. Method of Partly Least Squares and Application in Gross Error Location and Estimation[J]. Journal of Geodesy and geodynamics, 2005, 30(2):70-72 http://d.old.wanfangdata.com.cn/Periodical/chkx200502021
    [8] 徐培亮.可剔除多个粗差的F-T法[J].武汉测绘科技大学学报, 1987, 12(2):41-46 http://www.wanfangdata.com.cn/details/detail.do?_type=perio&id=QK000003186112

    Xu Peiliang. A F-T Method for Outliers[J]. Journal of Wuhan Technical University of Surveying and Mapping, 1987, 12(2):41-46 http://www.wanfangdata.com.cn/details/detail.do?_type=perio&id=QK000003186112
    [9] 宋力杰, 杨元喜.均值漂移模型粗差探测法与LEGE法的比较[J].测绘学报, 1999, 28(1):15-20 doi:  10.3321/j.issn:1001-1595.1999.01.004

    Song Lijie, Yang Yuanxi. Comparison Between Data Snooping and LEGE[J]. Acta Geodaetica et Cartograghica Sinica, 1999, 28(1):15-20 doi:  10.3321/j.issn:1001-1595.1999.01.004
    [10] 刘根友, 郝晓光, 柳林涛.粗差鉴定的两种途径[J].大地测量与地球动力学, 2005, 25(3):29-33

    Liu Genyou, Hao Xiaoguang, Liu Lintao. Two Approaches to Gross Error Detection[J]. Journal of Geodesy and Geodynamics, 2005, 25(3):29-33
    [11] 王海涛, 欧吉坤, 袁运斌, 等.估计观测值粗差的三种方法的等价性讨论[J].武汉大学学报·信息学科版, 2013, 38(2):162-166 http://www.cnki.com.cn/Article/CJFDTOTAL-WHCH201302009.htm

    Wang Haitao, Ou Jikun, Yuan Yunbin, et al. On Equivalence of Three Estimators for Outliers in Li-near Model[J]. Geomatics and Information Science of Wuhan University, 2013, 38(2):162-166 http://www.cnki.com.cn/Article/CJFDTOTAL-WHCH201302009.htm
    [12] Teunissen P J G. On the Minimal Detectable Biases of GPS Phase Ambiguity Slips[C]. First International Symposium on Real Time Differential Applications of the GPS, Stuttgart, Geomany, 1991
    [13] Förstner W. Reliability Analysis of Parameter Estimation in Linear Models with Applications to Mensuration Problems in Computer Vision[J]. Computer vision, Graphics and Image Procession, 1987, 40(3):273-310 doi:  10.1016/S0734-189X(87)80144-5
    [14] Schaffrin B. Reliability Measures for Correlated Observations[J]. Journal of Surveying Engineering, 1997, 123:126-137 doi:  10.1061/(ASCE)0733-9453(1997)123:3(126)
    [15] 李德仁, 袁修孝.误差处理与可靠性理论[M].武汉:武汉大学出版社, 2002

    Li Deren, Yuan Xiuxiao. Error Processing and Reliability Theory[M]. Wuhan:Wuhan University Press, 2002
    [16] 王金岭, 陈永奇.论观测的可靠性度量[J].测绘学报, 1994, 23(4):252-258 doi:  10.3321/j.issn:1001-1595.1994.04.003

    Wang Jinling, Chen Yongqi. On the Reliability Measurement of Observations[J]. Acta Geodaetica et Cartograghica Sinica, 1994, 23(4):252-258 doi:  10.3321/j.issn:1001-1595.1994.04.003
    [17] Knight N L, Wang J L, Rizos C. Generalised Measures of Reliability for Multiple Outliers[J]. Journal of Geodesy, 2010, 84:625-635 doi:  10.1007/s00190-010-0392-4
    [18] 欧吉坤.相关观测情况的可靠性研究[J].测绘学报, 1999, 28(3):189-194 doi:  10.3321/j.issn:1001-1595.1999.03.001

    Ou Jikun. On the Reliability for the Situation of Correlated Observations[J]. Acta Geodaetica et Cartograghica Sinica, 1999, 28(3):189-194 doi:  10.3321/j.issn:1001-1595.1999.03.001
    [19] 陶本藻.测量数据处理的统计理论和方法[M].北京:测绘出版社, 2007

    Tao Benzao. Statistic Theory and Method of Surveying Data Processing[M].Beijing:Surveying and Mapping Press, 2007
    [20] Hewitson S, Lee H K, Wang J. Localizability Analysis for GPS/Galileo Receiver Autonomous Integrity Monitoring[J]. J Nav, 2004, 57(2):245-259 doi:  10.1017/S0373463304002693
    [21] 周江文, 黄幼才, 杨元喜, 等.抗差最小二乘法[M].武汉:华中理工大学出版社, 1997

    Zhou Jiangwen, Huang Youcai, Yang Yuanxi, et al. Robust Least Squares Method[M].Wuhan:Huazhong University of Science and Technology Press, 1997
    [22] 王金岭, 陈永奇.粗差数学期望平移模型的理论研究[J].武汉测绘科技大学学报, 1995, 20(2):146-150 http://www.wanfangdata.com.cn/details/detail.do?_type=perio&id=QK199500514469

    Wang Jinling, Chen Yongqi. A Research on the Mean Shift Outlier Models[J]. Journal of Wuhan Technical University of Surveying and Mapping, 1995, 20(2):146-150 http://www.wanfangdata.com.cn/details/detail.do?_type=perio&id=QK199500514469
    [23] 宋力杰, 杨元喜.论粗差修正与粗差剔除[J].测绘通报, 1999(6):5-6 doi:  10.3969/j.issn.0494-0911.1999.06.002

    Song Lijie, Yang Yuanxi. Discussion of Outlier Correction Model and Deleting Model[J]. Bulletin of Surveying and Mapping, 1999(6):5-6 doi:  10.3969/j.issn.0494-0911.1999.06.002
  • [1] 肖云, 王云鹏, 刘晓刚, 许云燕.  空域最小二乘法用于重力卫星误差分析 . 武汉大学学报 ● 信息科学版, 2019, 44(3): 340-346. doi: 10.13203/j.whugis20170376
    [2] 吕志鹏, 隋立芬.  基于非线性高斯-赫尔默特模型的结构总体最小二乘法 . 武汉大学学报 ● 信息科学版, 2019, 44(12): 1808-1815. doi: 10.13203/j.whugis20180104
    [3] 吕宏春, 卢晓春, 武建锋.  一种卫星钟差异常精确探测的两步法策略 . 武汉大学学报 ● 信息科学版, 2019, 44(2): 193-199. doi: 10.13203/j.whugis20170076
    [4] 邱春平, 秦志远, 熊新, 张红敏, 靳国旺, 李贺.  机载SAR影像定向中像点粗差的拟准检定方法 . 武汉大学学报 ● 信息科学版, 2019, 44(2): 283-288, 295. doi: 10.13203/j.whugis20150338
    [5] 谢建, 龙四春, 李黎, 李博超.  不等式约束加权整体最小二乘的凝聚函数法 . 武汉大学学报 ● 信息科学版, 2018, 43(10): 1526-1530. doi: 10.13203/j.whugis20160507
    [6] 陈欣, 翟国君, 暴景阳, 欧阳永忠, 陆秀平, 邓凯亮.  航空重力向下延拓的最小二乘配置Tikhonov正则化法 . 武汉大学学报 ● 信息科学版, 2018, 43(4): 578-585. doi: 10.13203/j.whugis20150728
    [7] 赵俊, 郭飞霄.  利用L1范数和中位数选取拟准观测值 . 武汉大学学报 ● 信息科学版, 2018, 43(8): 1242-1248. doi: 10.13203/j.whugis20160156
    [8] 王密, 常学立, 朱映, 应荷香, 成世文.  光学影像自动几何精校正中控制点粗差检测方法比较 . 武汉大学学报 ● 信息科学版, 2014, 39(12): 1395-1400.
    [9] 陈传法, 蔡乾广.  DEM快速构建的最小二乘配置法 . 武汉大学学报 ● 信息科学版, 2013, 38(1): 86-89.
    [10] 王海涛, 欧吉坤, 袁运斌, 郭建锋.  估计观测值粗差三种方法的等价性讨论 . 武汉大学学报 ● 信息科学版, 2013, 38(2): 162-166.
    [11] 黄贤源, 翟国君, 隋立芬, 黄谟涛.  最小二乘支持向量机在海洋测深异常值探测中的应用 . 武汉大学学报 ● 信息科学版, 2010, 35(10): 1188-1191.
    [12] 张永军, 胡丙华, 张剑清.  大旋角影像的绝对定向方法研究 . 武汉大学学报 ● 信息科学版, 2010, 35(4): 427-431.
    [13] 薛树强, 党亚民, 陈武.  最小二乘估值均方差计算的矩阵体积法 . 武汉大学学报 ● 信息科学版, 2009, 34(9): 1106-1109.
    [14] 鲁铁定, 陶本藻, 周世健.  基于整体最小二乘法的线性回归建模和解法 . 武汉大学学报 ● 信息科学版, 2008, 33(5): 504-507.
    [15] 徐新禹, 李建成, 邹贤才, 禇永海.  最小二乘法求解三类卫星重力梯度边值问题的研究 . 武汉大学学报 ● 信息科学版, 2006, 31(11): 987-990.
    [16] 张勤, 陶本藻.  基于同伦法的非线性最小二乘平差统一模型 . 武汉大学学报 ● 信息科学版, 2004, 29(8): 708-710.
    [17] 张朝玉.  多维AR序列的最小二乘建模方法 . 武汉大学学报 ● 信息科学版, 2002, 27(4): 377-381.
    [18] 柴艳菊, 欧吉坤, 韩保民.  异常形变检测方法探讨 . 武汉大学学报 ● 信息科学版, 2002, 27(4): 372-376.
    [19] 韩保民, 欧吉坤, 柴艳菊.  用拟准检定法探测和修复GPS数据中的粗差和周跳 . 武汉大学学报 ● 信息科学版, 2002, 27(3): 246-250.
    [20] 於宗俦, 李明峰.  多维粗差的同时定位与定值 . 武汉大学学报 ● 信息科学版, 1996, 21(4): 323-329.
  • 加载中
图(1) / 表(4)
计量
  • 文章访问数:  853
  • HTML全文浏览量:  56
  • PDF下载量:  248
  • 被引次数: 0
出版历程
  • 收稿日期:  2018-05-05
  • 刊出日期:  2019-02-05

均值漂移模式几种粗差探测法的MDB比较

doi: 10.13203/j.whugis20140330
    基金项目:

    国家自然科学基金 41464001

    江西省自然科学基金 2017BAB203032

    江西省科技落地计划 KJLD12077

    国家重点研发计划 2016YFB0501405

    国家重点研发计划 2016YFB0502601-04

    作者简介:

    鲁铁定, 博士, 教授, 主要从事测量数据处理理论研究。tdlu@ecit.cn

    通讯作者: 周世健, 博士, 教授。shjzhou@nchu.edu.cn
  • 中图分类号: P207

摘要: 针对均值漂移模式的几种粗差定位与定值方法,在显著水平和检验功效下,推出最小可探测偏差(minimal detectable bias,MDB)的计算公式。通过数值分析比较,得出观测值独立等精度时,几种方法的MDB的计算结果相同;独立不等精度时,数据探测法、拟准检定法和部分最小二乘法的MDB结果相同,而多维粗差同时定位与定值法略大于其他方法;相关观测情形下,拟准检定法和部分最小二乘法的MDB结果相同,数据探测法的MDB结果最小,多维粗差的同时定位和定值法的MDB结果最大。

English Abstract

鲁铁定, 杨元喜, 周世健. 均值漂移模式几种粗差探测法的MDB比较[J]. 武汉大学学报 ● 信息科学版, 2019, 44(2): 185-192, 199. doi: 10.13203/j.whugis20140330
引用本文: 鲁铁定, 杨元喜, 周世健. 均值漂移模式几种粗差探测法的MDB比较[J]. 武汉大学学报 ● 信息科学版, 2019, 44(2): 185-192, 199. doi: 10.13203/j.whugis20140330
LU Tieding, YANG Yuanxi, ZHOU Shijian. Comparative Analysis of MDB for Different Outliers Detection Methods[J]. Geomatics and Information Science of Wuhan University, 2019, 44(2): 185-192, 199. doi: 10.13203/j.whugis20140330
Citation: LU Tieding, YANG Yuanxi, ZHOU Shijian. Comparative Analysis of MDB for Different Outliers Detection Methods[J]. Geomatics and Information Science of Wuhan University, 2019, 44(2): 185-192, 199. doi: 10.13203/j.whugis20140330
  • 尽管测量手段越来越丰富,测量多余观测也空前丰富,但是异常误差的影响和探测依然是测量数据处理研究的热点之一。实践中,常将粗差如Baarda[1]纳入函数模型,提出的粗差数据探测法[1],该方法将粗差的观测数据看成是具有不同数学期望,但方差相同的母体;另一种常用方法是将粗差纳入随机模型,引进统计学中的抗差估计[2-3],该方法将含粗差的观测数据看成是期望不变,但方差异常大的另一个母体。基于统计学原理对粗差进行探测和定位,并将其剔除,其研究成果主要包括数据探测法[1]、多维粗差同时定位与定值法(simaltaneous locating and evaluating multiple gross errors, LEGE)[4]、拟准检定法(quasi-accurate detection of gross errors, QUAD)[5-6]、部分最小二乘法(partly least squares, PLS)或预测残差法[7-8]等。针对上述几种粗差探测和定位方法的异同,文献[9]对均值漂移模型粗差探测法和LEGE法的原理、方法和粗差探测过程进行了比较,证明两者在原理上基本等价,探测结果基本相近。文献[10]对独立等精度情形下部分最小二乘法和QUAD法进行了比较,得出其结果具有相同效果。文献[11]研究表明,独立等精度下,QUAD、LEGE法和部分最小二乘法在粗差估值方面具有等价性,而在相关观测情形下存在一定差异。

    可靠性是研究平差系统发现粗差的能力和不可发现的粗差对平差结果的影响程度。Baarda最早提出测量系统的可靠性理论,并推导了有关计算公式[1]。Teunissen[12]、Förstner[13]、Schaffrin[14]、李德仁等[15]、王金岭等[16-17]、欧吉坤等[18]对可靠性理论进行了深入的研究,并做了重要发展。基于均值漂移模式的可靠性理论包括最小可探测偏差(minimal detectable bias, MDB)、内部可靠性和外部可靠性等3部分[18]

    虽然已有的文献对上述方法进行了比较,但没有对不同方法的可靠性进行比较。本文推导了几种方法的MDB的计算公式,通过算例分析了几种方法的MDB指标的异同,进一步厘清几种方法的本质和联系。

    • 设线性化误差方程式为:

      $$ \mathit{\boldsymbol{V}} = \mathit{\boldsymbol{A\hat x}} - \mathit{\boldsymbol{l}},权\;\mathit{\boldsymbol{P}} $$ (1)

      式中,Vn×1维残差向量;A为秩rank(A)=un×u阶设计矩阵;xu×1维的未知参数向量;ln×1维观测值向量;Pn×n阶观测值权阵,且P=Qu-1=σ02(D(l))-1

      按最小二乘法求得参数估值:

      $$ \mathit{\boldsymbol{\hat x}} = {\left( {{\mathit{\boldsymbol{A}}^{\rm{T}}}\mathit{\boldsymbol{PA}}} \right)^{ - 1}}{\mathit{\boldsymbol{A}}^{\rm{T}}}\mathit{\boldsymbol{Pl}} $$ (2)

      改正数平方和为:

      $$ \mathit{\boldsymbol{ \boldsymbol{\varOmega} }} = {\left( {\mathit{\boldsymbol{l}} - \mathit{\boldsymbol{A\hat x}}} \right)^{\rm{T}}}\mathit{\boldsymbol{P}}\left( {\mathit{\boldsymbol{l}} - \mathit{\boldsymbol{A\hat x}}} \right) $$ (3)

      改正数为:

      $$ \mathit{\boldsymbol{V}} = - {\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{Pl}} $$ (4)

      改正数的协因数阵为:

      $$ {\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}} = {\mathit{\boldsymbol{P}}^{ - 1}} - \mathit{\boldsymbol{A}}{\left( {{\mathit{\boldsymbol{A}}^{\rm{T}}}\mathit{\boldsymbol{PA}}} \right)^{ - 1}}{\mathit{\boldsymbol{A}}^{\rm{T}}} $$ (5)
    • 模型误差的存在将会反映到平差结果的残差上,因此可以通过检验验前和验后单位权方差是否一致来判断模型误差的正确性[19]

      用来检验的原假设和备选假设为:

      $$ \left\{ \begin{array}{l} {H_0}: = E\left\{ {f\hat \sigma _0^2/\sigma _0^2} \right\} = f\\ {H_a}: = E\left\{ {f\hat \sigma _0^2/\sigma _0^2} \right\} \ne f \end{array} \right. $$ (6)

      式中,$\hat \sigma _0^2$为后验单位权方差因子;σ02为先验单位权方差因子;f为自由度(多余观测数),其满足关系式:

      $$ f = n - u \ge 1 $$ (7)

      检验量为:

      $$ \frac{\mathit{\boldsymbol{ \boldsymbol{\varOmega} }}}{{\sigma _0^2}} = f\frac{{\hat \sigma _0^2}}{{\sigma _0^2}} = \frac{{{\mathit{\boldsymbol{l}}^{\rm{T}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{Pl}}}}{{\sigma _0^2}} \sim {\rm{ \mathsf{ χ} }}_{1 - \alpha ,f}^2 $$ (8)

      如果拒绝原假设,则表示观测值含有粗差(此处仅考虑粗差的情形),表明检验量不服从中心卡方分布,其非中心化参数为[17]

      $$ \lambda = \frac{{{\mathit{\boldsymbol{z}}^{\rm{T}}}{\mathit{\boldsymbol{H}}^{\rm{T}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{PH}}z}}{{\sigma _0^2}} $$ (9)

      式中,z为粗差向量的真值;H为相应的粗差向量的系数矩阵。

    • 为了检验备选假设,现将粗差归入函数模型,设有n2观测量含有粗差,其取值范围为[20]:

      $$ 1 \le {n_2} \le f = n - u $$ (10)

      按照均值漂移模型原理,将观测值l分为l1l2两组,第一组观测值l1不含粗差,其维数为n1,第二组观测值l2可能含有粗差∇S,其维数为n2。∇S视为观测值l2的均值漂移向量,即[15]

      $$ \mathit{\boldsymbol{l}} = \left[ {\begin{array}{*{20}{c}} {{\mathit{\boldsymbol{l}}_1}}\\ {{\mathit{\boldsymbol{l}}_2}} \end{array}} \right] \sim N\left[ {\left( \begin{array}{l} {\mathit{\boldsymbol{A}}_1}\mathit{\boldsymbol{x}}\\ {\mathit{\boldsymbol{A}}_2}\mathit{x} + \nabla \mathit{\boldsymbol{S}} \end{array} \right),\sigma _0^2\left( {\begin{array}{*{20}{c}} {{\mathit{\boldsymbol{Q}}_{11}}}&{{\mathit{\boldsymbol{Q}}_{12}}}\\ {{\mathit{\boldsymbol{Q}}_{21}}}&{{\mathit{\boldsymbol{Q}}_{22}}} \end{array}} \right)} \right] $$ (11)

      包含未知参数∇S的扩展模型为:

      $$ \left[ {\begin{array}{*{20}{c}} {{\mathit{\boldsymbol{V}}_1}}\\ {{\mathit{\boldsymbol{V}}_2}} \end{array}} \right] = \left[ {\begin{array}{*{20}{c}} {{\mathit{\boldsymbol{A}}_1}}\\ {{\mathit{\boldsymbol{A}}_2}} \end{array}} \right]\mathit{\boldsymbol{\hat x}} + \left[ \begin{array}{l} {\bf{0}}\\ \nabla \mathit{\boldsymbol{\hat S}} \end{array} \right] - \left[ {\begin{array}{*{20}{c}} {{\mathit{\boldsymbol{l}}_1}}\\ {{\mathit{\boldsymbol{l}}_2}} \end{array}} \right] $$ (12)

      H=[0 E]TEn2×n2单位阵,式(12)可表示为:

      $$ \mathit{\boldsymbol{V}} = \mathit{\boldsymbol{A\hat x}} + \mathit{\boldsymbol{H}}\nabla \mathit{\boldsymbol{\hat S}} - \mathit{\boldsymbol{l}} $$ (13)

      根据最小二乘原理得到估值[15]:

      $$ \nabla \mathit{\boldsymbol{\hat S}} = - \mathit{\boldsymbol{P}}_{\mathit{\boldsymbol{SS}}}^{ - 1}{\mathit{\boldsymbol{H}}^{\rm{T}}}\mathit{\boldsymbol{PV = P}}_{\mathit{\boldsymbol{SS}}}^{ - 1}{\mathit{\boldsymbol{H}}^{\rm{T}}}\mathit{\boldsymbol{PRl}} $$ (14)
      $$ {\mathit{\boldsymbol{P}}_{\mathit{\boldsymbol{SS}}}} = Q_{\mathit{\boldsymbol{SS}}}^{ - 1} = {\mathit{\boldsymbol{H}}^{\rm{T}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{PH}} $$ (15)
      $$ {\mathit{\boldsymbol{ \boldsymbol{\varSigma} }}_{\nabla \hat S}} = \sigma _0^2{\left( {{\mathit{\boldsymbol{H}}^{\rm{T}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{PH}}} \right)^{ - 1}} $$ (16)

      式中,R=I-A(ATPA)-1ATP [21]

      顾及粗差的未知参数x的估值为[15]:

      $$ \begin{array}{*{20}{c}} {{{\mathit{\boldsymbol{\hat x}}}_\nabla } = {{\left( {{\mathit{\boldsymbol{A}}^{\rm{T}}}\left( {\mathit{\boldsymbol{P}} - \mathit{\boldsymbol{PH}}{{\left( {{\mathit{\boldsymbol{H}}^{\rm{T}}}\mathit{\boldsymbol{PH}}} \right)}^{ - 1}}{\mathit{\boldsymbol{H}}^{\rm{T}}}\mathit{\boldsymbol{P}}} \right)\mathit{\boldsymbol{A}}} \right)}^{ - 1}} \cdot }\\ {{\mathit{\boldsymbol{A}}^{\rm{T}}}\left( {\mathit{\boldsymbol{P}} - \mathit{\boldsymbol{PH}}{{\left( {{\mathit{\boldsymbol{H}}^{\rm{T}}}\mathit{\boldsymbol{PH}}} \right)}^{ - 1}}{\mathit{\boldsymbol{H}}^{\rm{T}}}\mathit{\boldsymbol{P}}} \right)\mathit{\boldsymbol{l}}} \end{array} $$ (17)

      式(14)可以表示为[22]:

      $$ \begin{array}{l} \nabla \mathit{\boldsymbol{\hat S}} = \mathit{\boldsymbol{P}}_{{\rm{22}}}^{ - 1}{\mathit{\boldsymbol{P}}_{21}}\left( {{\mathit{\boldsymbol{l}}_1} - {{\mathit{\boldsymbol{\hat l}}}_1}} \right) + \left( {{\mathit{\boldsymbol{l}}_2} - {{\mathit{\boldsymbol{\hat l}}}_2}} \right) = \\ \;\;\;{\mathit{\boldsymbol{l}}_2} - {{\mathit{\boldsymbol{\hat l}}}_2} - {\mathit{\boldsymbol{Q}}_{12}}\mathit{\boldsymbol{Q}}_{22}^{ - 1}\left( {{\mathit{\boldsymbol{l}}_1} - {{\mathit{\boldsymbol{\hat l}}}_1}} \right) \end{array} $$ (18)

      式中,${\mathit{\boldsymbol{\hat l}}_1} = {\mathit{\boldsymbol{A}}_1}{\mathit{\boldsymbol{\hat x}}_\nabla }, {\mathit{\boldsymbol{\hat l}}_2} = {\mathit{\boldsymbol{A}}_2}{\mathit{\boldsymbol{\hat x}}_\nabla }$。其改正数平方和为:

      $$ {\mathit{\boldsymbol{ \boldsymbol{\varOmega} }}_1} = \nabla {{\mathit{\boldsymbol{\hat S}}}^{\bf{T}}}{\mathit{\boldsymbol{P}}_{\mathit{\boldsymbol{SS}}}}\nabla \mathit{\boldsymbol{\hat S}} $$ (19)

      若已知单位权方差σ02,则可构造统计量[15]:

      $$ \begin{array}{l} {\mathit{\boldsymbol{T}}_1} = \frac{{{\mathit{\boldsymbol{ \boldsymbol{\varOmega} }}_2}}}{{\sigma _0^2}} = \nabla {{\mathit{\boldsymbol{\hat S}}}^{\bf{T}}}\mathit{\boldsymbol{ \boldsymbol{\varSigma} }}_{\nabla \mathit{\boldsymbol{S}}}^{ - 1}\nabla \mathit{\boldsymbol{\hat S}} = \\ \frac{{{\mathit{\boldsymbol{l}}^{\rm{T}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{PH}}{{\left( {{\mathit{\boldsymbol{H}}^{\rm{T}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{PH}}} \right)}^{ - 1}}{\mathit{\boldsymbol{H}}^{\rm{T}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{Pl}}}}{{\sigma _0^2}} \sim {\rm{ \mathsf{ χ} }}_{1 - {\alpha _{{T_1}}},{n_2}}^2 \end{array} $$ (20)

      非中心化参数为:

      $$ \lambda = \frac{{\nabla {\mathit{\boldsymbol{S}}^{\rm{T}}}{\mathit{\boldsymbol{H}}^{\rm{T}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{PH}}\nabla \mathit{\boldsymbol{S}}}}{{\sigma _0^2}} $$ (21)

      其原假设和备选假设为:

      $$ \left\{ \begin{array}{l} {H_0}:E\left\{ {\nabla \mathit{\boldsymbol{\hat S}}} \right\} = 0\\ {H_a}:E\left\{ {\nabla \mathit{\boldsymbol{\hat S}}} \right\} \ne 0 \end{array} \right. $$ (22)

      如果原假设成立,则统计量T1为中心化卡方分布,式(21)中的非中心化参数λ=0。若给定显著性水平α0,便可对统计量进行检验。若T1>χ1-α0, n22,则拒绝原假设H0

    • 内部可靠性是在一定的假设检验条件下,系统发现模型误差(包括系统误差和粗差)的能力,能以一定的检验功效β0,通过显著水平为α0的统计量检验可发现的粗差的下界值。根据α0β0可以确定统计量的非中心参数λ0

    • 若只含有一个粗差的单个备选假设情形,其MDB为:

      $$ {\nabla _{0i}}\left( \mathit{\boldsymbol{S}} \right) = \sqrt {\frac{{{\lambda _0}\sigma _0^2}}{{\mathit{\boldsymbol{h}}_i^{\rm{T}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{h}}_i}}}} $$ (23)

      式中,${\mathit{\boldsymbol{h}}_i} = {\left[{\begin{array}{*{20}{l}} 0& \cdots &1&0& \cdots &0 \end{array}} \right]^{\text{T}}}$为单位化向量,第i个元素为1。

      单个粗差的可控性数值为:

      $$ {C_{0i}} = \frac{{{\nabla _{0i}}\left( \mathit{\boldsymbol{S}} \right)}}{{{\sigma _{{l_i}}}}} = \frac{{\sqrt {{\lambda _0}} }}{{\sqrt {{q_{ii}}\mathit{\boldsymbol{h}}_i^{\rm{T}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{h}}_i}} }} $$ (24)

      式中,qii为观测值协因数阵Qll相应的对角线元素。

    • 如果存在多个粗差的情形,给定非中心化参数λ0的情况下,不能从式(21)得到MDB。若MDB向量表示为模∇0(S)和单位方向矢量∇u的形式,则向量的下界域为:

      $$ {\nabla _0}\left( \mathit{\boldsymbol{S}} \right) = {\nabla _0}\left( \mathit{\boldsymbol{S}} \right){\nabla _u} = \sqrt {\frac{{{\lambda _0}\sigma _0^2}}{{\nabla _u^{\rm{T}}{\mathit{\boldsymbol{H}}^{\rm{T}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{PH}}{\nabla _u}}}} {\nabla _u} $$ (25)

      对于多个粗差可发现的下界值在不同方向上是不同的,因此可以通过计算矩阵PSS的最小和最大特征值及其特征向量,从而得知在什么方向上多个粗差最难和最容易发现[15]

      根据文献[17]给出了第i个方向的最大MDB值,根据广义Rayleigh-Ritz理论,其值满足关系式:

      $$ {\lambda _{\min }} \le \frac{{{\nabla _0}{\mathit{\boldsymbol{S}}^{\rm{T}}}\mathit{\boldsymbol{c}}_{{n_2}i}^{\rm{T}}{\mathit{\boldsymbol{c}}_{{n_2}i}}{\nabla _0}\mathit{\boldsymbol{S}}}}{{{\nabla _0}{\mathit{\boldsymbol{S}}^{\rm{T}}}\left( {\frac{{{\mathit{\boldsymbol{H}}^{\rm{T}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{PH}}}}{{{\lambda _0}\sigma _0^2}}} \right){\nabla _0}\mathit{\boldsymbol{S}}}} \le {\lambda _{\max }} $$ (26)

      式中,cn2i为1×n2的向量,其元素对应于第i个粗差为1,其他为0,所以cTn2icn2in2×n2方阵,对应于第i个粗差的对角线元素为1,其余均为0。式(26)的特征值和特征向量可以通过下式解算得到:

      $$ \left( {{{\left( {\frac{{{\mathit{\boldsymbol{H}}^{\rm{T}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{PH}}}}{{{\lambda _0}\sigma _0^2}}} \right)}^{ - 1}}\mathit{\boldsymbol{c}}_{{n_2}i}^{\rm{T}}{\mathit{\boldsymbol{c}}_{{n_2}i}}} \right)\mathit{\boldsymbol{u}} = \lambda \mathit{\boldsymbol{u}} $$ (27)

      式中,λ为特征值;u为特征值对应的特征向量。

      因此向量∇0S在第i个观测值方向的误差下界域为:

      $$ {\nabla _{0i}}\mathit{\boldsymbol{S = }}\sqrt {{\lambda _{\max }}} $$ (28)

      相应特征值对应的特征向量为:

      $$ {\nabla _0}{\mathit{\boldsymbol{S}}_{\max }} = {\mathit{\boldsymbol{u}}_{\max }} $$ (29)

      其可控数值为[17]

      $$ {C_{oi}} = \sqrt {\frac{{{\lambda _0}}}{{\mathit{\boldsymbol{h}}_i^{\rm{T}}\mathit{\boldsymbol{Q}}{\mathit{\boldsymbol{h}}_i}\mathit{\boldsymbol{h}}_i^{\rm{T}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{h}}_i}\left( {1 - \mathit{\boldsymbol{W}}_{{\mathit{\boldsymbol{H}}^{\rm{T}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{v}}_i}}^2} \right)}}} $$ (30)

      其中,

      $$ \begin{array}{*{20}{c}} {{\mathit{\boldsymbol{W}}_{{\mathit{\boldsymbol{H}}^{\rm{T}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{v}}_i}}} = }\\ {\sqrt {\frac{{\mathit{\boldsymbol{h}}_i^{\rm{T}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{H}}_j}{{\left( {\mathit{\boldsymbol{H}}_j^{\rm{T}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{H}}_j}} \right)}^{ - 1}}\mathit{\boldsymbol{H}}_j^{\rm{T}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{h}}_i}}}{{\mathit{\boldsymbol{h}}_i^{\rm{T}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{Q}}_{\mathit{\boldsymbol{VV}}}}\mathit{\boldsymbol{P}}{\mathit{\boldsymbol{h}}_i}}}} } \end{array} $$
    • 文献[7]将部分最小二乘法应用于粗差的定位和定值,仅采用未受污染的观测值根据最小二乘准则计算待估参数,从而得到受污染的观测值l2对应的预测残差为[7]

      $$ {\mathit{\boldsymbol{V}}_2} = {\mathit{\boldsymbol{A}}_2}{{\mathit{\boldsymbol{\hat x}}}_\nabla } - {\mathit{\boldsymbol{l}}_2} = {\mathit{\boldsymbol{A}}_2}{\left( {\mathit{\boldsymbol{A}}_1^{\rm{T}}\mathit{\boldsymbol{Q}}_{11}^{ - 1}{\mathit{\boldsymbol{A}}_1}} \right)^{ - 1}}\mathit{\boldsymbol{A}}_1^{\rm{T}}\mathit{\boldsymbol{Q}}_{11}^{ - 1}{\mathit{\boldsymbol{l}}_1} - {\mathit{\boldsymbol{l}}_2} $$ (31)

      此预测残差即为粗差的估值[7, 23]

      V2对应的协因数矩阵为:

      $$ {\mathit{\boldsymbol{Q}}_{{\mathit{\boldsymbol{V}}_2}}} = \mathit{\boldsymbol{M'}}{\mathit{\boldsymbol{Q}}_{11}}{{\mathit{\boldsymbol{M'}}}^{\rm{T}}} - {\mathit{\boldsymbol{Q}}_{21}}{{\mathit{\boldsymbol{M'}}}^{\rm{T}}} - \mathit{\boldsymbol{M'}}{\mathit{\boldsymbol{Q}}_{12}} + {\mathit{\boldsymbol{Q}}_{22}} $$ (32)

      式中,M′=A2(A1TQ11-1A1)-1A1TQ11-1

      原假设和备选假设为:

      $$ \left\{ \begin{array}{l} {H_0}:E\left( {{\mathit{\boldsymbol{V}}_2}} \right) = 0\\ {H_a}:E\left( {{\mathit{\boldsymbol{V}}_2}} \right) \ne 0 \end{array} \right. $$ (33)

      若已知单位权方差σ02,则可以构建下列统计量:

      $$ {w^2} = \mathit{\boldsymbol{V}}_2^{\rm{T}}\sum\nolimits_{{\mathit{\boldsymbol{V}}_2}}^{ - 1} {{\mathit{\boldsymbol{V}}_2}} \sim {\rm{ \mathsf{ χ} }}_{1 - \alpha ,{n_2}}^2 $$ (34)
    • 若只含有一个粗差的单个备选假设情形,统计量为:

      $$ \begin{array}{l} {w_i} = \frac{{\mathit{\boldsymbol{V}}_i^{\rm{T}}}}{{{{\hat \sigma }_{{V_i}}}}} = \\ \frac{{\left( {\mathit{\boldsymbol{M'}} - \mathit{\boldsymbol{l}}} \right)\mathit{\boldsymbol{l}}}}{{{\sigma _0}\sqrt {\mathit{\boldsymbol{M'}}{\mathit{\boldsymbol{Q}}_{11}}{{\mathit{\boldsymbol{M'}}}^{\rm{T}}} - {\mathit{\boldsymbol{Q}}_{21}}{{\mathit{\boldsymbol{M'}}}^{\rm{T}}} - \mathit{\boldsymbol{M'}}{\mathit{\boldsymbol{Q}}_{12}} + {\mathit{\boldsymbol{Q}}_{22}}} }} \sim N\left( {\delta ,1} \right) \end{array} $$ (35)

      在原假设条件下, wi为标准正态分布,在备选假设下,wi有如下平移参数:

      $$ {\delta _i} = \frac{{{{\tilde v}_i}}}{{{\sigma _0}\sqrt {\mathit{\boldsymbol{M'}}{\mathit{\boldsymbol{Q}}_{11}}{{\mathit{\boldsymbol{M'}}}^{\rm{T}}} - {\mathit{\boldsymbol{Q}}_{21}}{{\mathit{\boldsymbol{M'}}}^{\rm{T}}} - \mathit{\boldsymbol{M'}}{\mathit{\boldsymbol{Q}}_{12}} + {\mathit{\boldsymbol{Q}}_{22}}} }} $$ (36)

      若只含有一个粗差的单个备选假设情形,其MDB为:

      $$ {\rm{MD}}{{\rm{B}}_i} = {\delta _0}{\sigma _0}\sqrt {\mathit{\boldsymbol{M'}}{\mathit{\boldsymbol{Q}}_{11}}{{\mathit{\boldsymbol{M'}}}^{\rm{T}}} - {\mathit{\boldsymbol{Q}}_{21}}{{\mathit{\boldsymbol{M'}}}^{\rm{T}}} - \mathit{\boldsymbol{M'}}{\mathit{\boldsymbol{Q}}_{12}} + {\mathit{\boldsymbol{Q}}_{22}}} $$ (37)

      式中,δ0为正态分布的非中心参数,在给定显著水平α和检验功效1-β的情况下可以计算得到。

    • 在多个粗差情形下,其粗差向量的下界域满足如下关系:

      $$ \mathit{\boldsymbol{V}}_2^{0{\rm{T}}}\left( {\frac{{{{\left( {\mathit{\boldsymbol{M'}}{\mathit{\boldsymbol{Q}}_{11}}{{\mathit{\boldsymbol{M'}}}^{\rm{T}}} - {\mathit{\boldsymbol{Q}}_{21}}{{\mathit{\boldsymbol{M'}}}^{\rm{T}}} - \mathit{\boldsymbol{M'}}{\mathit{\boldsymbol{Q}}_{12}} + {\mathit{\boldsymbol{Q}}_{22}}} \right)}^{ - 1}}}}{{\sigma _0^2{\lambda _0}}}} \right)\mathit{\boldsymbol{V}}_2^0 = 1 $$ (38)

      式中,V20为粗差向量的下界域;λ0为自由度n2卡方分布非中心化参数。

      给出了第i个方向的最大MDB值,根据广义Rayleigh-Ritz理论,其值满足关系式:

      $$ \begin{array}{l} {\lambda _{\min }} \le \frac{{\mathit{\boldsymbol{V}}_2^{0{\rm{T}}}\mathit{\boldsymbol{c}}_{{n_2}i}^{\rm{T}}{\mathit{\boldsymbol{c}}_{{n_2}i}}\mathit{\boldsymbol{V}}_2^0}}{{\mathit{\boldsymbol{V}}_2^{0{\rm{T}}}\left( {\frac{{{{\left( {\mathit{\boldsymbol{M'}}{\mathit{\boldsymbol{Q}}_{11}}{{\mathit{\boldsymbol{M'}}}^{\rm{T}}} - {\mathit{\boldsymbol{Q}}_{21}}{{\mathit{\boldsymbol{M'}}}^{\rm{T}}} - \mathit{\boldsymbol{M'}}{\mathit{\boldsymbol{Q}}_{12}} + {\mathit{\boldsymbol{Q}}_{22}}} \right)}^{ - 1}}}}{{\sigma _0^2{\lambda _0}}}} \right)\mathit{\boldsymbol{V}}_2^0}}\\ \;\;\;\;\;\;\;\;\;\;\;\;\;\;\; \le {\lambda _{\max }} \end{array} $$ (39)

      式中,cn2i的含义同式(26)。式(39)的特征值和特征向量可以通过下式解算得到:

      $$ \begin{array}{*{20}{c}} {\left( {{{\left( {\frac{{{{\left( {\mathit{\boldsymbol{M'}}{\mathit{\boldsymbol{Q}}_{11}}{{\mathit{\boldsymbol{M'}}}^{\rm{T}}} - {\mathit{\boldsymbol{Q}}_{21}}{{\mathit{\boldsymbol{M'}}}^{\rm{T}}} - \mathit{\boldsymbol{M'}}{\mathit{\boldsymbol{Q}}_{12}} + {\mathit{\boldsymbol{Q}}_{22}}} \right)}^{ - 1}}}}{{\sigma _0^2{\lambda _0}}}} \right)}^{ - 1}} \cdot } \right.}\\ {\left. {\mathit{\boldsymbol{c}}_{{n_2}i}^{\rm{T}}{\mathit{\boldsymbol{c}}_{{n_2}i}}} \right)\mathit{\boldsymbol{u}} = \lambda \mathit{\boldsymbol{u}}} \end{array} $$ (40)

      式中,λ为特征值;u为特征值对应的特征向量。

      因此向量V20在第i个观测值方向的误差下界域为:

      $$ \mathit{\boldsymbol{V}}_{2i}^0 = \sqrt {{\lambda _{\max }}} $$ (41)

      其特征值对应的特征向量为:

      $$ \mathit{\boldsymbol{V}}{_{2i}^0}_{\max } = {\mathit{\boldsymbol{u}}_{\max }} $$ (42)
    • 为了求解秩亏方程,需要选择r(ru)个拟准观测值,将第一组选择为拟准观测值,则有:

      $$ \left\| {{\mathit{\boldsymbol{ \boldsymbol{\varDelta} }}_1}} \right\|_{{{\mathit{\boldsymbol{\bar P}}}_{11}}}^2 = \mathit{\boldsymbol{ \boldsymbol{\varDelta} }}_1^{\rm{T}}{{\mathit{\boldsymbol{\bar P}}}_{11}}\mathit{\boldsymbol{ \boldsymbol{\varDelta} }}_1 = \min $$ (43)

      式中,${\mathit{\boldsymbol{\bar P}}_{11}} = \mathit{\boldsymbol{Q}}_{11}^{-1}$为l1对应的权矩阵。式(43)等价于:

      $$ \mathit{\boldsymbol{ \boldsymbol{A} }}_1^{\rm{T}}\mathit{\boldsymbol{Q}}_{11}^{ - 1}{\mathit{\boldsymbol{ \boldsymbol{\varDelta} }}_1} = 0 $$ (44)

      得到方程[5-6]

      $$ \left\{ {\begin{array}{*{20}{c}} {\mathit{\boldsymbol{R \boldsymbol{\varDelta} }} = - \mathit{\boldsymbol{Rl}}}\\ {\mathit{\boldsymbol{G \boldsymbol{\varDelta} }} = {\bf{0}}} \end{array}} \right. $$ (45)

      其解为:

      $$ \mathit{\boldsymbol{ \boldsymbol{\hat \varDelta} }} = \left[ {\begin{array}{*{20}{c}} {{{\mathit{\boldsymbol{ \boldsymbol{\hat \varDelta} }}}_1}}\\ {{{\mathit{\boldsymbol{ \boldsymbol{\hat \varDelta} }}}_2}} \end{array}} \right] = - {\left( {\mathit{\boldsymbol{PR}} + {\mathit{\boldsymbol{G}}^{\rm{T}}}\mathit{\boldsymbol{G}}} \right)^{ - 1}}\mathit{\boldsymbol{PRl}} $$ (46)

      式中,$\mathit{\boldsymbol{G}} = \left( {\mathit{\boldsymbol{A}}_1^{\text{T}}{{\mathit{\boldsymbol{\bar P}}}_{11}}\;\;\;\;\;\;{\bf{0}}} \right)$; ${\mathit{\boldsymbol{ \boldsymbol{\hat \varDelta} }}_2}$为受粗差污染观测值的真误差估值[6]

      对式(46)进一步分析可得到:

      $$ \begin{array}{*{20}{c}} {\mathit{\boldsymbol{ \boldsymbol{\hat \varDelta} }} = \mathit{\boldsymbol{V}} = \left( {\mathit{\boldsymbol{A}}{{\left( {\mathit{\boldsymbol{A}}_1^\mathrm{T}{{\mathit{\boldsymbol{\bar P}}}_{11}}{\mathit{\boldsymbol{A}}_1}} \right)}^{ - 1}}\mathit{\boldsymbol{G}} - \mathit{\boldsymbol{I}}} \right)\mathit{\boldsymbol{l}} = - }\\ {{{\left( {\mathit{\boldsymbol{PR}} + {\mathit{\boldsymbol{G}}^{\rm{T}}}\mathit{\boldsymbol{G}}} \right)}^{ - 1}}\mathit{\boldsymbol{PRl}}} \end{array} $$ (47)

      从式(47)可知,用QUAD法解算的粗差估值和用部分最小二乘解算的结果一致。

      应用协因数传播律可知,${\mathit{\boldsymbol{ \boldsymbol{\hat \varDelta} }}_2}$对应的协因数矩阵与部分最小二乘法结果相同,即为:

      $$ \begin{array}{l} {\mathit{\boldsymbol{Q}}_{{{\hat \Delta }_2}}} = {\mathit{\boldsymbol{Q}}_{{V_2}}}\\ \;\;\;\;\;\; = \mathit{\boldsymbol{M'}}{\mathit{\boldsymbol{Q}}_{11}}{{\mathit{\boldsymbol{M'}}}^{\rm{T}}} - {\mathit{\boldsymbol{Q}}_{21}}{{\mathit{\boldsymbol{M'}}}^{\rm{T}}} - \mathit{\boldsymbol{M'}}{\mathit{\boldsymbol{Q}}_{12}} + {\mathit{\boldsymbol{Q}}_{22}} \end{array} $$ (48)

      式中,M′=A2(A1TQ11-1A1)-1A1TQ11-1

      因此其后续的假设检验及可靠性理论与部分最小二乘法一致。

    • 由于l2为受粗差污染的观测值,所以R2Δ2对于观测值残差V的影响远远大于R1Δ1[4]。于是得到近似关系[4]

      $$ {\mathit{\boldsymbol{R}}_2}{\mathit{\boldsymbol{ \boldsymbol{\varDelta} }}_2} \approx \mathit{\boldsymbol{V}} $$ (49)

      按照最小二乘准则,其估值为[4]

      $$ \begin{array}{l} {{\mathit{\boldsymbol{ \boldsymbol{\hat \varDelta} }}}_2} = {\left( {\mathit{\boldsymbol{R}}_2^{\rm{T}}{\mathit{\boldsymbol{R}}_2}} \right)^{ - 1}}\mathit{\boldsymbol{R}}_2^{\rm{T}}\mathit{\boldsymbol{V}}\\ \;\;\;\;\; = - {\left( {\mathit{\boldsymbol{R}}_2^{\rm{T}}{\mathit{\boldsymbol{R}}_2}} \right)^{ - 1}}\mathit{\boldsymbol{R}}_2^{\rm{T}}{\mathit{\boldsymbol{R}}_1}{\mathit{\boldsymbol{l}}_1} - {\mathit{\boldsymbol{l}}_2} \end{array} $$ (50)

      式(50)为受粗差污染观测值的真误差估值公式,表现为粗差的影响[4]

      根据协因数传播律,得到${\mathit{\boldsymbol{ \boldsymbol{\hat \varDelta} }}_2}$的协因数阵为:

      $$ {\mathit{\boldsymbol{Q}}_{{{\hat \Delta }_2}}} = \mathit{\boldsymbol{M''}}{\mathit{\boldsymbol{Q}}_{11}}{{\mathit{\boldsymbol{M''}}}^{\rm{T}}} + {\mathit{\boldsymbol{Q}}_{21}}{{\mathit{\boldsymbol{M''}}}^{\rm{T}}} + \mathit{\boldsymbol{M''}}{\mathit{\boldsymbol{Q}}_{12}} + {\mathit{\boldsymbol{Q}}_{22}} $$ (51)

      式中,M″=(R2TR2)-1R2TR1。于是粗差统计量为:

      $$ \begin{array}{*{20}{c}} {{w^2} = }\\ {\frac{{{\mathit{\boldsymbol{l}}^{\rm{T}}}{{\left( {\mathit{\boldsymbol{M''l}}} \right)}^{\rm{T}}}\left( {\mathit{\boldsymbol{M''}}{\mathit{\boldsymbol{Q}}_{11}}{{\mathit{\boldsymbol{M''}}}^{\rm{T}}} + {\mathit{\boldsymbol{Q}}_{21}}{{\mathit{\boldsymbol{M''}}}^{\rm{T}}} + \mathit{\boldsymbol{M''}}{\mathit{\boldsymbol{Q}}_{12}} + {\mathit{\boldsymbol{Q}}_{22}}} \right)\left( {\mathit{\boldsymbol{M''I}}} \right)\mathit{\boldsymbol{l}}}}{{\sigma _0^2}}}\\ { \sim {\rm{ \mathsf{ χ} }}_{1 - {\alpha _w}2,{n_2}}^2} \end{array} $$ (52)

      非中心化参数为:

      $$ \lambda = \frac{{\mathit{\boldsymbol{ \boldsymbol{\varDelta} }}_2^{\rm{T}}\left( {\mathit{\boldsymbol{M''}}{\mathit{\boldsymbol{Q}}_{11}}{{\mathit{\boldsymbol{M''}}}^{\rm{T}}} + {\mathit{\boldsymbol{Q}}_{21}}{{\mathit{\boldsymbol{M''}}}^{\rm{T}}} + \mathit{\boldsymbol{M''}}{\mathit{\boldsymbol{Q}}_{12}} + {\mathit{\boldsymbol{Q}}_{22}}} \right){\mathit{\boldsymbol{ \boldsymbol{\varDelta} }}_2}}}{{\sigma _0^2}} $$ (53)

      原假设和备选假设为

      $$ \begin{array}{l} {H_0}:E\left( {{{\mathit{\boldsymbol{ \boldsymbol{\hat \varDelta} }}}_2}} \right) = 0\\ {H_a}:E\left( {{{\mathit{\boldsymbol{ \boldsymbol{\hat \varDelta} }}}_2}} \right) = {\mathit{\boldsymbol{ \boldsymbol{\varDelta} }}_2} \ne 0 \end{array} $$

      若原假设成立,则非中心化参数为0;若拒绝原假设,则其非中心化参数不为0。

    • 若只含有一个粗差的单个备选假设情形,统计量为:

      $$ \begin{array}{*{20}{c}} {{w_i} = \frac{{{{\mathit{\boldsymbol{ \boldsymbol{\hat \varDelta} }}}_2}}}{{{{\hat \sigma }_{{{\mathit{\boldsymbol{ \boldsymbol{\hat \varDelta} }}}_2}}}}} = }\\ {\frac{{\left( {\mathit{\boldsymbol{M''}}1} \right)\mathit{\boldsymbol{l}}}}{{{\sigma _0}\sqrt {\mathit{\boldsymbol{M''}}{\mathit{\boldsymbol{Q}}_{11}}{{\mathit{\boldsymbol{M''}}}^{\rm{T}}} + {\mathit{\boldsymbol{Q}}_{21}}{{\mathit{\boldsymbol{M''}}}^{\rm{T}}} + \mathit{\boldsymbol{M''}}{\mathit{\boldsymbol{Q}}_{12}} + {\mathit{\boldsymbol{Q}}_{22}}} }} \sim }\\ {N\left( {{\delta _i},1} \right)} \end{array} $$ (54)

      若原假设成立, 则正态分布的非中心化参数为0;若接受备选假设,则正态分布的非中心化参数为:

      $$ {\delta _i} = \frac{{{\mathit{\boldsymbol{ \boldsymbol{\varDelta} }}_2}}}{{{\sigma _0}\sqrt {\mathit{\boldsymbol{M''}}{\mathit{\boldsymbol{Q}}_{11}}{{\mathit{\boldsymbol{M''}}}^{\rm{T}}} + {\mathit{\boldsymbol{Q}}_{21}}{{\mathit{\boldsymbol{M''}}}^{\rm{T}}} + \mathit{\boldsymbol{M''}}{\mathit{\boldsymbol{Q}}_{12}} + {\mathit{\boldsymbol{Q}}_{22}}} }} $$ (55)

      若只含有一个粗差的单个备选假设情形,其MDB为:

      $$ {\rm{MD}}{{\rm{B}}_i} = {\delta _0}{\sigma _0}\sqrt {\mathit{\boldsymbol{M''}}{\mathit{\boldsymbol{Q}}_{11}}{{\mathit{\boldsymbol{M''}}}^{\rm{T}}} + {\mathit{\boldsymbol{Q}}_{21}}{{\mathit{\boldsymbol{M''}}}^{\rm{T}}} + \mathit{\boldsymbol{M''}}{\mathit{\boldsymbol{Q}}_{12}} + {\mathit{\boldsymbol{Q}}_{22}}} $$ (56)

      式中,δ0为正态分布的非中心化参数,在给定显著水平α和检验功效1-β的情况下可以计算得到。

    • 在多个粗差情形下,其粗差向量的下界域满足如下关系:

      $$ \frac{{\mathit{\boldsymbol{ \boldsymbol{\varDelta} }}_2^{0{\rm{T}}}\left( {\mathit{\boldsymbol{M''}}{\mathit{\boldsymbol{Q}}_{11}}{{\mathit{\boldsymbol{M''}}}^{\rm{T}}} + {\mathit{\boldsymbol{Q}}_{21}}{{\mathit{\boldsymbol{M''}}}^{\rm{T}}} + \mathit{\boldsymbol{M''}}{\mathit{\boldsymbol{Q}}_{12}} + {\mathit{\boldsymbol{Q}}_{22}}} \right)\mathit{\boldsymbol{ \boldsymbol{\varDelta} }}_2^0}}{{{\lambda _0}\sigma _0^2}} = 1 $$ (57)

      式中,Δ20为粗差向量的下界域;λ0为自由度n2卡方分布非中心化参数。

      给出了第i个方向的最大MDB值,根据广义Rayleigh-Ritz理论,其值满足如下关系式:

      $$ \begin{array}{l} {\lambda _{\min }} \le \frac{{\mathit{\boldsymbol{ \boldsymbol{\varDelta} }}_2^{0{\rm{T}}}\mathit{\boldsymbol{c}}_{{n_2}i}^{\rm{T}}{\mathit{\boldsymbol{c}}_{{n_2}i}}\mathit{\boldsymbol{ \boldsymbol{\varDelta} }}_2^0}}{{\mathit{\boldsymbol{ \boldsymbol{\varDelta} }}_2^{0{\rm{T}}}\left( {\frac{{{{\left( {\mathit{\boldsymbol{M''}}{\mathit{\boldsymbol{Q}}_{11}}{{\mathit{\boldsymbol{M''}}}^{\rm{T}}} + {\mathit{\boldsymbol{Q}}_{21}}{{\mathit{\boldsymbol{M''}}}^{\rm{T}}} + \mathit{\boldsymbol{M''}}{\mathit{\boldsymbol{Q}}_{12}} + {\mathit{\boldsymbol{Q}}_{22}}} \right)}^{ - 1}}}}{{\sigma _0^2{\lambda _0}}}} \right)\mathit{\boldsymbol{ \boldsymbol{\varDelta} }}_2^0}}\\ \;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\; \le {\lambda _{\max }} \end{array} $$ (58)

      式(58)的特征值和特征向量可以通过下式解算得到:

      $$ \begin{array}{l} \left( {{{\left( {\frac{{{{\left( {\mathit{\boldsymbol{M''}}{\mathit{\boldsymbol{Q}}_{11}}{{\mathit{\boldsymbol{M''}}}^{\rm{T}}} + {\mathit{\boldsymbol{Q}}_{21}}{{\mathit{\boldsymbol{M''}}}^{\rm{T}}} + \mathit{\boldsymbol{M''}}{\mathit{\boldsymbol{Q}}_{12}} + {\mathit{\boldsymbol{Q}}_{22}}} \right)}^{ - 1}}}}{{\sigma _0^2{\lambda _0}}}} \right)}^{ - 1}} \cdot } \right.\\ \;\;\;\;\;\;\;\;\;\;\;\;\;\;\left. {\mathit{\boldsymbol{c}}_{{n_2}i}^{\rm{T}}{\mathit{\boldsymbol{c}}_{{n_2}i}}} \right)\mathit{\boldsymbol{u}} = \lambda \mathit{\boldsymbol{u}} \end{array} $$ (59)

      式中,λ为特征值;u为特征值对应的特征向量。

      因此向量Δ20在第i个观测值方向的误差下界域为:

      $$ \mathit{\boldsymbol{ \boldsymbol{\varDelta} }}_{2i}^0 = \sqrt {{\lambda _{\max }}} $$ (60)

      其特征值对应的特征向量为:

      $$ \mathit{\boldsymbol{ \boldsymbol{\varDelta} }}_{2i}^0 = {\mathit{\boldsymbol{u}}_{\max }} $$ (61)
    • 利用文献[17]中水准网,如图 1所示,设观测值为6个观测高差,已知点高程为1 000 m,观测值的协因数矩阵为:

      图  1  水准网

      Figure 1.  Leveling Network

      $$ {\mathit{\boldsymbol{Q}}_l} = \left[ {\begin{array}{*{20}{c}} {5.5}&{3.7}&{0.3}&{ - 3.2}&{ - 0.5}&{0.1}\\ {3.7}&{3.9}&0&{ - 0.8}&{ - 0.6}&{ - 0.7}\\ {0.3}&0&{0.8}&{ - 1.4}&{0.1}&{0.8}\\ { - 3.2}&{ - 0.8}&{ - 1.4}&{5.4}&{ - 0.3}&{ - 2.1}\\ { - 0.5}&{ - 0.6}&{0.1}&{ - 0.3}&{0.2}&{0.3}\\ {0.1}&{ - 0.7}&{0.8}&{ - 2.1}&{0.3}&{1.4} \end{array}} \right] $$ (62)

      方案Ⅰ:假定为单个粗差的情形,设显著水平α0=0.1%,检验功效β0=80%,其卡方分布的非中心化参数λ0=17.07,分别设:①观测量的协因数矩阵为QlI1=I;②观测量协因数矩阵QlI2=diag(Ql);③观测量协因数阵QlI3=Ql。不同方法粗差可发现下界域MDB计算结果比较如表 1所示。

      表 1  不同方法的粗差可发现下界域MDB比较

      Table 1.  Comparison of MDBs of Different Methods

      方案 方法 1 2 3 4 5 6
      σli 2.35 1.97 0.89 2.32 0.45 1.18
      方案Ⅰ①MDBi/m 数据探测法 5.630 4 6.662 0 6.662 0 5.266 8 5.266 8 6.081 5
      PLS法 5.630 4 6.662 0 6.662 0 5.266 8 5.266 8 6.081 5
      QUAD法 5.630 4 6.662 0 6.662 0 5.266 8 5.266 8 6.081 5
      LEGE法 5.630 4 6.662 0 6.662 0 5.266 8 5.266 8 6.081 5
      方案Ⅰ②MDBi/m 数据探测法 10.686 1 10.065 4 10.065 4 9.768 7 6.501 2 8.393 5
      PLS法 10.686 1 10.065 4 10.065 4 9.768 7 6.501 2 8.393 5
      QUAD法 10.686 1 10.065 4 10.065 4 9.768 7 6.501 2 8.393 5
      LEGE法 10.723 1 10.400 4 10.400 4 9.771 6 6.793 3 8.695 5
      方案Ⅰ③MDBi/m 数据探测法 2.979 5 10.346 1 10.346 1 2.595 6 1.321 7 2.591 7
      PLS法 9.397 1 11.512 9 10.704 8 9.530 5 2.020 0 5.032 8
      QUAD法 9.397 1 11.512 9 10.704 8 9.530 5 2.020 0 5.032 8
      LEGE法 9.161 6 13.575 2 13.575 2 6.110 2 3.465 3 8.249 8

      方案Ⅱ:假定为两个粗差的情形,设显著水平α0=0.1%,检验功效β0=80%,其卡方分布的非中心化参数λ0=19.67,分别设:①观测量的协因数矩阵为QlII=I;②观测量协因数阵矩QlII=diag(Ql);③观测量协因数阵矩QlII=Ql。不同方法MDB计算结果比较如表 2-4所示。

      表 2  两个粗差观测量独立等精度时MDB比较

      Table 2.  The MDB for Two Outliers when Observations are Independent and Equal Precision

      MDBi/m MDBi/m
      i j 数据探测法 PLS法或QUAD法 LEGE法 i j 数据探测法 PLS法或QUAD法 LEGE法
      1 2 7.012 5 7.012 5 7.012 5 4 1 5.867 1 5.867 1 5.867 1
      1 3 7.012 5 7.012 5 7.012 5 4 2 5.725 7 5.725 7 5.725 7
      1 4 6.272 2 6.272 2 6.272 2 4 3 5.725 7 5.725 7 5.725 7
      1 5 6.272 2 6.272 2 6.272 2 4 5 7.242 5 7.242 5 7.242 5
      1 6 7.681 8 7.681 8 7.681 8 4 6 6.272 2 6.272 2 6.272 2
      2 1 8.297 3 8.297 3 8.297 3 5 1 5.867 1 5.867 1 5.867 1
      2 3 5 2 5.725 7 5.725 7 5.725 7
      2 4 7.242 5 7.242 5 7.242 5 5 3 5.725 7 5.725 7 5.725 7
      2 5 7.242 5 7.242 5 7.242 5 5 4 7.242 5 7.242 5 7.242 5
      2 6 7.681 8 7.681 8 7.681 8 5 6 6.272 2 6.272 2 6.272 2
      3 1 8.297 3 8.297 3 8.297 3 6 1 8.297 3 8.297 3 8.297 3
      3 2 6 2 7.012 5 7.012 5 7.012 5
      3 4 7.242 5 7.242 5 7.242 5 6 3 7.012 5 7.012 5 7.012 5
      3 5 7.242 5 7.242 5 7.242 5 6 4 7.242 5 7.242 5 7.242 5
      3 6 7.681 8 7.681 8 7.681 8 6 5 7.242 5 7.242 5 7.242 5

      表 3  两个粗差观测量相互独立时MDB比较

      Table 3.  The MDB for Two Outliers when Observations are Uncorrelated

      MDBi/m MDBi/m
      i j 数据探测法 PLS法或QUAD法 LEGE法 i j 数据探测法 PLS法或QUAD法 LEGE法
      1 2 11.811 7 11.811 7 11.823 4 4 1 10.489 4 10.489 4 10.491 2
      1 3 11.811 7 11.811 7 11.823 4 4 2 10.490 1 10.490 1 10.495 4
      1 4 11.474 5 11.474 5 11.512 1 4 3 10.490 1 10.490 1 10.495 4
      1 5 12.761 3 12.761 3 12.799 2 4 5 13.550 1 13.550 1 13.738 1
      1 6 14.164 5 14.164 5 14.165 7 4 6 10.495 3 10.495 3 10.495 9
      2 1 11.125 7 11.125 7 11.148 1 5 1 7.763 7 7.763 7 8.121 2
      2 3 5 2 7.969 9 7.969 9 8.008 1
      2 4 10.808 7 10.808 7 11.167 1 5 3 7.969 9 7.969 9 8.008 1
      2 5 12.339 3 12.339 3 12.421 8 5 4 9.017 9 9.017 9 9.325 5
      2 6 14.164 5 14.164 5 14.165 7 5 6 10.495 3 10.495 3 10.495 9
      3 1 11.125 7 11.125 7 11.148 1 6 1 11.125 7 11.125 7 11.148 1
      3 2 6 2 11.811 7 11.811 7 11.823 4
      3 4 10.808 7 10.808 7 11.167 1 6 3 11.811 7 11.811 7 11.823 4
      3 5 12.339 3 12.339 3 12.421 8 6 4 9.017 9 9.017 9 9.325 5
      3 6 14.164 5 14.164 5 14.165 7 6 5 13.550 1 13.550 1 13.738 1

      表 4  两个粗差观测量相关时MDB比较

      Table 4.  The MDB for Two Outliers when Observations are Correlated

      i j MDBi/m i j MDBi/m
      数据探测法 PLS法或QUAD法 LEGE法 数据探测法 PLS法或QUAD法 LEGE法
      1 2 3.514 6 8.136 9 8.625 5 4 1 9.834 4 9.839 6 9.838 6
      1 3 3.514 6 8.136 9 8.625 5 4 2 2.991 9 9.917 2 8.274 2
      1 4 11.289 2 13.300 5 13.746 2 4 3 2.991 9 9.917 2 8.274 2
      1 5 18.465 2 18.488 7 18.584 8 4 5 14.420 5 15.474 7 16.774 1
      1 6 14.030 6 15.833 9 14.428 6 4 6 7.354 0 9.251 9 7.413 1
      2 1 12.204 1 12.516 1 13.011 3 5 1 8.190 9 8.320 7 9.276 0
      2 3 5 2 1.635 2 1.637 8 2.908 9
      2 4 11.925 7 12.595 3 17.975 9 5 3 1.635 2 1.637 8 2.908 9
      2 5 12.800 0 13.271 6 14.790 7 5 4 7.343 0 7.416 2 10.593 0
      2 6 14.030 6 14.302 7 14.428 6 5 6 7.354 0 7.427 1 7.413 1
      3 1 12.204 1 12.473 6 13.011 3 6 1 12.204 1 12.725 6 13.011 3
      3 2 6 2 3.514 6 5.009 9 8.625 5
      3 4 11.925 7 12.096 6 17.975 9 6 3 3.514 6 6.340 8 8.625 5
      3 5 12.800 0 13.006 2 14.790 7 6 4 7.343 0 7.345 9 10.593 0
      3 6 14.030 6 14.749 6 14.428 6 6 5 14.420 5 14.422 0 16.774 1
    • 表 1可以看出,对于单个粗差单个备选假设条件下,若观测值独立等精度时,数据探测法、QUAD法、PLS法和LEGE法的MDB相同;若观测值独立不等精度时,数据探测法、QUAD法和PLS法的MDB相同,LEGE法的MDB略大;若观测值相关时,QUAD法和PLS法的MDB相同,与数据探测法、LEGE法的MDB都不同,而数据探测法的MDB最小。

      表 2表 3表 4可以看出,对于两个粗差单个备选条件下,若观测值独立等精度时,数据探测法、QUAD法、PLS法和LEGE法的MDB相同;若观测值独立不等精度时,数据探测法、QUAD法和PLS法的MDB相同,LEGE法的MDB略大;若观测值相关时,QUAD法和PLS法的MDB相同,且与数据探测法、LEGE法的MDB都不同,数据探测法的MDB最小。

    • 本文对基于均值漂移模式的几种粗差定位和定值方法进行了深入分析,给出了几种方法的MDB计算公式;通过数据分析,当观测值独立等精度时,几种方法的MDB值相同,说明几种方法可能探测的最小边界误差效果相同,当观测值相关或观测精度不等时,几种方法的MDB不同,其中数据探测法的MDB值最小,说明其可能探测出的最小边界误差最小。

      本文仅限于对单个备选假设下的内部可靠性进行比较,对于从两个多维备选假设下的内部可靠性理论,其可发现且可与其他模型误差相区分的模型误差下界值,以及不可发现和区分的模型误差对平差结果的影响,需进行更深入的比较分析和研究。

参考文献 (23)

目录

    /

    返回文章
    返回