http://www.paper.edu.cn
三种粗差检测方法的比较及分析
方 杨，何 薇，王广兴，杜玉军，李会梅
武汉大学测绘学院，武汉（430079)
E-mail: cherubspelca@yahoo.cn
摘 要: 最小二乘法无法检测出粗差，若在最小二乘平差前不排除粗差，则得到的结果不是最优。对观测数据进行认真检测，定位并修正粗差观测，以提高参数估计的准确度和精度，是非常必要的。目前国际国内提出的探测粗差的方法众多，缺乏方法间的相互比较分析，本文在前人的基础上分别介绍了三种主要的粗差探测法的基本原理，数据探测法（Data
Snooping）、拟准检定法(QUAD)和粗差同时定位定值法(LEGE)。我们利用这三种方法，对同一算例进行粗差检测，通过对结果进行比较分析，从原理、算法、粗差定位、粗差大小检测、粗差探测效率几个方面讨论了各种方法的优缺点。
关键词:最小二乘法；粗差；数据探测法；拟准检定法；粗差同时定位定值法
1. 引言
众所周知，观测数据难免会存在粗差，如果在进行最小二乘平差前不进行排除，所得结果则不是最优的。因此，对观测数据进行认真检测，定位并修正粗差观测，以提高参数估计的准确度和精度，一直是测绘工程领域的热点问题，也正是本文所要研究探讨的内容。
最早提出单个粗差探测技术的是荷兰的巴尔达教授(W.Baarda),他从已知单位权方差出发导出了以服从正态分布的标准残差为统计量的数据探测法(Data Snooping)。
欧吉坤（1999）提出的“拟准检定法”（QUAD法）从真误差入手，利用真误差与观测值之间的解析关系，提出拟准观测的概念。借鉴拟稳平差思想，附加“拟准观测的真误差范数极小”的条件，解决了关于真误差的秩亏方程组求确定解的问题。
於宗俦（1996）提出的粗差同时定位定值法（LEGE法）本文在研究三种方法特点的基础上，对其进行了比较分析。
[2]
[1]
不仅能确定k 个粗差的
位置(k≤r-1,r 为多余观测数),而且可以同时求得各个粗差的数值大小。
2. 原理及数学模型
ˆ=L+V，即V=AXˆ−L，则有 设有线性化观测方程AX0=L+Δ，其估值形式AX
下列关系式V=−RΔ，R=QvP=I−A(APA)AP
T
−1
T
[1~2]
。其中A是n×t系数矩阵，L
ˆ是t×1参数估值，Q是协因数矩阵，R称为可是n×1观测值，Δ为真误差，V是残差，Xv
靠性矩阵。
2.1数据探测法（Data Snooping）
该方法在平差系统中只有一个粗差的前提下，将粗差归入函数模型，认为与正常值有相同的方差不同的期望，用统计假设检验探测粗差并剔除。假设检验的统计量是服从正态分布的标准残差：
u=vi/σ0Qvivi=vi/σvi~N(0,1)
原假设：Ho:E(vi)=0; 备选假设：H1:E(vi)≠0.
作u检验：若|u|>Zα/2，则拒绝原假设，Li可能存在粗差。那么此时关键问题是显著性水平α
- 1 -
http://www.paper.edu.cn
的选取。
经过多次试验，本文认为α取值为0.05较为合适，即对应的拒绝域为|u|≥1.96。当然这是一个经验数值，对于不同的情况还应根据其平差网形结构而定，一般网形结构简单的，判定为粗差的条件要稍微严些，即α取值要稍小；对于结构相对复杂的则α取值稍大。
2.2 QUAD法
令J=AAPA
(T
)−1
ATP，称其为平差因子阵，它是投影矩阵。J⋅J=J（幂等），
JA=A，则R=I−J。因JAX0=AX0=L+Δ=J(L+Δ)，有(I−J)Δ=−(I−J)L,
或RΔ=−RL。这是关于真误差Δ和观测值L的确定关系式，也可写成关于Δ的线性方程组。该方程组是秩亏的。从数学上讲，解这类秩亏方程组并不困难。但从客观实际的角度，应当强调所采用的解法要有明确合理的物理意义。
2.3 LEGE法
真误差与改正数(残差)之间存在着以下确定的严格等式：R∈=V。假设在∈1,∈2K,∈n
n,nn,1
n,1
中存在着k个粗差，于是将观测值分成两组，假设第一组是可能包含粗差的观测值，第二组是不包含粗差的观测值，则有R=[RIRII],∈=[∈I∈II]。∈I的最小二乘解为：
n,n
n,kn,k'
n,1
k,1k,,1
T
∈=(RRI)RITV。为了找出真正的k个粗差，必须从R中一次取出k列的所有可能组合，
k,1
T
I
−1
这样共有Cn个不同的列组合，而其中必有一个列组合包含了全部的k个粗差。
k
3. 算例及分析
算例选自参考文献[2]，网形、观测值及模拟粗差见参考文献，以下是分别用三种方法进行粗差探测及分析的结果。 3.1 数据探测法
对本例四个粗差的情况进行分析，计算结果见表1。
①该方法只需要在平差后计算出标准统计量u，判断其是否超过阈值，如果超过，则将相应的改正数作为粗差修正即可，计算简单，方便实用，很容易编程实现。
②该方法每次只能检测出一个粗差，若要检测另一个粗差，必须先剔除所发现的粗差，重新平差计算统计量；逐次重复进行，直至不再发现粗差。就此例来说，第一次计算得出L2含有粗差，对其进行改正后再计算，依次可发现L7，L11，再次探测时发现L7仍有粗差。
③检测出的粗差值不准确，并且一个粗差可能需要若干次的检验改正才能剔除干净。此例中探测到的所有粗差值：ε2=11.662857，ε7=-(4.865570+2.907684)=-7.773254，ε11=4.902005；与实际模拟粗差(分别为15.9，-11.6，12.4)相差较大。
④由于每次只考虑一个粗差，未顾及各改正数的相关性，该方法对某些粗差无法发现；同时，也可能对某些没有粗差的观测值造成误判。在闭合环11—10—12—17中，L11和L17同时存在符号相同的粗差，造成当改正L11后，再次检验得出不再有粗差的结论，以致无法检验出L17中的粗差。同时，L3的u值却越来越大，这在较严格的时候还会认为其存在粗差。
- 2 -
http://www.paper.edu.cn
表1 水准网粗差的数据探测法数值结果
No. L |ui| |WiI(1)|1 0.52
15.93 -1.44 -0.55 -0.86 1.17
-11.68 0.29 -0.310 0.811
12.412 -0.714 0.115 -0.516 1.217
7.918 -0.219 -1
3.43 8.11 |WiI(2)|13.39 |WiIII|2.62 1.68 0. 0.30 0.02 1. 1.71 1.71 0.01 1.09 1.29 0.77 0.01 1.50 1.97 0.30 0.02 1.01 0.67 0.46 0.02 1.96
2.60 10.17 1.97 1.77 1.93 0.46 0.02 1.19 0.12 0.23 0.06 0.63 0.49 0.69 0.08 1.97
2.30 7.57 1.74 0.01 0.77 1.88 0.07 0.16 0.25 0.12 0.05 0.50 0.52 0.08 0.07 0.23 0.07 0.60 0.07 0.27 0.70 2.48 1.10 0.47 0.27 0.19 0.02 0.45 0.44 0.52 0.00
R=16
R=15
13 0.2=0.19 0.25 0.12 0.05
R18表2 水准网粗差的拟准检定法数值结果
No.
ε1 (1)σ0ε2
-2.154.380.520.112.041.950.11-2.04-7.854.961.44-0.481.461.462.771.61-0.911.04-0.61
(1)σ0ε3
-0.072.730.12-0.381.221.58-1.09-0.41-3.853.410.21-0.581.061.061.701.24-0.430.51-0.16
(1)σ0
1 -2.83 2.442 4.91 2.163 0.66 2.494 0.27 2.505 2.30 2.456 2.08 2.457 0.50 2.518 -2.58 2.459
-9.15 0.7510 5.47 2.0211 1.84 2.4612 -0.45 2.4913 1.58 2.4714 1.58 2.4715 3.12 2.3216 1.73 2.4317 -1.06 2.4918 1.21 2.4619 -0.76 2.492.151.2.192.192.142.142.202.160.751.742.162.182.162.162.042.132.182.162.19
1.301.121.301.301.231.221.251.290.750.931.301.271.271.271.201.241.291.281.30
- 3 -
http://www.paper.edu.cn
表3 水准网粗差的LEGE法数值结果
No. |u|(1) |u|(2)|u|(3)|u|(4)|u|(5)1 0.79 0.72 0.50 2 0.97 1.15 2.08 3 1.25 1.33 1. 4 0.62 1.04 1.18 5 1.31 1.85 1.47 6 0.84 1.06 0.59 7 1.80 2.27 1.77 8 1.24 1.56 1.51 9 0.97 0.46 0.76 10 0.46 0.01 0.07 11 1.51 1.72 2.05 12 0.01 0.37 0.45 13 0.12 0.09 0.09 14 0.12 0.09 0.09 15 0.47 0.09 0.07 16 0.17 0.08 0.07 17 0.18 0.37 0.47 18 0.33 0.01 0.02 19 0.27 0.00 0.01 σ0(mm) 1.09 0.83vmax(mm)
v2
-11.66
v7 4.87
0.67v11 -4.90
0.69 0.48 1.23 1.42 1.52 1.81 0.95 1.04 1.67 1.27 0.95 0.49 2.09 1.55 1.46 1.36 0.55 0.82 0.46 0.48 1.28 1.44 0.77 0.90 0.05 0.04 0.05 0.04 0.11 0.17 0.07 0.10 1.01 1.20 0.14 0.19 0.03 0.06 0.54v7 2.91
0.45——
3.2 QUAD法
用QUAD法对同一算例进行处理，当有4个粗差同时出现的情况下粗差检测结果如表2。 ①此方法实际上是通过计算指标，达到将观测值分群的目的，分离出指标明显大的，然后再以序列真误差的中位数作为中误差，得到新的指标，可依此准确判定含粗差数。
②由表2可看出每迭代一次，就会有若干观测值指标特别大而浮现出来，分群特别明显。 ③此方法既能够一次性探测出多个粗差的位置，也能够探测出粗差的大小，虽然不是完全符合粗差预设值，但与实际粗差相差不大，改正后在数值量级上与正常误差相当，即可以满足粗差定位与定值的要求。
④为了检验在粗差较小时能否检验出粗差，我们将观测值2的粗差值改为3.9。可见，此法对于粗差较小的情况同样有效。
⑤如何正确选择拟准观测，是拟准检定法的关键。
3.3 LEGE法
用LEGE法对本例进行一阶粗差搜索，将9号观测值的模拟粗差值进行了改变，计算结果如表3.
①由表3的计算结果可知，当模拟第九个观测值的粗差分别为ε1=-9.3、ε2=-8、ε3=-4时，根据LEGE法搜索出的一阶解分别为-9.15、-7.85、-3.85，它们的大小与模拟值相近，且用搜索出的值分别去修正原观测值后所得的单位权中误差估值相同（均为0.75），并使单位权中误差估值明显减小（修正前单位权中误差估值分别为2.50、2.19、1.30，修正后均为0.75），而用其他的观测值修正后所得的单位权中误差估值没有明显的减小。这说明模拟的第九个观
- 4 -
http://www.paper.edu.cn
测值确实存在粗差，LEGE法“保留使σ0为最小的那个解”的标准是合理的。
②当模拟9号观测值的粗差为-9.3时，计算得：
0,1(0)(1)σ0=2.50, σ0=0.75, ρ()=3.33>3,故认为1阶保留解为粗差解,9号观测值有粗差,其
(i)
值约为-9.15，与模拟的值接近。但若把模拟的第九个值－9.3改为－8，则在粗差修正前求得的单位权中误差为2.19，在粗差修正之后的单位权中误差为0.75，此时，ρ得的单位权中误差为1.29，在粗差修正之后的单位权中误差为0.75，ρ(0,1)(0,1)=2.92<3，因
此用这种方法不能判断－8为粗差。若把模拟的第九个值－9.3改为－4，则在粗差修正前求
=1.72<3，因此也
不能判断－4为粗差。同样，在进行粗差定位时，如果模拟的粗差值不够大，也不能进行粗差定位与定值。所以，该方法对能够检测出的粗差的大小有一定，只能检测出粗差值较大的数，当模拟的粗差减小时不能检测出来。所以，在实际的测量应用中，如果粗差值太小，则用该方法不一定能很好地检测出粗差。
③如果把粗差判定的条件限定的更加严格，即把ρ值也检测不出来。如在上面的例子中，ρ(0,1)(k−1,k)>3变为大于4或者更大，粗差
=3.33<4。因此也不能判断－9.3为粗差。对
(k−1,k)不同的网形、观测方案、精度要求和粗差大小，ρ讨的问题。
的取值可能不同，需根据实际需要
来确定。同时，如何确定一个比较好的值，使它在多数情况下都能适用，更是值得进一步探
4. 结束语
通过对三种算法的比较，可以发现这三种方法各有优缺点：数据探测方法简单易行，但是每次只能检测出一个粗差，而且定值不准。QUAD法实质上是选那些指标相对小的作为拟准观测，反复计算，不断筛选。检测粗差可靠性较好，尤其是同时探测多个粗差时，虽然其理论推导较为复杂，但算法简单，易于实现；LEGE法则通过考察改正某一粗差后单位权中误差改变量的大小来将粗差逐一检测出来，原理简单，容易理解，但运算次数较多。
QUAD法和LEGE法都能实现粗差的同时定位和定值，但将粗差绝对值改小后，比如在4～5时，检测效果变差，容易漏检或错检。在经典最小二乘平差中，我们通常认为大于3倍中误差的真误差为“粗差”。因此粗差具有相对的意义,它是相对于观测精度而言的。事实上,粗差的定位与定值总是针对某一具体测量工程的观测成果来进行的。因此，对不同的网形、不同的精度要求，应给出一个合理的误差界限,凡误差大于此界限值的则认为它是粗差。而如何确定一个一般性的临界值或临界准则正是这些粗差检测方法由理论运用到实践的前提，也应该是我们进一步研究的方向之一。
参考文献
[1] 欧吉坤.粗差的拟准检定法(QUAD法).测绘学报，1999,23(1):15～20
[2] 於宗俦,李明峰.粗差的同时定位与定值. 武汉测绘科技大学学报,1996,21(4):323～329
[3] 於宗俦,李明峰.对LEGE 法性质的进一步讨论及其改进搜索方法.武汉测绘科技大学学
报,1998,23(3):244～247
[4] 欧吉坤.一种三步抗差方案的设计.测绘学报，1996,23(1):15～20 [5] 李德仁.误差处理和可靠性理论.北京: 测绘出版社,1988. [6] 周江文.经典误差理论与抗差估计.测绘学报, 19,18(2)
[7] 陶本藻，姚宜斌.可靠性分析与数据探测.武汉大学学报(信息科学版),2002,27(6):607～609
- 5 -
http://www.paper.edu.cn
Comparison and Analysis of Three Methods of
Gross Error Detection
FANG Yang, HE Wei, WANG Guang-xing, DU Yu-jun, LI Hui-mei
School of Geodesy and Geomatics, Wuhan University, 129 Luoyu Road, Wuhan（430079) Abstract
The gross error can not be detected by the least square method. If it is not eliminated when we do adjustment, the result is definitely undesirable. In order to improve the accuracy and precision of parameter estimation, it is essential to check observation, locate and correct the gross error. At present, there are many kinds of methods for gross error detection, but comparison and analysis is scarcely carried out for the interrelationship. The fundamentles of three methods for gross error detection, such as Data Snooping, QUAD, LEGE, were interpreted respectively, bosed on the published papers. The advantages and disadvantages of each method were discussed by application of the three methods in the same example and analysis of their results from the aspects of principle, algorithm, error location, error detection and detection efficiency.
Keywords: least square method; gross error; data snooping; QUAD; LEGE
作者简介：
方杨，女，硕士研究生，现从事卫星大地测量研究；
何薇，女，硕士研究生，汉族，湖北武汉人，现从事卫星导航与定位方向研究。
- 6 -
