2.1 整体最小二乘法误差方程
利用最小二乘法在计算坐标转换参数时,仅考虑观测向量的误差,忽略了系数矩阵本身存在的误差,但在实际测量工作中,由于人为误差、模型误差和仪器误差等因素的影响,系数矩阵同样也是含误差的观测量,因此,采用最小二乘法求解转换模型参数的精度并不高。鉴于最小二乘法存在的问题,本节讨论整体最小二乘法求解坐标转换参数,该方法同时考虑系数矩阵和观测值的误差。
2.2 整体最小二乘法求解
对于式(4)的解算,目前常用方法有奇异值(SVD)分解法、拉格朗日函数法、正交三角(QR)分解法、分裂迭代法等等[5],但上述方法计算过程均较为复杂。本文依据文献[6],参考整体最小二乘法线性回归的建模和解法,分析整体最小二乘法在平面直角坐标转换中参数的求解过程。