残差平方和计算

按定义，残差平方和应为

等精度测量：

﹝

非等精度测量：

﹝

式中

对于线性参数，残差为

用矩阵形式表示的残差平方和为

﹝

线性参数测量数据的残差平方和可进一步写成

式中符号的意义与前面相应的的符号一致。

以上给出了残差平方和的一般形式。在具体解算时，从计算方便考虑，对不同的解算方法，残差平方和的计算各有相应的具体方法。

为了明确解释变量和随机误差各产生的效应是多少，统计学上把数据点与它在回归直线上相应位置的差异称为残差，把每个残差平方之后加起来 称为残差平方和，它表示随机误差的效应。一组数据的残差平方和越小,其拟合程度越好。

解释变量与残差平方和

残差平方和RSS具有以下性质：

性质1 只有常数项没有其他解释变量的回归方程的RSS和TSS相等，其决定系数为0。

性质2 增加解释变量必然导致RSS减小。因此，如果想降低RSS，只要在回归方程中尽可能地加入解释变量就能达到目的。

性质3 包含常数项全部解释变量的个数K等于样本数n时，RSS为0，决定系数为1。

F检验和t检验之间的关系

在一些场合t检验不仅可以进行双侧检验，也可以进行单侧检验。而F检验没有单侧和双侧的区别。当进行双侧检验的时候两种检验的P值相同。

概率分布

残差带权平方和除以单位权方差服从

式中自由度f就是平差中多余观测数。由于

数学期望和方差

易知

由此可知

即单位权方差

且

则有

或

即方差估计

概率表达式

或

分位值

剩余标准差S_E，也称均方差，统计学概念，在线性回归分析中，真实值和估计值之间的差称为残差（或者剩余量），所有预测值的残差平方和（或者剩余平方和），剩余标准差就是剩余平方和的开平方。用来表示估计值的精度。

下面是一个简单的双线性模型的建模过程 。

设要建立的双线性模型为:

设参数的初始估值为

仿真建模实例

设双线性差分方程为:

均值：-0.317177 偏态：-0.347777 方差：1.543746 峰态：1. 005134

设有m个试验点

证明 从略。

令

令