Den generelle regresjonsmodell med n observasjoner og k explanators, hvorav den første er en konstant enhet vektor som koeffisient er regresjon fange opp, er
y = X β + e {\displaystyle y=X\beta +e}
der y er en n × 1 vektor av avhengig variabel observasjoner, blir hver kolonne av n × k-matrisen X er en vektor av observasjoner på en av de k explanators, β {\displaystyle \beta } er en k × 1 sann vektor av koeffisienter, og e er en n× 1 vektor av den sanne underliggende feil., Den vanlige minste kvadraters estimator for β {\displaystyle \beta } er
X β ^ = y ⟺ {\displaystyle X{\hat {\beta }}=y\iff } X T-X β ^ = X T y ⟺ {\displaystyle X^{\operatorname {T} }X{\hat {\beta }}=X^{\operatorname {T} }y\iff } β ^ = ( X T X ) − 1 X T y . {\displaystyle {\hat {\beta }}=(X^{\operatorname {T} }X^{-1}X^{\operatorname {T} }y.} RSS = e ^ e T T e ^ = ‖ e ^ ‖ 2 {\displaystyle \operatorname {RSS} ={\hat {e}}^{\operatorname {T} }{\hat {e}}=\|{\hat {e}}\|^{2}} ,
(tilsvarer plassen norm av restprodukter)., I sin helhet:
RSS = y T-y − y T X ( X T X ) − 1 X T y = y T-y = y T y {\displaystyle \operatorname {RSS} =y^{\operatorname {T} }y-y^{\operatorname {T} }X(X^{\operatorname {T} }X^{-1}X^{\operatorname {T} }y=y^{\operatorname {T} }y=y^{\operatorname {T} }y}
hvor H er hat matrix, eller projeksjon matrise i lineær regresjon.