Den generelle regressionsmodel med n observationer og k explanators, og den første er en konstant enhed vektor, hvis koefficienten er regression opfange, er
y = X β + e {\displaystyle y=X\beta +e}
hvor y er en n × 1 vektor af den afhængige variabel observationer, hver kolonne i n × k matrix, X er en vektor af observationer på en af de k explanators, β {\displaystyle \beta } er en k × 1 vektor af sand-koefficienter, og e er en n× 1 vektor af den sande underliggende fejl., Den almindelige mindste kvadraters estimator for beta {\displaystyle \beta } er
is ^ ^ = y {{\displaystyle {{\hat {\beta }}=y\iff} = T.^^=. T y {{\displaystyle. ^ {\operatorname {T}} = {\hat {\beta}}=. ^ {\operatorname {T} }y\iff } β ^ = (. T.) − 1. T y. {\displaystyle {\hat {\beta }}=(X^{\operatorname {T} }X^{-1}X^{\operatorname {T} }g.} RSS = e ^ T e ^ = ‖ e ^ ‖ 2 {\displaystyle \operatorname {RSS} ={\hat {e}}^{\operatorname {T} }{\hat {e}}=\|{\hat {e}}\|^{2}} ,
(svarer til kvadratet på normen af residualer)., I sin helhed:
RSS = y T-y − y-T X ( X, T, X ) − 1 X-T y = y, T y = y T y {\displaystyle \operatorname {RSS} =y^{\operatorname {T} }y-y^{\operatorname {T} }X(X^{\operatorname {T} }X^{-1}X^{\operatorname {T} }y=y^{\operatorname {T} }y=y^{\operatorname {T} }y} ,
, hvor H er den hat matrix, eller de projektion matrix til lineær regression.