Als Residuum wird die Abweichung eines durch ein mathematisches Modell vorhergesagten Wertes vom tatsächlich beobachteten Wert bezeichnet. Durch Minimierung der Residuen wird das Modell optimiert (je kleiner der Fehler, desto genauer die Vorhersage).
Betrachtet man beispielsweise eine lineare Regression, bei der eine Geradengleichung ermittelt wird, die sich mit minimalen Abstandsquadraten in die Punktwolke aus Wertepaaren einfügt, so lässt sich zu jedem Wert $x_i$ (unabhängige Größe) mittels Regressionsgleichung $(y = ax + b)$ ein $\hat{y_i}$ berechnen.
Die Differenz zum tatsächlich zugehörigen Wert $ y_i$ ist das Residuum: $\epsilon = y_i - \hat{y_i}$.
