Ελάχιστα Τετράγωνα (Ordinary Least Squares - OLS)

Τα Ελάχιστα Τετράγωνα (Ordinary Least Squares - OLS) αποτελούν την κανονική μέθοδο για την εκτίμηση των παραμέτρων ενός γραμμικού μοντέλου παλινδρόμησης, ελαχιστοποιώντας το άθροισμα των τετραγωνικών διαφορών μεταξύ των παρατηρούμενων και των προβλεπόμενων τιμών. Πρώτη δημοσιευμένη από τον Adrien-Marie Legendre το 1805 και ανεξάρτητα αναπτυγμένη από τον Carl Friedrich Gauss (ο οποίος διεκδίκησε την προτεραιότητα από το 1795), η μέθοδος OLS είναι αποδεδειγμένα βέλτιστη υπό το θεώρημα Gauss-Markov: δεδομένων των παραδοχών της, αποδίδει τον Καλύτερο Γραμμικό Αμερόληπτο Εκτιμητή (Best Linear Unbiased Estimator - BLUE) των συντελεστών παλινδρόμησης.