А ещё не все ошибки одинаково полезны

Помимо того что некоторые точки могут быть с весами, другие важные моменты это то, как учитывается ошибка. Ведь, когда у нас квадрат ошибки то, условно, 2 превращается в 4, а 10 в 100. То есть одна точка, которая далеко (на 10 точек) отстоит от линии, которую мы проводим, может давать вклад как ДВАДЦАТЬ ПЯТЬ точек с ошибкой в две единицы. Жёстко, да?

А что если точка-то и правда "неправильная". Ну, например, выброс или ошибка измерения или ещё какая-то случайность? Такое вполне вероятно, поэтому часто используют другие способы считать ошибки. Причём иногда это даже важнее чем "приятность" функции — типа использовать модуль отклонения и отклонение в 10 будет просто 10 а не 100. Или вообще можно придумать какую-то функцию которая "насыщается" и с какого-то момента ошибка не учитывается так агрессивно.

Этот принцип "давайте не будем слишком сильно париться из-за отдельных промахов" полезен и по жизни, и используется много где и тут. Вот, например, вы смотрите на ряд чисел 2, 4, 6, 8, 1000, 10, 12, ну и точно же число 1000 вы автоматически посчитаете опечаткой.

В общем, я вижу в этом какую-то человечность при построении моделей, типа иногда полезно быть немножко "пофигистом" и не обращать внимание на странные выбросы. _Ну или хотя бы не преувеличивать их, возводя в квадрат _😉