Как провести линию через несколько точек?

Если накидать четыре точки на бумажке то можно довольно уверенно провести через них прямую "на глазок" (особенно если знать "в какую сторону", об этом через пару абзацев). Как так получается что мы можем легко её провести? Как объяснить компьютеру как проводить эту линию? Что мы делаем с этим всем чтобы получилось "ну, норм прямая прошла"?

В конце концов вот допустим есть пять точек, у них свои какие-то координаты, вообще не важно какие, пусть важно что они не совпадают.
x₁, y₁
x₂, y₂
x₃, y₃
x₄, y₄
x₅, y₅

И чо? _Как прямую-то провести? _Ну можно например усреднить все координаты, получится одна точка. Координаты у неё будут понятные:
(x₁+x₂+x₃+x₄+x₅)/5, (y₁+y₂+y₃+y₄+y₅)/5

И чо? Через одну точку можно сколько угодно прямых провести, мне-то надо хотя бы две точки. Значит нужен какой-то другой ход.

И вот на самом деле если тут неудачно зазеваться и оступиться то как раз и начинается "добро пожаловать в машинное обучение" 😃. То, как ты будешь оптимизировать положение прямой — рабочие алгоритмы, которые используется во многих системах чтобы что-то там вот провести подобным образом.

Тут идут от обратного. Типа вот допустим, у нас уже есть прямая какая-то, она задаётся y = kx + s, как и в прошлый раз. Она, понятно, физически не может пройти по всем точкам — ну если избежать "скучный" случай когда они все на одной прямой — такие нас не интересуют как слишком тривиальные.
Для каждой точки можно посчитать свою "ошибку" — то, как далеко получившаяся прямая отклонилась от исходной точки. Красные пунктиры на картинке это как раз эта "ошибка":
eᵢ = yᵢ - (mxᵢ + b)

Ну а дальше надо как-то эту ошибку минимизировать. Можно себе представить что мы считаем суммарную длину красного пунктира и вращаем-перемещаем нашу линию так чтобы суммарная длина этого пунктира оказалась минимальной. А можно и что-нибудь похитрее придумать. Обычно придумывают, считают не длину а хитрые квадраты, не суть. Главное что пытаются вот так оптимизировать.

А вы, вот прикиньте, это всё вы делаете в уме, когда проводите прямую через несколько точек! Даже не задумываясь! Вы молодец :D