Наиболее распространенным методом аппроксимации экспериментальных данных является метод наименьших квадратов. Метод позволяет использовать аппроксимирующие функции произвольного вида и относится к группе глобальных методов. Простейшим вариантом метода наименьших квадратов является аппроксимация прямой линией (полиномом первой степени). Этот вариант метода наименьших квадратов носит также название линейной регрессии.
Критерием близости в методе наименьших квадратов является требование минимальности суммы квадратов отклонений от аппроксимирующей функции до экспериментальных точек.
Таким образом, не требуется, чтобы аппроксимирующая функция проходила через все заданные точки, что особенно важно при аппроксимации данных, заведомо содержащих погрешности.
Важной особенностью метода является то, что аппроксимирующая функция может быть произвольной. Ее вид определяется особенностями решаемой задачи, например, физическими соображениями, если проводится аппроксимация результатов физического эксперимента. Наиболее часто встречаются аппроксимация прямой линией (линейная регрессия), аппроксимация полиномом (полиномиальная регрессия), аппроксимация линейной комбинацией произвольных функций. Кроме того, часто бывает возможно путем замены переменных свести задачу к линейной (провести линеаризацию).
СКАЛЯРНЫЕ ПРОИЗВЕДЕНИЯ И ТРАНСПОНИРОВАНИЕ Скалярное произведение двух векторов и y есть число. Будем допускать возможность, что скалярные произведения не равны нулю, т. е. что углы не являются прямыми, и интересоваться соотношением между скалярным произведением и углом.
Предположим, что задана точка вмерном пространстве и мы хотим найти расстояние от этой точки до прямой, порожденной вектором, т. е. мы ищем на этой прямой точку, ближайшую к. Тогда прямая, соединяющая точки и, перпендикулярна к исходному вектору .
Проекции вмерном пространстве.
Этот факт позволяет нам найти ближайшую точку и вычислить расстояние от нее до. Несмотря на то что исходные векторы и не были ортогональны, для решения задачи автоматически привлекается ортогональность.
Ситуация будет аналогичной, если вместо прямой, определенной вектором, задана плоскость или вообще любое подпространство пространства. Задача вновь сводится к отысканию точки в этом подпространстве, которая является ближайшей к, и эта точка вновь оказывается проекцией точки на подпространство. Если мы опустим перпендикуляр из точки на, то будет точкой пересечения этого перпендикуляра с подпространством S. Геометрически это соответствует решению задачи о расстояниях между точками и подпространствами. Однако остаются и некоторые вопросы, а именно:
1) Имеет ли эта задача практическое значение?
2) Существует ли аналитическая формула для определения точки, если подпространство задается определенным базисом (или просто набором векторов, порождающих его)?
3) Существует ли устойчивый (с вычислительной точки зрения) способ вычисления точки при помощи этой формулы?
