Исследовать методы градиентного спуска и сопряженных градиентов при вычислении векторных произведений и умножений матриц двойной и одинарной точности

Введение

Используя градиентные методы, можно найти решение любой задачи нелинейного программирования. Однако в общем случае применение этих методов позволяет найти точку локального экстремума.

Процесс нахождения решения задачи с помощью градиентных методов состоит в том, что начиная с некоторой точки X (k) осуществляется последовательный переход к некоторым другим точкам, до тех пор, пока не выявляется приемлемое решение исходной задачи.

Но в данной работе стоит задача применении двух градиентных методов для решения систем вида:

{█(α_11 x₁+α_12 x₂+⋯+α_1n x_n=b₁,@α_21 x₁+α_22 x₂+⋯+α_2n x_n=b_2@…@α_n1 x₁+α_n2 x₂+⋯+α_nn x_n=b_n)┤

Найти точное решение, т. е. вектор ¯x=(x₁, x₂,…, x_n) возможно с помощью методов оптимизации. Пусть Аu = f — система линейных уравнений, будем так же считать, что, А — положительный оператор, т. е. A > 0, это означает, что для любого ненулевого вектора u выполнено (Au, u) > 0. Ставится задача об отыскании элемента v, придающего наименьшее значение функционалу Ф (u):

.

Из математического анализа и вычислительной математики известно, что если элемент доставляет минимальное значение функционалу Ф (u), то он является решением системы линейных уравнений Аu = f. Следовательно решение СЛАУ Аu = f можно найти с помощью итерационных методов, в которых следующие приближения в итерационном процессе находятся с помощью градиентных методов.