gradiento metodas

gradieñto metòdas, iteracinis kelių kintamųjų funkcijos minimizavimo ar maksimizavimo ir lygčių sistemos sprendimo metodas. Jei funkcija f(x) yra diferencijuojama, tai panaudojus dalinių išvestinių reikšmes galima prognozuoti kryptį į ieškomąjį minimumo ar maksimumo tašką. Funkcijos f(x) gradientas $\nabla f(x^0)$ apibūdina jos sparčiausio didėjimo kryptį ir dydį taške x⁰. Funkcijos minimizavimo iteracinis metodas kryptimi, priešinga gradiento krypčiai, vadinamas staigiausiojo nuolydžio metodu. Lygčių sistemos AX = F gradientiniais iteraciniais metodais sprendžiamos, kai A – simetrinė teigiamai apibrėžta matrica. Šios sistemos sprendimas pakeičiamas funkcionalo J(X) = (AX, X) – 2(F, X) minimumo radimu; čia (F, X) – vektorių F ir X skaliarinė sandauga. Staigiausiojo nuolydžio metodu, pasirinkus pradinį tašką X⁰ n‑matėje vektorinėje erdvėje, kryptis Y⁰ šiame taške parenkama tokia, kuria funkcionalo J(X) reikšmės mažėja sparčiausiai. Šis metodas apibrėžiamas iteraciniu procesu: X^k = X^k–1 – τ_k(ΑX^k–1, F) (k = 1, 2, …); čia iteracinis parametras τ_k = $\frac{(A{X}^{k-1}-F,A{X}^{k-1}-F)}{(A(A{X}^{k-1}-F),A{X}^{k-1}-F)}$.