روش بی‌اف‌جی‌اس

جهت جستجو p_k در لحظه ی k ام توسط پاسخ معادله ی نیوتون داده می شود.

${\displaystyle B_k{\mathbf{p}}_k=-\mathrm{\nabla }f({\mathbf{x}}_k)}$

که در آن ${\displaystyle B_k}$

با شروع از مقدار اولیه ${\displaystyle {\mathbf{x}}_0}$

1. انتخاب جهت ${\displaystyle {\mathbf{p}}_k}$
   با حل : ${\displaystyle B_k{\mathbf{p}}_k=-\mathrm{\nabla }f({\mathbf{x}}_k).}$
   .
2. انجام جستجوی خطی برای یافتن بهترین سایز قدم ${\displaystyle {\alpha }_k}$
   برای بروزرسانی ${\displaystyle {\mathbf{x}}_{k+1}={\mathbf{x}}_k+{\alpha }_k{\mathbf{p}}_k.}$
   .
3. مقدار دهی ${\displaystyle {\mathbf{s}}_k={\alpha }_k{\mathbf{p}}_k.}$
   .
4. ${\displaystyle {\mathbf{y}}_k=\mathrm{\nabla }f({\mathbf{x}}_{k+1})-\mathrm{\nabla }f({\mathbf{x}}_k).}$
5. ${\displaystyle B_{k+1}=B_k+\frac{{\mathbf{y}}_k{\mathbf{y}}_k^{\mathrm{T}}}{{\mathbf{y}}_k^{\mathrm{T}}{\mathbf{s}}_k}-\frac{B_k{\mathbf{s}}_k{\mathbf{s}}_k^{\mathrm{T}}{B}_k}{{\mathbf{s}}_k^{\mathrm{T}}{B}_k{\mathbf{s}}_k}.}$

• روش های شبه نیوتون
• L-BFGS روش
• الگوریتم تپه نوردی

• Avriel, Mordecai (2003), Nonlinear Programming: Analysis and Methods, Dover Publishing, ISBN 0-486-43227-0

• SOURCE CODE OF HIGH-PRECISION BFGS A C++ source code of BFGS with high-precision arithmetic