Computing Forward-Difference Intervals for Numerical Optimization
Computing Forward-Difference Intervals for Numerical Optimization
复制标题
DOI：
10.1137/0904025
复制
发表时间：
1983-06
期刊：
影响因子：
--
通讯作者：
P. Gill;W. Murray;M. Saunders;M. H. Wright
中科院分区：
文献类型：
--
作者：
P. Gill;W. Murray;M. Saunders;M. H. Wright
当最小化一个光滑的非线性函数，其导数不可用时，一种流行的方法是使用梯度法，用有限差分近似代替精确梯度。为了使这种方法有效，必须能够计算“好”的导数近似值，而不需要大量的函数求值。有限差分区间的某些“标准”选择可能导致对严重缩放问题的差的导数近似。我们提出了一种算法，用于计算一组区间中使用的梯度的前向差分近似。
When minimizing a smooth nonlinear function whose derivatives are not available, a popular approach is to use a gradient method with a finite-difference approximation substituted for the exact gradient. In order for such a method to be effective, it must be possible to compute “good” derivative approximations without requiring a large number of function evaluations. Certain “standard” choices for the finite-difference interval may lead to poor derivative approximations for badly scaled problems. We present an algorithm for computing a set of intervals to be used in a forward-difference approximation of the gradient.