前言
無約束問題的求解過程一般都是通過一系列的一維搜索來實現(xiàn),搜索方向的不同,形成了不同的最優(yōu)化方法。這篇文章從最速下降法入手,來進(jìn)行搜索。
一、最速下降法介紹
最速下降法又叫梯度法,通過梯度下降法來一步步的迭代求解,得到最小化的損失函數(shù)和模型參數(shù)值。如果我們需要求解損失函數(shù)的最大值,這時就需要用梯度上升法來迭代,其過程剛好與最速下降法相反,所以在求解最大值的優(yōu)化問題時,常常將目標(biāo)函數(shù)加負(fù)號之后,轉(zhuǎn)變?yōu)榍笞钚≈岛?,使用最速下降法來求解?mark hidden color="red">文章來源:http://www.zghlxwxcb.cn/news/detail-452477.html
二、最速下降法原理
最速下降法是使用負(fù)梯度方向
來作為搜索的方向。設(shè)f(x)在Xk附近 可微,dk為文章來源地址http://www.zghlxwxcb.cn/news/detail-452477.html
到了這里,關(guān)于【最優(yōu)化算法】基于【MATLAB】的最速下降仿真的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!