• 您現在的位置是:首頁 >精選問答 > 2023-10-05 20:48:14 來源:

    sgd 隨機梯度下降(隨機梯度下降)

    導讀 大家好,我是小夏,我來為大家解答以上問題。sgd 隨機梯度下降,隨機梯度下降很多人還不知道,現在讓我們一起來看看吧!1、原始的隨機梯度...

    大家好,我是小夏,我來為大家解答以上問題。sgd 隨機梯度下降,隨機梯度下降很多人還不知道,現在讓我們一起來看看吧!

    1、原始的隨機梯度下降(SGD)適合于低精度的任務,而梯度下降算法適合用于高精度的任務。

    2、如果接受一個比較低的精度(應用問題中往往不要求高精度),那么由于SGD每次只利用一個或部分樣本的梯度做更新,所以前期迭代較快,導致前期一段時間內比梯度下降算法下降得多。

    3、但是由于原始的SGD算法在目標函數強凸的情況下依舊無法做到線性收斂,所以當執行的時候足夠長的時候SGD的精度會被梯度下降算法趕超,因為梯度下降算法可以在目標函數強凸的時候有線性收斂速度。

    本文到此講解完畢了,希望對大家有幫助。

  • 成人app