共軛梯度法的搜索方向（共軛梯度法）

大家好，我是小夏，我來為大家解答以上問題。共軛梯度法的搜索方向，共軛梯度法很多人還不知道，現在讓我們一起來看看吧！

1、原發布者:蔡珍

2、共軛方向法和共軛梯度法問題1:如何建立有效的算法？從二次模型到一般模型.問題2:什么樣的算法有效呢？二次終止性.簡介共軛方向法和共軛梯度法共軛梯度法是介于最速下降法與牛頓法之間的一個方法，它僅需利用一階導數信息，但克服了最速下降法收斂慢的缺點，又避免了牛頓法需要存儲和計算Hesse矩陣并求逆的缺點，共軛梯度法不僅是解決大型線性方程組最有用的方法之一，也是解大型非線性最優化最有效的算法之一.(1)最初是由計算數學家Hestenes和幾何學家Stiefel于1952年為求正定系數矩陣線性方程組而獨立提出的.他們合作的著名文章Methodofconjugategradientsforsolvinglinearsystems被認為是共軛梯度法的奠基性文章。(2)1964年，Fletcher和Reeves將此方法推廣到非線性最優化，得到了求解一般函數極小值的共軛梯度法.(3)共軛梯度法的收斂性分析的早期工作主要由Fletcher、Powell、Beale等學者給出.(4)Nocedal、Gilbert、Nazareth、Al-Baali、Storey、Dai、Yuan和Han等學者在收斂性方面得到了不少新成果.共軛方向法和共軛梯度法特點(1)建立在二次模型上，具有二次終止性．(2)一種有效的算法，克服了最速下降法的鋸齒現象，又避免了牛頓法的計算量大和局部收斂性的缺點．(3)算法簡單，易于編程，無需計算二階導數，存儲空間小等優點，是求解中等規模優化問題的主要方法．共軛方向法定義--共軛方向注：若GI,則是正交的，因此,共軛

本文到此講解完畢了，希望對大家有幫助。