關(guān)于用最小二乘法求出回歸方程,求回歸方程的最小二乘法 是怎么計(jì)算的這個(gè)問(wèn)題很多朋友還不知道,今天小六來(lái)為大家解答以上的問(wèn)題,現(xiàn)在讓我們一起來(lái)看看吧!
1、計(jì)算方法:y = Ax + B:a = sigma[(yi-y均值)*(xi-x均值)] / sigma[(xi-x均值)的平方];b = y均值 - a*x均值。
2、知識(shí)拓展最小二乘法求回歸直線方程的推導(dǎo)過(guò)程這里的是為了區(qū)分Y的實(shí)際值y(這里的實(shí)際值就是統(tǒng)計(jì)數(shù)據(jù)的真實(shí)值,我們稱之為觀察值),當(dāng)x取值(i=1,2,3……n)時(shí),Y的觀察值為,近似值為(或者說(shuō)對(duì)應(yīng)的縱坐標(biāo)是)。
3、其中式叫做Y對(duì)x的回歸直線方程,b叫做回歸系數(shù)。
4、要想確定回歸直線方程,我們只需確定a與回歸系數(shù)b即可。
5、設(shè)x,Y的一組觀察值為:i = 1,2,3……n其回歸直線方程為:當(dāng)x取值(i=1,2,3……n)時(shí),Y的觀察值為,差刻畫(huà)了實(shí)際觀察值與回歸直線上相應(yīng)點(diǎn)縱坐標(biāo)之間的偏離程度,見(jiàn)下圖:實(shí)際上我們希望這n個(gè)離差構(gòu)成的總離差越小越好,只有如此才能使直線最貼近已知點(diǎn)。
6、換句話說(shuō),我們求回歸直線方程的過(guò)程其實(shí)就是求離差最小值的過(guò)程。
7、一個(gè)很自然的想法是把各個(gè)離差加起來(lái)作為總離差。
8、可是,由于離差有正有負(fù),直接相加會(huì)互相抵消,如此就無(wú)法反映這些數(shù)據(jù)的貼近程度,即這個(gè)總離差不能用n個(gè)離差之和來(lái)表示,見(jiàn)下圖:一般做法是我們用離差的平方和,即:作為總離差 ,并使之達(dá)到最小。
9、這樣回歸直線就是所有直線中Q取最小值的那一條。
10、由于平方又叫二乘方,所以這種使“離差平方和為最小”的方法,叫做最小二乘法。
11、用最小二乘法求回歸直線方程中的a、b的公式如下:其中,、為和的均值,a、b的上方加“︿”表示是由觀察值按最小二乘法求得的估計(jì)值,a、b求出后,回歸直線方程也就建立起來(lái)了。
12、當(dāng)然,我們肯定不能滿足于直接得到公式,我們只有理解這個(gè)公式怎么來(lái)的才能記住它,用好它,因此給出上面兩個(gè)公式的推導(dǎo)過(guò)程更加重要。
13、在給出上述公式的推導(dǎo)過(guò)程之前,我們先給出推導(dǎo)過(guò)程中用到的兩個(gè)關(guān)鍵變形公式的推導(dǎo)過(guò)程。
14、首先是第一個(gè)公式:接著是第二個(gè)公式:基本變形公式準(zhǔn)備完畢,我們可以開(kāi)始最小二乘法求回歸直線方程公式的推導(dǎo)了:至此,公式變形部分結(jié)束,從最終式子我們可以看到后兩項(xiàng)與a、b無(wú)關(guān),屬于常數(shù)項(xiàng),我們只需即可得到最小的Q值,因此:。
本文分享完畢,希望對(duì)大家有所幫助。
標(biāo)簽:
免責(zé)聲明:本文由用戶上傳,如有侵權(quán)請(qǐng)聯(lián)系刪除!