第三章多元線性回歸分解

《第三章多元線性回歸分解》由會員分享，可在線閱讀，更多相關《第三章多元線性回歸分解（70頁珍藏版）》請在裝配圖網上搜索。

1、1第三章第三章 多元線性回歸模型多元線性回歸模型一元線性回歸模型的推廣一元線性回歸模型的推廣2 1、研究中國的、研究中國的GDP增長增長 a.影響影響GDP增長的因素有哪些（投資、增長的因素有哪些（投資、消費、出口、貨幣供應量等）？消費、出口、貨幣供應量等）？b.GDP與各種因素關系的性質是什么？與各種因素關系的性質是什么？（增、減）（增、減）c.各影響因素與各影響因素與GDP的具體的數量關系？的具體的數量關系？d.所作數量分析結果的可靠性如何？所作數量分析結果的可靠性如何？e.今后的發展趨勢怎么樣？今后的發展趨勢怎么樣？32、中國股票價格的波動、中國股票價格的波動 股票價格變動的情況怎樣（股

2、價指數）？股票價格變動的情況怎樣（股價指數）？影響股票價格變動的因素是什么（資金、影響股票價格變動的因素是什么（資金、政策、政策、利率等）？利率等）？股價與各種因素的關系是什么（利空、股價與各種因素的關系是什么（利空、利多）？利多）？各種因素影響的具體數量規律是什么？各種因素影響的具體數量規律是什么？所得結果可不可靠？所得結果可不可靠？今后的發展趨勢怎樣？今后的發展趨勢怎樣？43、中國家庭汽車的市場 汽車市場狀況如何（銷售量）？汽車市場狀況如何（銷售量）？影響汽車銷量的主要因素是什么（收入、影響汽車銷量的主要因素是什么（收入、價格、道路狀況等）？價格、道路狀況等）？各種因素對汽車銷量影響的性質

3、怎樣各種因素對汽車銷量影響的性質怎樣（正、負、無）？（正、負、無）？各種因素影響汽車銷量的具體數量程度？各種因素影響汽車銷量的具體數量程度？以上分析所得結論是否可靠以上分析所得結論是否可靠今后發展趨勢怎樣？今后發展趨勢怎樣？5多元線性回歸分析：研究因變量（被多元線性回歸分析：研究因變量（被解釋變量）與兩個或兩個以上自變量解釋變量）與兩個或兩個以上自變量（解釋變量）之間的回歸問題，稱為（解釋變量）之間的回歸問題，稱為多元回歸分析。多元回歸分析。線性回歸線性回歸自變量個數自變量個數大于等于大于等于2 2多元多元線性線性回歸回歸6第三章 多元線性回歸模型第一節第一節 多元線性回歸模型及古典假定多元線

4、性回歸模型及古典假定第二節第二節 多元線性回歸模型的估計多元線性回歸模型的估計第三節第三節 多元線性回歸模型的檢驗多元線性回歸模型的檢驗習題習題第五節第五節 實例實例小結小結7多元線性模型多元線性模型 i=1,2,n 在這個模型中，在這個模型中，Y Y由由X X2 2,X,X3 3,X,XK K所解釋，所解釋，有有K K個未知參數個未知參數1 1、2 2、K K.其中，其中，“斜率斜率”j j的含義是其它變量不變的情況的含義是其它變量不變的情況下，下，X Xj j改變一個單位對因變量所產生的影改變一個單位對因變量所產生的影響，也稱為響，也稱為偏回歸系數偏回歸系數。第一節第一節 多元線性回歸模型

5、及古典假定多元線性回歸模型及古典假定12233.iiikkiiYXXXuup8二元線性回歸模型（總體）二元線性回歸模型（總體）樣本回歸模型樣本回歸模型33221XXY332213,2/XXXXYteXXY3322133221XXYup9 為什么要做基本假定為什么要做基本假定模型中有隨機擾動，估計的參數模型中有隨機擾動，估計的參數是隨機變量，只有對隨機擾動的分是隨機變量，只有對隨機擾動的分布作出假定，才能確定所估計參數布作出假定，才能確定所估計參數的分布性質的分布性質 只有具備一定的假定條件，所只有具備一定的假定條件，所作出的估計才具有較好的統計性質作出的估計才具有較好的統計性質,也才可能進行假

6、設檢驗和區間估計也才可能進行假設檢驗和區間估計 二、多元線性回歸中的基本假定二、多元線性回歸中的基本假定10 假定假定1 1：零均值假定：零均值假定 假定假定2 2和假定和假定3 3：同方差和無自相關假定：同方差和無自相關假定 假定假定4 4：隨機擾動項與解釋變量不相關：隨機擾動項與解釋變量不相關 假定假定5:5:無多重共線性假定無多重共線性假定 (多元中多元中)假定各解釋變量之間不存在線性關系，或假定各解釋變量之間不存在線性關系，或各個解釋變量觀測值之間線性無關。各個解釋變量觀測值之間線性無關。假定假定6 6：正態性假定：正態性假定up11 第二節第二節 多元線性回歸模型的估計多元線性回歸模

7、型的估計 本節基本內容:普通最小二乘法（普通最小二乘法（OLSOLS）OLSOLS估計式的性質估計式的性質 隨機擾動項方差隨機擾動項方差 的估計的估計 思考題思考題2up12 一、普通最小二乘法一、普通最小二乘法（OLSOLS）最小二乘原則 剩余平方和最?。呵笃珜?令其為0:22min(-)iiieY Y2212233min-(.)iiiikkieYXXX 2()0ije131223322ii122i33iminQeYiiiiYXXeXX樣本二元線性回歸模型為：則普通最小二乘法估計參數的準則就是：（-）14122i33ii1212i22i3232i2213i22333i3i3(3)QnXXY0

8、Q0XXX YQ0XXX YiiiiiiX XX X估計量的計算。與在一元線性回歸模型估計中的原理完全一樣，根據上面的式子有：這里有三個方程，三個未知數。151223322332322222323232223322223232i2i23i3i3ii()()xXxXXyYYiiiiiiiiiiiiiiiiiiiiYXXx yxx yx xxxxxx yxx yx xxxxx式中：-X，。計算得到：計算得到：up16二、二、OLS估計式的性質估計式的性質 OLS估計式估計式 1.線性特征:2.無偏特性:3.最小方差特性結論：在古典假定下，多元線性回歸的 OLS估計式是最佳線性無偏估計式（BLUE）

9、up17 四、隨機擾動項方差四、隨機擾動項方差 的估計的估計 多元回歸中 的無偏估計為：T分布變換為變換：2-()SE()kkkktt n k22-ien k2up18練習題練習題3.3建立家庭書刊消費的計量經濟模建立家庭書刊消費的計量經濟模型：型：iiiiuTXY3211920iiiTXY3703.5208645.00162.50 （49.46049.460）（0.0290.029）（5.2025.202）t=(-1.011)(2.944)(10.067)t=(-1.011)(2.944)(10.067)R R2 2=0.951 df=15=0.951 df=1521ActActualual

10、FitFittedtedResResiduidualalY Y 殘殘差差 450.000 457.747-7.74749 793.200 855.947-62.7468 507.700 511.674-3.97390 660.800 663.531-2.73081 613.900 684.398-70.4977 792.700 760.439 32.2609 563.400 534.756 28.6440 580.800 554.589 26.2113 501.500 430.379 71.1215 612.700 659.900-47.1999 781.500 860.234-78.7337

11、 890.800 876.072 14.7276Y22 思思 考考簡單線性回歸模型與多元線性回簡單線性回歸模型與多元線性回歸模型的基本假定是否相同？歸模型的基本假定是否相同？23 已知含有截距項的三元線性回歸模型已知含有截距項的三元線性回歸模型估計的殘差平方和估計的殘差平方和 ，樣本容量為樣本容量為n=24n=24，則隨機誤差項的方，則隨機誤差項的方差估計量為差估計量為()()。A.33.33 B.40 NoImage 8002teup24 第三節第三節 多元線性回歸模型的檢驗多元線性回歸模型的檢驗本節基本內容:多元回歸的擬合優度檢驗 回歸方程的顯著性檢驗（F檢驗）各回歸系數的顯著性檢驗（t檢

12、驗）up25 對于雙變量線性模型對于雙變量線性模型 2e其中，其中，=殘差平方和殘差平方和我們有我們有第一節第一節 擬合優度擬合優度一、可決系數一、可決系數R R2 222222(-)ESSTSS-RSS1-TSS(-)TSSiiiiY YeRYYy12iiiYXu26對于多元線性模型對于多元線性模型122.KKYXXu我們可用同樣的方法定義可決系數：我們可用同樣的方法定義可決系數：對于多元線性模型對于多元線性模型TSSRSSTSSESSR1227 殘差平方和的一個特點是，每當模型增加一殘差平方和的一個特點是，每當模型增加一個解釋變量，并用改變后的模型重新進行估計個解釋變量，并用改變后的模型重

13、新進行估計，殘差平方和的值會減小。，殘差平方和的值會減小。由此可以推論，擬合優度是一個與解釋變量由此可以推論，擬合優度是一個與解釋變量的個數有關的量：的個數有關的量：解釋變量個數增加解釋變量個數增加 減小減小 R2 增大增大也就是說，人們總是可以通過增加模型中解釋也就是說，人們總是可以通過增加模型中解釋變量的方法來增大變量的方法來增大 R2 的值。因此，用的值。因此，用 R2 來作來作為擬合優度的測度，不是十分令人滿意的。為擬合優度的測度，不是十分令人滿意的。為此，我們定義修正可決系數為此，我們定義修正可決系數 （Adjusted ）2e2R2R28 二、二、修正的可決系數（修正的可決系數（a

14、djusted adjusted coefficient of determinationcoefficient of determination）在樣本容量一定的情況下，增加解釋變量在樣本容量一定的情況下，增加解釋變量必定使得自由度減少，所以調整的思路是必定使得自由度減少，所以調整的思路是:將將殘差平方和與總離差平方和分別除以各自的自殘差平方和與總離差平方和分別除以各自的自由度，以剔除變量個數對擬合優度的影響由度，以剔除變量個數對擬合優度的影響:其中：其中：n-kn-k為殘差平方和的自由度，為殘差平方和的自由度，n n-1-1為為總體平方和的自由度?？傮w平方和的自由度。K K為解釋變量個數。

15、為解釋變量個數。2/1 /1RSS nkRTSS n-=-dw29自自 由由 度度 自由度（自由度（degree of freedomdegree of freedom，dfdf）當以當以樣本的統計量來估計總體的參數時，樣本中獨樣本的統計量來估計總體的參數時，樣本中獨立或能自由變化的數據的個數稱為該統計量的立或能自由變化的數據的個數稱為該統計量的自由度。自由度。通俗點說，一個班上有通俗點說，一個班上有5050個人，我們知道他們個人，我們知道他們語文成績平均分為語文成績平均分為8080，現在只需要知道，現在只需要知道4949個人個人的成績就能推斷出剩下那個人的成績。你可以的成績就能推斷出剩下那個

16、人的成績。你可以隨便報出隨便報出4949個人的成績，但是最后一個人的你個人的成績，但是最后一個人的你不能瞎說，因為平均分已經固定下來了，自由不能瞎說，因為平均分已經固定下來了，自由度少一個了度少一個了3023222123()()iRSSeYYYXX自由度為自由度為n-3n-3。2()TSSYY 自由度為自由度為n-1n-1。對于二元線性回歸模型來說對于二元線性回歸模型來說31 變差來源變差來源 平方和平方和 自由度自由度歸于回歸模型歸于回歸模型歸于剩余歸于剩余總變差總變差方差分析表方差分析表2ESS(-)iY Y2TSS(-)iY Y2RSS(-)iiY Y1n-1k-n-kup32 可決系數

17、可決系數 必定非負，但修正的可決系數必定非負，但修正的可決系數 可能為負值，這時規定可能為負值，這時規定 k1時，t0.025(11-3)=2.306拒絕原假設，拒絕原假設，說明說明 2不等于不等于0同理同理 3不等于不等于049注意注意:在一元回歸中在一元回歸中F檢驗與檢驗與t檢驗等價檢驗等價,且且 但在多元回歸中但在多元回歸中F檢驗與檢驗與t檢驗作用不同。檢驗作用不同。一方面一方面，t檢驗與F檢驗都是對相同的原假設H0：i=0=0 進行檢驗;另一方面另一方面，兩個統計量之間有如下關系：222222222222222222(2)(2)(2)12(2)iiiiiiiiiiyxFenenenxe

18、tnxenx2Ft50課本練習題課本練習題3.1 P98up51練練 習習1 1、多元線性回歸分析中的多元線性回歸分析中的 RSSRSS反映了（反映了（）A A應變量觀測值總變差的大小應變量觀測值總變差的大小 B B應變量回歸估計值總變差的大小應變量回歸估計值總變差的大小 C C 應變量觀測值與估計值之間的總變差應變量觀測值與估計值之間的總變差 D DY Y關于關于X X的邊際變化的邊際變化 三元線性回歸分析中的回歸平方和三元線性回歸分析中的回歸平方和ESSESS的的 自由度是自由度是 （）A.3A.3 B.B.4 4 C.n-4 D.n-1 C.n-4 D.n-1522 2、對模型、對模型Y

19、 Yi i=1 1+2 2X X2i2i+3 3X X3i3i+i i進行總體顯進行總體顯著性著性F F檢驗，檢驗的零假設是檢驗，檢驗的零假設是 A.A.2 2=3 3=0 B.=0 B.2 2=0=0 C.C.3 3=0=0 D.D.1 1=0=0或或2 2=0=03 3、在多元線性回歸中，判定系數、在多元線性回歸中，判定系數R R2 2隨著解釋變隨著解釋變量數目的增加而（）量數目的增加而（）A A減少減少 B B增加增加 C C不變不變 D D變化不定變化不定 4 4、對兩個包含的解釋變量個數不同的回歸模型、對兩個包含的解釋變量個數不同的回歸模型進行擬合優度比較時，應比較它們的：進行擬合優

20、度比較時，應比較它們的：()A.A.判定系數判定系數 B.B.調整后判定系數調整后判定系數 C.C.標準誤差標準誤差 D.D.估計標準誤差估計標準誤差535、回歸模型、回歸模型yi=0+iX1+iX2+ui中，檢中，檢驗驗H0 1=0時，所用的統計量時，所用的統計量()。111()VarRSSTSS)1()(kRSSknESS)(Var111A A、B B、C C、D D、546 6、調整后的判定系數與判定系數之間的關、調整后的判定系數與判定系數之間的關系敘述不正確的有（系敘述不正確的有（）A A.均非負均非負B.B.判斷多元回歸模型擬合優度時，使用調整后的判斷多元回歸模型擬合優度時，使用調整

21、后的可決系數可決系數C C、模型中包含的解釋變量個數越多，兩者相差、模型中包含的解釋變量個數越多，兩者相差越大越大 D D、只要模型中包括截距項在內的參數的個數、只要模型中包括截距項在內的參數的個數大于大于1 1，則前者小于后者，則前者小于后者55 7、用一組有用一組有30個觀測值的樣本估計個觀測值的樣本估計模型模型Yi=1+2X2i+3X3i+i，并在，并在0.05的的顯著性水平下對總體顯著性作顯著性水平下對總體顯著性作F檢驗，檢驗，則檢驗拒絕零假設的條件是統計量則檢驗拒絕零假設的條件是統計量F大大于于()A.F0.05(3,30)B.F0.025(3,30)C.F0.05(2,27)D.F

22、0.025(2,27)56)1()(kRSSknESS)()1()1(22knRkR)1()1()(22kRknR)()1/(knTSSkESS8、設k為回歸模型中的參數個數，n為樣本容量。則對多元線性回歸方程進行顯著性檢驗時，所用的F統計量可表示為（）BAB.CD57 9、根據可決系數、根據可決系數R2與與F統計量的關系統計量的關系可知，當可知，當R2=1時有（時有（）。）。A.F=1 B.F=1 C.F+D.F=0 58簡單線性回歸模型與多元線性回歸模型的簡單線性回歸模型與多元線性回歸模型的基本假定是相同的。（基本假定是相同的。（）多元回歸模型中，任何一個單獨的變量均多元回歸模型中，任何一

23、個單獨的變量均是統計不顯著的，則整個模型在統計上是是統計不顯著的，則整個模型在統計上是不顯著的。（不顯著的。（）給定顯著性水平給定顯著性水平a及自由度，若計算得到的及自由度，若計算得到的 值超過臨界的值超過臨界的t值，我們將接受零假設（）值，我們將接受零假設（）在計量經濟模型的檢驗中，對樣本回歸函在計量經濟模型的檢驗中，對樣本回歸函數整體的顯著性檢驗與對解釋變量系數的數整體的顯著性檢驗與對解釋變量系數的顯著性檢驗是一致的（顯著性檢驗是一致的（）5960完成以下問題：完成以下問題：1寫出需求量對消費者平均收入、商品寫出需求量對消費者平均收入、商品價格的線性回歸估計方程。價格的線性回歸估計方程。2

24、解釋偏回歸系數的經濟含義。解釋偏回歸系數的經濟含義。3對該模型做經濟意義檢驗。對該模型做經濟意義檢驗。4估計調整的可決系數。估計調整的可決系數。5在在95%的置信度下對方程整體顯著性的置信度下對方程整體顯著性進行檢驗。進行檢驗。6在在95%的置信度下檢驗偏回歸系數的置信度下檢驗偏回歸系數(斜率斜率)的顯著性。的顯著性。6121t232.5.00.40.60.8,24(4.0)(3.2)It,TSS(3)FtttttIYIRn假設投資函數模型估計的回歸方程為（括號內的數字為統計量值）其中 和Y分別為第 期投資和國民收入。(1)對總體參數的顯著性估計進行檢驗(2)若總離差平方和=25，試求隨機誤差

25、u 方差的估計量；計算 統計量，并對模型總體的顯著性進行檢驗(=0.05)。up62第四節第四節 案例分析案例分析案例：中國稅收增長的分析提出問題改革開放以來，隨著經濟體制改革的深化和經濟的快速增長，中國的財政收支狀況發生很大變化，為了研究影響中國稅收收入增長的主要原因，分析中央和地方稅收收入的增長規律，預測中國稅收未來的增長趨勢，需要建立計量經濟模型。63理論分析理論分析影響中國稅收收入增長的主要因素可能有：影響中國稅收收入增長的主要因素可能有：（1 1）從宏觀經濟看，經濟整體增長是稅）從宏觀經濟看，經濟整體增長是稅收增長的基本源泉。收增長的基本源泉。（2 2）社會經濟的發展和社會保障等都對

26、）社會經濟的發展和社會保障等都對公共財政提出要求，公共財政的需求對公共財政提出要求，公共財政的需求對當年的稅收收入可能會有一定的影響。當年的稅收收入可能會有一定的影響。（3 3）物價水平。中國的稅制結構以流轉）物價水平。中國的稅制結構以流轉稅為主，以現行價格計算的稅為主，以現行價格計算的GDPGDP和經營和經營者的收入水平都與物價水平有關。者的收入水平都與物價水平有關。（4 4）稅收政策因素。）稅收政策因素。64 以各項稅收收入以各項稅收收入Y Y 作為被解釋變量作為被解釋變量 以以GDPGDP表示經濟整體增長水平表示經濟整體增長水平 以財政支出表示公共財政的需求以財政支出表示公共財政的需求

27、以商品零售價格指數表示物價水平以商品零售價格指數表示物價水平 稅收政策因素較難用數量表示稅收政策因素較難用數量表示,暫時不予考慮暫時不予考慮建立模型建立模型65模型設定為模型設定為:其中：其中：各項稅收收入（億元）各項稅收收入（億元）國內生產總值（億元）國內生產總值（億元）財政支出（億元）財政支出（億元）商品零售價格指數（商品零售價格指數（%）1222334lnlntttttYXX XuY2X3X4X66 1.多元線性回歸模型是將總體回歸函數描述為一 個被解釋變量與多個解釋變量之間線性關系的 模型。2.多元線性回歸模型中對隨機擾動項u的假定:零 均值假定、同方差假定、無自相關假定、隨機 擾動與

28、解釋變量不相關假定、正態性假定、無 多重共線性假定。01122.iiippiiYX X Xu 第三章 小結一、建立模型一、建立模型671.多元線性回歸模型參數的最小二乘估計2.在基本假定滿足的條件下，多元線性回歸模型最小二乘估計式是最佳線性無偏估計式。二、估計參數二、估計參數2minie原理：22ien k681.多重可決系數的意義和計算方法：修正可決系數的作用和方法：222RSS1-1-TSS(-)iieRY Y22222(-)-11-1-(-)(-1)-(-)iiiien kenRY Ynn kY Y三、模型檢驗三、模型檢驗692.F檢驗是對多元線性回歸模型中所有解釋變量聯合顯著性的檢驗，F檢驗是在方差分析基礎上進行的。3.多元回歸分析中，為了分別檢驗當其它解釋變量不變時，各個解釋變量是否對被解釋變量有顯著影響，需要分別對所估計的各個回歸系數作t檢驗。ESS(-1)(-1,-)RSS(-)kFF kn kn k*-(-)SE()jjjtt n k70四、模型應用1、對偏回歸系數經濟含義的解釋2、點預測up