Xem mẫu
III. H I QUY TUY N TÍNH K BI N
Chương 3
H I QUY TUY N TÍNH
B I (ti p theo)
1. Hàm h i quy t ng th (PRF)
Yi = β1 + β 2 X 2i + β 3 X 3i + ... + β k X ki + U i
Trong ñó
•Y là bi n ph thu c
•X2,X3,…,Xk là các bi n ñ c l p
•Ui là các sai s ng u nhiên
•β1 :H s t do
β 2, β 3,…, β k là các h s h i quy riêng
III. H I QUY TUY N TÍNH K BI N
III. H I QUY TUY N TÍNH K BI N
1. Hàm h i quy t ng th
1. Hàm h i quy t ng th
(PRF)
Quan sát th 1 :
Y1 = β1 + β 2 X 21 + β3 X 31 + ... + β k X k 1 + U1
Quan sát th 2 :
Y2 = β1 + β 2 X 22 + β 3 X 32 + ... + β k X k 2 + U 2
……………………………………………………………………
Quan sát th n :
Yn = β1 + β 2 X 2 n + β 3 X 3n + ... + β k X kn + U n
III. H I QUY TUY N TÍNH K BI N
(PRF)
Ký hi u
Y1
β1
Y2 β = β 2
Y=
...
...
Yn
βk
U1
U
U = 2
...
U n
III. H I QUY TUY N TÍNH K BI N
Ta có
1 X 21
1 X
22
X =
... ...
1 X 2n
X 31 ... X k 1
X 32 ... X k 2
... ... ...
X 3n ... X kn
Y1 1 X 21
Y2 1 X 22
... = ... ...
Y 1 X
2n
1
X k1 β1 U1
... X k 2 β 2 U 2
+
... ... ... ...
... X kn β k U n
...
⇒ PRF : Y = X .β + U
III. H I QUY TUY N TÍNH K BI N
III. H I QUY TUY N TÍNH K BI N
2. Các gi thi t c a mô hình h i quy k
2. Các gi thi t c a mô hình h i quy k
bi n
bi n
Gi thi t 1 : Các bi n ñ c l p X2, X3,…,Xk bi t
trư c và không ng u nhiên
Gi thi t 4 : Không có hi n tư ng c ng tuy n gi a
các bi n ñ c l p X2, X3,…,Xk
Gi thi t 2 : Các sai s ng u nhiên Ui có giá tr
trung bình b ng 0 và có phương sai không thay
ñ i
Gi thi t 3: Không có s tương quan gi a các sai
s Ui
Gi thi t 5 : Không có tương quan gi a các bi n
ñ c l p X2,X3,…,Xk v i các sai s ng u nhiên Ui
III. H I QUY TUY N TÍNH K BI N
III. H I QUY TUY N TÍNH K BI N
Ư c lư ng các tham s
3.
3.
Hàm h i quy m u :
SRF:
ho c:
Ư c lư ng các tham s
V i
ˆ ˆ
ˆ
ˆ
Yi = β1 + β2 X2i + β3 X3i + ... + βk Xki + ei
ˆ
ˆ
ˆ ˆ ˆ
Y = β + β X + β X + ... + β X
i
1
2
2i
3
3i
k
ki
Hay : (Vi t dư i d ng ma tr n )
ˆ
Y = Xβ +e
III. H I QUY TUY N TÍNH K BI N
SRF:
ho c:
1
2
2i
3
3i
k
e1
e
e= 2
...
en
III. H I QUY TUY N TÍNH K BI N
ˆ ˆ
ˆ
ˆ
Yi = β1 + β2 X2i + β3 X3i + ... + βk Xki + ei
ˆ
ˆ
ˆ ˆ ˆ
Y = β + β X + β X + ... + β X
i
ˆ
β1
ˆ
ˆ β
β = 2
...
β
ˆ
k
ki
Khi ñó
ˆ
ei = (Yi − Yi )
ˆ ˆ
ˆ
ˆ
= Yi − β1 − β 2 X 2i − β3 X 3i − ... − β k X ki
Theo nguyên lý c a phương pháp OLS thì các tham s
βˆ 1 , βˆ 2 , βˆ 3 , . . . , βˆ k
∑e
2
i
(
=
∑ (Y
i
ˆ
− Yi
ñư c ch n sao cho
)
2
ˆ
ˆ
ˆ
ˆ
= ∑ Yi − β1 − β 2 X 2 i − β 3 X 3i − ... − β k X ki
→ min
)
2
III. H I QUY TUY N TÍNH K BI N
Ngư i ta ch ng minh ñư c :
ˆ = ( X T X )−1 X TY
β
III. H I QUY TUY N TÍNH K BI N
1
X
T
X X = 21
...
X
k1
1
X 22
...
Xk2
∑X
∑X
n
∑ X 2i
=
...
X
∑ ki
III. H I QUY TUY N TÍNH K BI N
1 1
X X
XTY = 21 22
... ...
X X
k1 k2
Yi
(t n/tháng)
20
18
19
18
17
17
16
15
13
12
...
...
...
...
1 Y1 ∑Yi
X2n Y2 ∑X2iYi
.
=
... ... ...
Y X Y
Xkn n ∑ ki i
X2 (tri u
ñ ng/năm)
8
7
8
8
6
6
5
5
4
3
X3(ngàn
ñ ng/kg)
2
3
4
4
5
5
6
7
8
8
... 1 1 X 21
... X 2 n 1 X 22
... ... ... ...
... X kn 1 X 2n
2i
2
2i
...
∑ X 2i X ki
...
...
...
...
... X k1
... X k2
... ...
... X kn
∑X
∑X X
2i
ki
...
2
∑ X ki
ki
III. H I QUY TUY N TÍNH K BI N
3.
Ví d minh ho
B ng dư i ñây cho các s li u v lư ng hàng
bán ñư c c a m t lo i hàng hóa(Y), thu
nh p c a ngư i tiêu dùng (X2) và giá bán
c a lo i hàng này (X3)
Tìm hàm h i quy tuy n tính
ˆ
ˆ
ˆ
ˆ
Yi = β 1 + β 2 X 2 i + β 3 X 3 i
III. H I QUY TUY N TÍNH K BI N
Gi i T s li u trên, ta tính ñư c các t ng như sau :
∑ Y = 165
∑ X = 388
∑ X = 60 ∑ X X = 282
∑ X = 52
∑ X = 308
Y = 16,5
∑ Y = 2781
X =6
∑ Y X = 813
X = 5, 2
∑ Y X = 1029
2
2i
i
2i
2i
3i
3i
2
3i
3i
2
2
i
i
i
2i
3
III. H I QUY TUY N TÍNH K BI N
n
X X = ∑X2i
∑X
3i
T
∑X
∑X
∑X ∑X X
∑X X ∑X
2i
2
2i
3i
10 60 52
2i 3i = 60 388 282
2
3i 52 282 308
3i
2i
26.165 -2.497 -2.131
( X T X )−1 = -2.497 0.246 0.196
-2.131 0.196 0.183
K t qu h i quy b ng Eviews như sau :
III. H I QUY TUY N TÍNH K BI N
∑ Yi 165
X T Y = ∑ Yi X 2 i = 1028
∑ Yi X 3i 813
ˆ
β1 = 14, 992
14.992
ˆ
β = ( X X ) X Y = 0.762 V y:
-0.589
T
−1
ˆ
β 2 = 0, 762
T
ˆ
β3 = −0,589
ˆ
Yi = 14,992 + 0,762 X 2i − 0,589 X 3i
III. H I QUY TUY N TÍNH K BI N
4.
H s xác ñ nh c a mô hình
TSS = Y T Y − n (Y ) 2
ˆ
ESS = β T X T Y − n(Y ) 2
RSS = TSS − ESS
ESS
2
H s xác ñ nh: R =
TSS
H s xác ñ nh hi u ch nh:R 2
K t qu h i quy b ng Eviews như sau :
= 1 − (1 − R 2 )
n −1
n−k
III. H I QUY TUY N TÍNH K BI N
4.
Kho ng tin c y và ki m ñ nh gi thi t
G i cjj là ph n t n m
tr n (XTX)-1
Khi ñó :
dòng j c t j c a ma
2
ˆ
σ βˆ = σ 2 .c jj ≈ σ 2 .c jj
j
2
ˆ
se( β j ) = σ βˆ
V i
RSS
ˆ
σ2 =
n−k
j
(k là s tham s )
III. H I QUY TUY N TÍNH K BI N
K t qu h i quy b ng Eviews như sau :
Kho ng tin c y và ki m ñ nh gi thi t
4.
Kho ng tin c y c a βj là
ˆ
ˆ
ˆ
ˆ
( β j − t α se ( β j ); β j + t α se ( β j ))
2
2
Ho c tính giá tr t i h n c a βj là
t=
ˆ
βj − β*
j
B c t do là (n-k)
ˆ
se( β j )
III. H I QUY TUY N TÍNH K BI N
4.
K t qu h i quy b ng Eviews như sau :
Kho ng tin c y và ki m ñ nh gi thi t
Ki m ñ nh gi thi t v R2
V i ñ tin c y 1-α
Bư c 1 : tính F =
Ho:R2= 0
H1:R2≠ 0
R 2 (n − k )
(
(k − 1) 1 − R 2
)
Bư c 2 : Tra b ng tìm F(k-1,n-k), m c ý nghĩa là
α
Bư c 3 : N u F>F(k-1,n-k) , bác b H0 N u F≤F(k-1,n-k) ,
ch p nh n H0
M t vài k t qu h i quy khác b ng Eviews
Các y u t
nh hư ng ñ n giá bán 1 căn nhà
X2 : dieän tích
D1 : moâi tröôøng
D2 : khu vöïc
kinh doanh
D3 : nhu caàu baùn
D4 : an ninh khu
vöïc
D5 : vò tri nhaø
D6 : thò tröôøng
ñoùng băng
Theo keát quaû baøi taäp cuûa nhoùm 13 lôùp KK1_05 tröôøng Ñaïi hoïc Hoàng Baøng
Theo keát quaû baøi taäp cuûa nhoùm 4 lôùp KK2_05 tröôøng Ñaïi hoïc Hoàng Baøng
nguon tai.lieu . vn
Chương 3
H I QUY TUY N TÍNH
B I (ti p theo)
1. Hàm h i quy t ng th (PRF)
Yi = β1 + β 2 X 2i + β 3 X 3i + ... + β k X ki + U i
Trong ñó
•Y là bi n ph thu c
•X2,X3,…,Xk là các bi n ñ c l p
•Ui là các sai s ng u nhiên
•β1 :H s t do
β 2, β 3,…, β k là các h s h i quy riêng
III. H I QUY TUY N TÍNH K BI N
III. H I QUY TUY N TÍNH K BI N
1. Hàm h i quy t ng th
1. Hàm h i quy t ng th
(PRF)
Quan sát th 1 :
Y1 = β1 + β 2 X 21 + β3 X 31 + ... + β k X k 1 + U1
Quan sát th 2 :
Y2 = β1 + β 2 X 22 + β 3 X 32 + ... + β k X k 2 + U 2
……………………………………………………………………
Quan sát th n :
Yn = β1 + β 2 X 2 n + β 3 X 3n + ... + β k X kn + U n
III. H I QUY TUY N TÍNH K BI N
(PRF)
Ký hi u
Y1
β1
Y2 β = β 2
Y=
...
...
Yn
βk
U1
U
U = 2
...
U n
III. H I QUY TUY N TÍNH K BI N
Ta có
1 X 21
1 X
22
X =
... ...
1 X 2n
X 31 ... X k 1
X 32 ... X k 2
... ... ...
X 3n ... X kn
Y1 1 X 21
Y2 1 X 22
... = ... ...
Y 1 X
2n
1
X k1 β1 U1
... X k 2 β 2 U 2
+
... ... ... ...
... X kn β k U n
...
⇒ PRF : Y = X .β + U
III. H I QUY TUY N TÍNH K BI N
III. H I QUY TUY N TÍNH K BI N
2. Các gi thi t c a mô hình h i quy k
2. Các gi thi t c a mô hình h i quy k
bi n
bi n
Gi thi t 1 : Các bi n ñ c l p X2, X3,…,Xk bi t
trư c và không ng u nhiên
Gi thi t 4 : Không có hi n tư ng c ng tuy n gi a
các bi n ñ c l p X2, X3,…,Xk
Gi thi t 2 : Các sai s ng u nhiên Ui có giá tr
trung bình b ng 0 và có phương sai không thay
ñ i
Gi thi t 3: Không có s tương quan gi a các sai
s Ui
Gi thi t 5 : Không có tương quan gi a các bi n
ñ c l p X2,X3,…,Xk v i các sai s ng u nhiên Ui
III. H I QUY TUY N TÍNH K BI N
III. H I QUY TUY N TÍNH K BI N
Ư c lư ng các tham s
3.
3.
Hàm h i quy m u :
SRF:
ho c:
Ư c lư ng các tham s
V i
ˆ ˆ
ˆ
ˆ
Yi = β1 + β2 X2i + β3 X3i + ... + βk Xki + ei
ˆ
ˆ
ˆ ˆ ˆ
Y = β + β X + β X + ... + β X
i
1
2
2i
3
3i
k
ki
Hay : (Vi t dư i d ng ma tr n )
ˆ
Y = Xβ +e
III. H I QUY TUY N TÍNH K BI N
SRF:
ho c:
1
2
2i
3
3i
k
e1
e
e= 2
...
en
III. H I QUY TUY N TÍNH K BI N
ˆ ˆ
ˆ
ˆ
Yi = β1 + β2 X2i + β3 X3i + ... + βk Xki + ei
ˆ
ˆ
ˆ ˆ ˆ
Y = β + β X + β X + ... + β X
i
ˆ
β1
ˆ
ˆ β
β = 2
...
β
ˆ
k
ki
Khi ñó
ˆ
ei = (Yi − Yi )
ˆ ˆ
ˆ
ˆ
= Yi − β1 − β 2 X 2i − β3 X 3i − ... − β k X ki
Theo nguyên lý c a phương pháp OLS thì các tham s
βˆ 1 , βˆ 2 , βˆ 3 , . . . , βˆ k
∑e
2
i
(
=
∑ (Y
i
ˆ
− Yi
ñư c ch n sao cho
)
2
ˆ
ˆ
ˆ
ˆ
= ∑ Yi − β1 − β 2 X 2 i − β 3 X 3i − ... − β k X ki
→ min
)
2
III. H I QUY TUY N TÍNH K BI N
Ngư i ta ch ng minh ñư c :
ˆ = ( X T X )−1 X TY
β
III. H I QUY TUY N TÍNH K BI N
1
X
T
X X = 21
...
X
k1
1
X 22
...
Xk2
∑X
∑X
n
∑ X 2i
=
...
X
∑ ki
III. H I QUY TUY N TÍNH K BI N
1 1
X X
XTY = 21 22
... ...
X X
k1 k2
Yi
(t n/tháng)
20
18
19
18
17
17
16
15
13
12
...
...
...
...
1 Y1 ∑Yi
X2n Y2 ∑X2iYi
.
=
... ... ...
Y X Y
Xkn n ∑ ki i
X2 (tri u
ñ ng/năm)
8
7
8
8
6
6
5
5
4
3
X3(ngàn
ñ ng/kg)
2
3
4
4
5
5
6
7
8
8
... 1 1 X 21
... X 2 n 1 X 22
... ... ... ...
... X kn 1 X 2n
2i
2
2i
...
∑ X 2i X ki
...
...
...
...
... X k1
... X k2
... ...
... X kn
∑X
∑X X
2i
ki
...
2
∑ X ki
ki
III. H I QUY TUY N TÍNH K BI N
3.
Ví d minh ho
B ng dư i ñây cho các s li u v lư ng hàng
bán ñư c c a m t lo i hàng hóa(Y), thu
nh p c a ngư i tiêu dùng (X2) và giá bán
c a lo i hàng này (X3)
Tìm hàm h i quy tuy n tính
ˆ
ˆ
ˆ
ˆ
Yi = β 1 + β 2 X 2 i + β 3 X 3 i
III. H I QUY TUY N TÍNH K BI N
Gi i T s li u trên, ta tính ñư c các t ng như sau :
∑ Y = 165
∑ X = 388
∑ X = 60 ∑ X X = 282
∑ X = 52
∑ X = 308
Y = 16,5
∑ Y = 2781
X =6
∑ Y X = 813
X = 5, 2
∑ Y X = 1029
2
2i
i
2i
2i
3i
3i
2
3i
3i
2
2
i
i
i
2i
3
III. H I QUY TUY N TÍNH K BI N
n
X X = ∑X2i
∑X
3i
T
∑X
∑X
∑X ∑X X
∑X X ∑X
2i
2
2i
3i
10 60 52
2i 3i = 60 388 282
2
3i 52 282 308
3i
2i
26.165 -2.497 -2.131
( X T X )−1 = -2.497 0.246 0.196
-2.131 0.196 0.183
K t qu h i quy b ng Eviews như sau :
III. H I QUY TUY N TÍNH K BI N
∑ Yi 165
X T Y = ∑ Yi X 2 i = 1028
∑ Yi X 3i 813
ˆ
β1 = 14, 992
14.992
ˆ
β = ( X X ) X Y = 0.762 V y:
-0.589
T
−1
ˆ
β 2 = 0, 762
T
ˆ
β3 = −0,589
ˆ
Yi = 14,992 + 0,762 X 2i − 0,589 X 3i
III. H I QUY TUY N TÍNH K BI N
4.
H s xác ñ nh c a mô hình
TSS = Y T Y − n (Y ) 2
ˆ
ESS = β T X T Y − n(Y ) 2
RSS = TSS − ESS
ESS
2
H s xác ñ nh: R =
TSS
H s xác ñ nh hi u ch nh:R 2
K t qu h i quy b ng Eviews như sau :
= 1 − (1 − R 2 )
n −1
n−k
III. H I QUY TUY N TÍNH K BI N
4.
Kho ng tin c y và ki m ñ nh gi thi t
G i cjj là ph n t n m
tr n (XTX)-1
Khi ñó :
dòng j c t j c a ma
2
ˆ
σ βˆ = σ 2 .c jj ≈ σ 2 .c jj
j
2
ˆ
se( β j ) = σ βˆ
V i
RSS
ˆ
σ2 =
n−k
j
(k là s tham s )
III. H I QUY TUY N TÍNH K BI N
K t qu h i quy b ng Eviews như sau :
Kho ng tin c y và ki m ñ nh gi thi t
4.
Kho ng tin c y c a βj là
ˆ
ˆ
ˆ
ˆ
( β j − t α se ( β j ); β j + t α se ( β j ))
2
2
Ho c tính giá tr t i h n c a βj là
t=
ˆ
βj − β*
j
B c t do là (n-k)
ˆ
se( β j )
III. H I QUY TUY N TÍNH K BI N
4.
K t qu h i quy b ng Eviews như sau :
Kho ng tin c y và ki m ñ nh gi thi t
Ki m ñ nh gi thi t v R2
V i ñ tin c y 1-α
Bư c 1 : tính F =
Ho:R2= 0
H1:R2≠ 0
R 2 (n − k )
(
(k − 1) 1 − R 2
)
Bư c 2 : Tra b ng tìm F(k-1,n-k), m c ý nghĩa là
α
Bư c 3 : N u F>F(k-1,n-k) , bác b H0 N u F≤F(k-1,n-k) ,
ch p nh n H0
M t vài k t qu h i quy khác b ng Eviews
Các y u t
nh hư ng ñ n giá bán 1 căn nhà
X2 : dieän tích
D1 : moâi tröôøng
D2 : khu vöïc
kinh doanh
D3 : nhu caàu baùn
D4 : an ninh khu
vöïc
D5 : vò tri nhaø
D6 : thò tröôøng
ñoùng băng
Theo keát quaû baøi taäp cuûa nhoùm 13 lôùp KK1_05 tröôøng Ñaïi hoïc Hoàng Baøng
Theo keát quaû baøi taäp cuûa nhoùm 4 lôùp KK2_05 tröôøng Ñaïi hoïc Hoàng Baøng