Bài giảng Kinh tế lượng: Chương 3 - Huỳnh Tấn Nguyên

01-Apr-15

Huynh Tan Nguyen

Mô hình hồi qui bội
1. Mô hình :
Mô hình hồi qui tuyến tính k biến (PRF) :
E(Y/X2i,…,Xki) = 1+ 2X2i +…+ kXki
Yi = 1+ 2X2i + …+ kXki + Ui
Trong đó :
Y - biến phụ thuộc
X2,…,Xk - các biến độc lập

1 là hệ số tự do
j là các hệ số hồi qui riêng,
j cho biết khi Xj tăng 1 đvị thì trung bình
của Y sẽ thay đổi j đvị trong trường
hợp các yếu tố khác không đổi
(j=2,…,k).
Khi k = 3 thì ta có mô hình hồi qui tuyến
tính ba biến :
E(Y/X2, X3) = 1+ 2X2 + 3X3 (PRF)
Yi = 1+ 2X2i + 3X3i + Ui

2. Các giả thiết của mô hình
• Giả thiết 1: Các biến độc lập phi ngẫu
nhiên, giá trị được xác định trước.
• Giả thiết 2 :
E(Ui) = 0
i
2
• Giả thiết 3 :
Var(Ui) =
i
• Giả thiết 4 :
Cov(Ui, Uj) = 0 i j
• Giả thiết 5 :
Cov(Xi, Ui) = 0 i
• Giả thiết 6 :
Ui ~ N (0, 2) i
• Giả thiết 7 : Không có hiện tượng cộng
tuyến giữa các biến độc lập.

1

01-Apr-15

3. Ước lượng các tham số
a. Mô hình hồi qui ba biến :

Yi = 1+ 2X2i + 3X3i + Ui
(PRF)
Hàm hồi qui mẫu :
ˆ ˆ
ˆ
ˆ
Yi  Yi  ei  β1  β 2X2i  β 3X3i  ei
Giả sử có một mẫu gồm n quan sát các giá
trị (Yi, X2i, X3i). Theo phương pháp OLS,
ˆ
β j (j= 1,2,3) phải thoả mãn :

e

2
i

 min

Tức là :
   ei2
 ˆ 0
ˆ ˆ
ˆ
 1
 2(Yi  1   2 X 2i   3 X 3i )(1)  0
  e2

  i

ˆ ˆ
ˆ
 ˆ  0   2(Yi  1   2 X 2i   3 X 3i )( X 2i )  0
  2

ˆ ˆ
ˆ
 2(Yi  1   2 X 2i   3 X 3i )( X 3i )  0
  e2

  i 0
ˆ
  3

ˆ ˆ
ˆ
Do ei  Yi  β1  β 2X2i  β 3X3i

Giải hệ ta có :

x y x  x x x
x x  ( x x )
x y x  x x x

x x  ( x x )

ˆ
β2 
ˆ
β3

2
3i

2i i

2
2i

2i 3i

2
3i

2
2i

3i i

2
2i

2

2i 3i

2i 3i

2
3i

y

3i i

y

2i i

2

2i 3i

ˆ
ˆ
ˆ
β1  Y  β 2 X 2  β 3 X 3

2

01-Apr-15

* Phương sai của các hệ số ước lượng





2
1
 X2x 3i  X3x 2i   σ 2
ˆ

Var( β1 )   
2
2
2
 n  x 2i  x 3i  (  x 2i x 3i ) 


2
 x 3i
ˆ
Var( β 2 ) 
σ 2
2
2
2
 x 2i  x 3i  (  x 2i x 3i )

ˆ
Var( β 3 ) 

x x
2
2i

x
2
3i

2
2i

 (  x 2i x 3i )

2

σ 2

Trong đó : 2 = Var(Ui)
2 chưa biết nên dùng ước lượng của nó là :

ˆ
σ2 

e

2
i

n3

Với :

e

2
i

ˆ
ˆ
TSS  ESS   y i2  β 2  x 2i y i  β 3  x 3i y i

b. Mô hình hồi qui tuyến tính k biến
Yi = 1+ 2X2i + …+ kXki+ Ui (PRF)
(i = 1,…, n)
Hàm hồi qui mẫu :
ˆ ˆ
ˆ
ˆ
Yi  Yi  ei  β1  β 2 X 2i  ...  β k Xki  ei
Theo phương pháp OLS,
ˆ
β j (j= 1,2,…,k) phải thoả mãn :

e

2
i

 min

3

01-Apr-15

Tức là :
   ei2
 ˆ 0 
 2(Yi  βˆ1  βˆ2X2i  ...  βˆk Xki )(1)  0
 β1



 
 

  e2
ˆ ˆ
ˆ
 2( Y  β  β X  ...  β k Xki )(  Xki )  0
  i  0   i 1 2 2i
ˆ
 β k

ˆ
Viết hệ dưới dạng ma trận : X T X β  X T Y





ˆ
 β  XT X

ˆ
 β1 
 
ˆ
ˆ β
β   2

 
ˆ
β k 
 

 n

 X 2i
T
X X


  X ki




 X Y 
1

T

  Yi 


 X2iYi 
XT Y  
  


  X ki Yi 



X
X

2i
2
2i



 Xki X2i

X
X X
3i

...

2i 3i

...

X
X X



2i ki 

2 
 Xki 

ki



 Xki X3i ...

4. Hệ số xác định
R2 

e

2
i

ESS
RSS
1
1
TSS
TSS

e
y

2
i
2
i

 RSS  TSS  ESS
ˆ
ˆ
  y i2  β 2  x 2i y i  ...  β k  x ki y i

* Chú ý : Khi tăng số biến độc lập trong
mô hình thì R2 cũng tăng cho dù các
biến độc lập thêm vào có ảnh hưởng mô
hình hay không . Do đó không thể dùng
R2 để quyết định có hay không nên thêm

4

01-Apr-15

biến vào mô hình mà thay vào đó có thể sử
dụng hệ số xác định được hiệu chỉnh :
R2  1 

Hay:

 e /(n  k )
 y i2 /(n  1)
2
i

R 2  1  (1  R 2 )

n 1
nk

Tính chất của R 2 :
- Khi k > 1, R 2  R 2  1
- R 2 có thể âm, trong trường hợp âm, ta coi
giá trị của nó bằng 0.

* Cách sử dụng R 2 để quyết định đưa
thêm biến vào mô hình :
Mô hình ba biến
Mô hình hai biến
ˆ ˆ
ˆ
Yi  β1  β 2 X 2i (1)

ˆ
ˆ ˆ ˆ
Yi  β1  β 2 X2i  β 3 X3i (2)

2
R1

R2
2
2
R2

2
R1

2
2
- Nếu R1  R2 thì chọn mô hình (1) ,
tức là không cần đưa thêm biến X3 vào
mô hình. Ngược lại, ta chọn mô hình (2).

5. Ma trận tương quan
ˆ ˆ
ˆ
ˆ
Xét mô hình : Yi  β1  β 2 X 2i  ...  β k Xki
Gọi rtj là hệ số tương quan tuyến tính
giữa biến thứ t và thứ j. Trong đó Y
được xem là biến thứ 1.
Ma trận tương quan tuyến tính có dạng :

1
r
 21
 ...

rk1

r12
1
rk 2

... r1k 
... r2k 


...

... 1 

5