Dự đoán bằng mô hình tuyến tính ngẫu nhiên

Có thể hiểu một quá trình ngẫu nhiên là một tập hợp các biến ngẫu nhiên xuất hiện qua thời gian theo một quy luật xác suất nào đó. Một quá trình ngẫu nhiên được gọi là dừng nếu quy luật phân phối của y_t1, y_t2,...,y_tn.

Việc phân tích những đặc điểm của một quá trình ngẫu nhiên chủ yếu dựa vào hàm tự hiệp phương sai, hàm tự tương quan.

Giả sử có quá trình ngẫu nhiên dừng:

y_t1, y_t2,...,y_tn với kỳ vọng: E [ y_t]= M

phương sai: var[ y_t]= E[( y_t – M)²] = δ² * y

Hàm tự hiệp phương sai:

Với k= 0,1,2,...

Hàm tự tương quan: {}

Với k=0,1,2,...

Trong thực tế, ta chỉ có dãy số thời gian y₁, y₂,... y_n. do đó ta phải ước lượng y_k và ρk size 12{ρ rSub { size 8{k} } } {} qua c_{k và} R_k được tính từ dãy này.

Các toán tử sau đây thường được sử dụng để mô tả các mô hình

B: toán tử chuyển dịch về phía trước

B* y_t = y_t-1

B^m* y_t = y_t-m ­

: toán tử sai phân

^{∇ y t = y t − y t − 1 = 1 − Β ∗ y t ∇ 2 y t = 1 − Β 2 ∗ y t = 1 − 2 ∗ Β + Β 2 ∗ y t ∇ d y t = 1 − Β d ∗ y t alignl { stack { size 12{ nabla y rSub { size 8{t} } =y rSub { size 8{t} } - y rSub { size 8{t - 1} } = left (1 - Β right ) * y rSub { size 8{t} } } {} # { size 24{ nabla } } rSup { size 8{2} } y rSub { size 8{t} } = { size 24{ left (1 - Β right )} } rSup { size 8{2} } * y rSub { size 8{t} } = left (1 - 2 * Β+ { size 24{Β} } rSup { size 8{2} } right ) * y rSub { size 8{t} } {} # { size 24{ nabla } } rSup { size 8{d} } y rSub { size 8{t} } = { size 24{ left (1 - Β right )} } rSup { size 8{d} } * y rSub { size 8{t} } {} } } {}}

Sau đây là một số quá trình tuyến tính dừng:

Quá trình tự hồi quy bậc p- kí hiệu AR(p)

Trong đó _1, ₂,...,_p là các tham số hồi quy.

a_t là một quá trình thuần khiết hay tạp âm trắng

với E[a_t]=0, var[a_t]= δ*a²,

cov[a_t, a_t-k­]=0.

Biểu diễn qua toán tử B

( 1 − Φ t ∗ Β − Φ 2 ∗ Β 2 − … − Φ p Β p ) ∗ y t = a t hay Φ p ( Β ) ∗ y t = a t alignl { stack { size 12{ ( 1 - Φ rSub { size 8{t} } * Β - Φ rSub { size 8{2} } * Β rSup { size 8{2} } - dotslow - Φ rSub { size 8{p} } Β rSup { size 8{p} } ) * y rSub { size 8{t} } =a rSub { size 8{t} } } {} # ital "hay" {} # Φ rSub { size 8{p} } ( Β ) * y rSub { size 8{t} } =a rSub { size 8{t} } {} } } {}

Hàm tự tương quan:

ρ k = Φ 1 ∗ ρ k − 1 + Φ 2 ∗ ρ k − 2 + … + Φ p ∗ ρ k − p hay Φ p Β ∗ ρ k = 0 alignl { stack { size 12{ρ rSub { size 8{k} } =Φ rSub { size 8{1} } * ρ rSub { size 8{k - 1} } +Φ rSub { size 8{2} } * ρ rSub { size 8{k - 2} } + dotslow +Φ rSub { size 8{p} } rangle * ρ rSub { size 8{k - p} } } {} # ital "hay" {} # Φ rSub { size 8{p} } left (Β right ) * ρ rSub { size 8{k} } =0 {} } } {}

Một số quá trình AR đơn giản:

quá trình bậc một: AR(1) y_t= ₁* y_t-1+ a_t

Hàm tự tương quan:

quá trình bậc hai: AR(2) y_t = ₁*y_t-1+₂*y_t-2+a_t

Hàm tự tương quan:

Với ρk=Φ1∗ρk−1+Φ2∗ρk−2Φ1=ρ1∗1−ρ21−ρ12,Φ2=ρ2−ρ121−ρ12alignl { stack { size 12{ρ rSub { size 8{k} } =Φ rSub { size 8{1} } * ρ rSub { size 8{k - 1} } +Φ rSub { size 8{2} } * ρ rSub { size 8{k - 2} } } {} # Φ rSub { size 8{1} } = { {ρ rSub { size 8{1} } * left (1 - ρ rSub { size 8{2} } right )} over {1 - { size 24{ρ} } rSub { size 8{1} } rSup { size 8{2} } } } ,Φ rSub { size 8{2} } = { {ρ rSub { size 8{2} } - { size 24{ρ} } rSub { size 8{1} } rSup { size 8{2} } } over {1 - { size 24{ρ} } rSub { size 8{1} } rSup { size 8{2} } } } {} } } {}

Quá trình bình quân trượt bậc q – kí hiệu MA (q):

y_t=a_t-θ₁* a_t-1­­ - θ₂* a_t-2 - ... = θ_q*a_t-q

trong đó

θ₁,θ₂...θ_q: là các tham số

Biểu diễn qua toán tử B:

y_t=(1-θ₁*B-θ₂*B²-...-θ_q*B_q)*a_t

hay y_t= θ(B)* a_t

Hàm tự tương quan:

Một số quá trình MA đơn giản:

Quá trình bậc một:MA(1)

y_t=a_t-θ_t*a_t-1=(1-θ₁*B)*a_t

Hàm tự tương quan:

− θ 1 1 + ρ 2 , k = 1 0, k > 1 ρ k = { alignl { stack { size 12{ρ rSub { size 8{k} } =alignl { stack { left lbrace { { - θ rSub { size 8{1} } } over {1+ρ rSup { size 8{2} } } } ,k=1 {} # right none left lbrace 0,k>1 {} # right no } } lbrace } {} # {} } } {}

Quá trình bậc 2: MA(2)

y_t=a_t-θ₁*a_t-1-θ₂*a_t-2=(1-θ₁*B-θ₂*B²)*a_t

Hàm tự tương quan:

ρ 1 = − θ 1 ∗ 1 − θ 2 1 + θ 1 2 + θ 2 2 ρ 2 = − θ 2 1 + θ 1 2 + θ 2 2 ρ k = 0, k ≥ 3 alignl { stack { size 12{ρ rSub { size 8{1} } = { { - θ rSub { size 8{1} } * left (1 - θ rSub { size 8{2} } right )} over {1+θ rSub { size 8{1} } rSup { size 8{2} } +θ rSub { size 8{2} } rSup { size 8{2} } } } } {} # ρ rSub { size 8{2} } = { { - θ rSub { size 8{2} } } over {1+θ rSub { size 8{1} } rSup { size 8{2} } +θ rSub { size 8{2} } rSup { size 8{2} } } } {} # ρ rSub { size 8{k} } =0,k >= 3 {} } } {}

Quá trình tự hồi quy bình quân trượt bậc p,q- ký hiệu ARMA(p,q)

Đó là sự kết hợp giữa AR(p) và MA(q)

y t = Φ 1 ∗ y t − 1 + … + Φ p ∗ y t − p + a t − θ 1 ∗ a t − 1 − … − θ q ∗ a t − 1 hay : Φ Β ∗ y t = θ Β ∗ a t alignl { stack { size 12{y rSub { size 8{t} } =Φ rSub { size 8{1} } * y rSub { size 8{t - 1} } + dotslow +Φ rSub { size 8{p} } * y rSub { size 8{t - p} } +a rSub { size 8{t} } - θ rSub { size 8{1} } * a rSub { size 8{t - 1} } - dotslow - θ rSub { size 8{q} } * a rSub { size 8{t - 1} } } {} # ital "hay":Φ left (Β right ) * y rSub { size 8{t} } =θ left (Β right ) * a rSub { size 8{t} } {} } } {}

trong thực tế, ARMA(1,1) thường được sử dụng:

y t = θ 1 ∗ y t − 1 + a t − θ 1 ∗ a t − 1 size 12{y rSub { size 8{t} } =θ rSub { size 8{1} } * y rSub { size 8{t - 1} } +a rSub { size 8{t} } - θ rSub { size 8{1} } * a rSub { size 8{t - 1} } } {}

Trong thực tế phần lớn các quá trình ngẫu nhiên là không dừng, do đó người ta sử dụng toán tử sai phân để chuyển về quá trình dừng. Khi đó sẽ có:

1 − Φ 1 ∗ Β − Φ 2 ∗ Β 2 − … − Φ p ∗ Β p ∗ ∇ d ∗ y t hay , Φ Β ∗ ∇ d ∗ y t = θ Β ∗ a t alignl { stack { size 12{ left (1 - Φ rSub { size 8{1} } * Β - Φ rSub { size 8{2} } * Β rSup { size 8{2} } - dotslow - Φ rSub { size 8{p} } * Β rSup { size 8{p} } right ) * nabla rSup { size 8{d} } * y rSub { size 8{t} } } {} # ital "hay",Φ left (Β right ) * nabla rSup { size 8{d} } * y rSub { size 8{t} } =θ left (Β right ) * a rSub { size 8{t} } {} } } {}

Quá trình trên được gọi là quá trình tổng hợp tự hồi quy trung bình trượt- kí hiệu ARMA (p,d,q), trong đó p là bậc của toán tử tự hồi quy, d là bậc của toán tử sai phân, q là bậc của toán tử trung bình trượt.

Box và Jenkins đã đề ra phương pháp dự đoán dựa vào mô hình ngẫu

nhiên mà thủ tục tiến hành có thể được tóm tắt như sau:

Để làm cho dãy số thời gian thành dừng, người ta sử dụng toán từ sai phân phù hợp với dãy được nghiên cứu. Bước nhận dạng mô hình nhẵm xác định các tham số p,d, q. Box và Jenkins đã thiết lập các hàm tự tương quan được tính toán từ tài liệu thực tê với lý thuyết và kết hợp kiểm định thống kê sẽ cho một ý tưởng về mô hình cần chọn.

Phương pháp thường được sử dụng để ước lượng các tham số là phương pháp cực đại có thể xảy ra, nó là sự biểu hiện dưới dạng không tuyến tính của phương pháp bình phương nhỏ nhất.

Việc nhận dạng và ước lượng các tham số của mô hình là một nghệ thuật, nó đòi hỏi các kết hợp của kết quả lý thuyết, sử dựng các phương pháp lặp đồng thời dựa vào thực tế và kinh nghiệm nghiên cứu.

Bước hợp thức hoá hay xet xem mô hình đã lựa chọn có được chấp nhận hay không? Để trả lời câu hỏi này người ta nghiên cứu các số dư được tính toán xuất phát từ mô hình đã được ước lượng có thể xem như là biểu hiện của một tạp âm trắng hay không? Việc phân tích hàm tự tương quan có thể phần nào trả lời vấn đề được đặt ra. Đồng thời các kiểm định cũng đã được xây dựng để có thể trả lời một cách chính xác. Kiểm thường được sử dụng nhất dựa trên kết quả sau đây:

Nếu ρˆkaˆ size 12{ { hat {ρ}} rSub { size 8{k} } left ( { hat {a}} right )} {} là ước lượng của tự tương quan bậc k của các số dư và k là một số tuỳ ý, nhỏ hơn n thì:

Q = n ∗ ∑ k − 1 k ρ ˆ k 2 ≈ Χ k − p − q 2 size 12{Q=n * Sum cSub { size 8{k - 1} } cSup { size 8{k} } { { hat {ρ}} rSub { size 8{k} } rSup { size 8{2} } } approx Χ rSub { size 8{k - p - q} } rSup { size 8{2} } } {}

Nếu mô hình đã chọn không được chấp nhận thì tiến hành dự đoán. Nếu không được chấp nhận thì trở lại bước nhận dạng.

Dự đoán yˆth size 12{ { hat {y}} rSub { size 8{t left (h right )} } } {} của mức độ y_t+h được thực hiện bởi:

Như vậy yˆth size 12{ { hat {y}} rSub { size 8{t left (h right )} } } {} là kỳ vọng của y_t+h với điều kiện các mức độ y₁, y₂,..., y_t đã biết.

Ví dụ đối với quá trình AR(p):

Các kỳ vọng có điều kiện ở vế phải được xác định như sau:

Với j = 0,1,2,...