Gauss Do˘grusal Durum-Uzay Modellerinde ˙Ileri Do˘gru D ¨uzles¸tirme ve Anında Beklenti-En B ¨uy ¨utme Algoritması

Gauss Do˘grusal Durum-Uzay Modellerinde ˙Ileri Do˘gru D ¨uzles¸tirme ve Anında Beklenti-En B ¨uy ¨utme Algoritması

Forward Smoothing and Online Expectation-Maximisation in Gaussian Linear State-Space Models

Sinan Yıldırım

, A. Taylan Cemgil

1. Statistical Laboratory, Cambridge ¨ Universitesi,

2. Bilgisayar M¨uhendisli˘gi B¨ol¨um¨u, Bo˘gazic¸i ¨ Universitesi,

OZETC ¨ ¸ E

Bu calıs¸mada¹, Gauss do˘grusal durum-uzay (GDDU) model- lerinde ileri do˘gru d¨uzles¸tirme ¨ozyinelemesini inceledik. Bu

¨ozyinelemenin stokastik bir yaklas¸ıklamasından faydalanarak GDDU modelleri ic¸in var olan beklenti-enb¨uy¨utme (EM) al- goritmasının anında s¨ur¨um¨un¨u gelis¸tirdik. Anında EM algorit- masının bas¸arımını geleneksel EM ile kars¸ılas¸tırarak algorit- manın uzun veri dizileri ic¸in kullanımındaki yararını g¨osterdik.

ABSTRACT

In this work, we studied forward-only smoothing recursion in Gaussian linear state-space (GLSS) models. We exploited a stochastic approximation of this recursion to develop an on- line version of the expectation-maximisation (EM) algorithm for GLSS models. We compared the performance of online EM with the conventional EM and demonstrated the advantages of its use in case of long data sequences.

1. Giris¸

Gauss do˘grusal durum-uzay (GDDU) modelleri, genel durum- uzay modellerinin kullanımı c¸ok genis¸ olan bir t¨ur¨ud¨ur. Bu y¨uzden, bu modellerde parametre kestirimi ¨onemli bir prob- lemdir. Parametre kestirimi ic¸in kullanılan en yaygın y¨ontem bir en b¨uy¨uk olabilirlik (EBO) kestirimi y¨ontemi olan beklenti-en b¨uy¨utme (EM) algoritmasıdır [1]. Bu algoritma, belli bir takım yeterli istatistiklerin bir sonsal da˘gılım ¨uzerinden kestirilmesini gerektirir. Bu kestirimler ic¸in bilinen en yaygın yol veriyi bir ileri bir de geri y¨onde is¸leyen ileri do˘gru s¨uzgec¸leme-geriye do˘gru d¨uzles¸tirme (˙IDS-GDD) y¨ontemidir [2]. Bu calıs¸mada incelenecek olan bir di˘ger y¨ontem ise veriyi yalnızca ileri y¨onde is¸leyen ileri-do˘gru d¨uzles¸tirme ¨ozyinelemesi (˙IDD ¨O) y¨ontemidir. Bu y¨ontem ic¸in gerekli olan ¨ozyineleme kuralları GDDU modelleri ic¸in ilk defa [3]’de t¨uretilmis¸tir. Bu c¸alıs¸mada ise, aynı ¨ozyineleme farklı bir s¸ekilde t¨uretilecektir.

˙Ileri do˘gru d¨uzles¸tirmenin bir di˘ger ¨onemli yararı ise EM algoritmasının anında s¨ur¨um¨une olanak vermesidir. ˙IDD ¨O’n¨un staokastik bir yaklas¸ıklamasına dayanan anında EM algorit- ması sonlu durum-uzay modellerinde [4]’te g¨osterilmis¸tir. [5]’te

1ATC, bu c¸alıs¸mada TUBITAK 110E292 Bayesci Tens¨or ayrıs¸tırma (BAYTEN) projesi kapsamında desteklenmektedir.

ise bu stokastik yaklas¸ıklamanın genel durum-uzay modellerine uygulanabilece˘gi g¨osterilmis¸tir. Burada g¨osterdi˘gimiz anında EM algoritması, [5]’in GDDU modellerine ¨ozel uygulaması olup, bu modellerin yaygınlı˘gı d¨us¸¨un¨uld¨u˘g¨unde bizce ¨onem tas¸ımaktadır.

Makalenin geri kalanında; ¨once GDDU modeli tanıtılacak, daha sonra ˙IDD ¨O anlatılacak ve bu ¨ozyinelemenin EM ve anında EM algoritmaları ic¸in nasıl kullanılabilece˘gi g¨oster- ilecektir. ˙Iki algoritmanın bas¸arımları yapay veri ¨uzerinde kars¸ılas¸tırılacaktır.

2. Gauss do˘grusal durum-uzay modelleri

Gauss do˘grusal durum-uzay (GDDU) modeli, vekt¨or de˘gerli rastgele s¨urec¸ler olan {Xk∈ Rⁿ}_k≥0 ve {Yk∈ R^r}_k≥0’den olus¸ur. Bir Markov s¨ureci olan {Xk}_k≥0 gizli s¨urec¸, {Xk}_k≥0’ya kos¸ullu ba˘gımsız olan{Yk∈ R^r}_k≥0ise g¨ozlem- lenen s¨urec olarak adlandırılır. X₀ ic¸in bas¸langıc¸ da˘gılımı π_θ(x), {Xk}k≥1 ic¸in Markov gec¸is¸ da˘gılımları f_k+1,θ(x^|x) ve Y_k’larin X_k’lara kos¸ullu da˘gılımları g_k,θ(y|x) Gauss da˘gılımlarıdır. Yani, k≥ 0 ic¸in

π_θ(x) = N (x; μ0, U₀), fk+1,θ(x^|x) = N (x^; Fkx, U_k) g_k,θ(y|x) = N (y; Gkx, V_k)

Burada,{Fk}k≥0ve{Gk}k≥0sırasıyla n× n ve r × n matris dizileri olup;{Uk}k≥0 ve{Vk}k≥0 ise sırasıyla n× n yarı- kesin artı ve r× r kesin-artı matris dizileridir. Bu matrisler modelin parametreleri olup θ ile g¨osterilmis¸tir.

2.1. Yeterli istatistikler ve EM algoritması

GDDU modellerinde c¸o˘gu zaman s¸u yeterli istatistiklerin ke- stirimleri aranır: (Fonksiyonların Yk’lara olan ba˘gımlılı˘gını yazımımızda ihmal edecek olursak)

S_k⁰(x1:k) = ^k

i=1

x_ix^T_i, S_k¹(x0:k) =^k

i=0

x_ix^T_i,

S_k²(x0:k−1) =

k i=1

x_i−1x^T_i−1, S³_k(x0:k) =

k i=1

x_i−1x^T_i,

S_k⁴(x0:k) =

k i=0

x_iy^T_i, S_k⁵=

k i=0

y_iy^T_i (1) 2011 IEEE 19th Signal Processing and Communications Applications Conference (SIU 2011)

530 978-1-4577-0463-511/11/$26.00 ©2011 IEEE

Genel olarak, herhangi bir Sk(·) ic¸in g¨osterecek olursak, aranan kestirim

S_k(θ) = Eθ[Sk(X0:k)|Y0:k] (2) S_k(·)’nin X0:k’nin sonsal da˘gılımı ¨uzerinden elde edilen bekle- nen de˘geridir; bu nedenle de d¨uzles¸tirilmis¸ toplanır fonksiyonel olarak adlandırılır.

Bu yeterli istatistiklerin hesaplanması gereken en tanıdık durumlardan biri EM algoritması ile EBO parametre kestir- midir: Diyelim ki model matrisleri zamanda de˘gis¸memektedir.

Bu durumda model parametremiz θ = (F, U, G, V )’dir.

Y_1:K = y1:K verildi˘ginde θ ic¸in EM algoritması as¸a˘gıdaki gibidir:

Algoritma 1. GDDU modeli icin EM algoritması Bas¸langıc¸: θ0=

F⁽⁰⁾, G⁽⁰⁾, U⁽⁰⁾, V⁽⁰⁾

 .

j= 0, 1, . . .’inci d¨ong¨ulerde:

• B adımı: m = 0, 1, 2, 3, 4, 5 ic¸in S_K^m(θj)’yi hesapla.

• E adımı: θj+1 =

F^(j+1), G^(j+1), U^(j+1), V^(j+1)



’i g¨uncelle:

θ_j+1= Λ

S_K^m(θj)

m=0,1,2,3,4,5

(3)

En b¨uy¨utme adımındakiΛ(·) belli kurallar k¨umesidir ve bu kurallar [2] ve [3] gibi bir c¸ok c¸alıs¸mada verilmis¸tir. EM algorit- masındaki beklenti adımı ic¸in en bilinen y¨ontem olan ˙IDS-GDD y¨onteminde, verilen y_1:K’nin bir ileriye, bir de geriye do˘gru is¸lenmesi gerekmektedir, bu y¨uzden de y_1:K’nin saklanması s¸arttır. Bir sonraki kısımda, y_1:K’yı sıralı olarak yalnızca ileri do˘gru is¸leyen, bu y¨uzden de bir d¨ong¨u ic¸inde k anında y_0:k−1’in saklanmasına gerek duymayan ˙IDDO y¨ontemi anlatılacaktır.

3. Yalnızca ileri do˘gru d ¨uzles¸tirme

Genel bir durum-uzay modelleri s¸u ¨ozelli˘ge sahiptir: X_k ve Y_0:k−1 verildi˘ginde, X_0:k−1 {Yi}_i≥k ve{Xi}_i>k dan ba˘gımsızdır. Bu durumda, sonsal da˘gılım p_θ(x0:k|y0:k)’i

p_θ(x0:k|y0:k) = pθ(xk|y0:k)pθ(x0:k−1|y0:k−1, x_k) (4) s¸eklinde ayırabiliriz. Aynı ¨ozellikten, pθ(x0:k−1|y0:k−1, x_k)’i

p_θ(x0:k−1|y0:k−1, x_k) =^k

i=1

p_θ(xi−1|y0:i−1, x_i) (5)

s¸eklinde c¸arpanlarına ayırabiliriz. Varsayalım ki yeterli istatis- tikler as¸a˘gıdaki gibi toplanır bic¸imde yazılabilir:

S_k(x0:k) = s0(x0) +

k i=1

s_i(xi−1, x_i) (6)

S¸imdi anahtar T_kfonksiyonunu tanımlayabiliriz: T₀(x0, θ) = s₀(x0) ve k ≥ 1 ic¸in

T_k(xk, θ) :=

S_k(x0:k)pθ(x0:k−1|y0:k−1, x_k)dx0:k−1

T_k(xk, θ) ile S_k(θ) arasındaki ilis¸ki (4)’den:

S_k(θ) = 

T_k(xk, θ)pθ(xk|y0:k)dxk. (7) Son olarak, (5)’i kullanarak {Tk}k≥1’yi hesaplamak ic¸in as¸a˘gıdaki ¨ozyinelemeyi elde ederiz:

T_k(xk, θ) = 

[Tk−1(xk−1, θ) + sk(xk−1, x_k)]

×pθ(xk−1|y0:k−1, x_k)dxk−1. (8) Bu ¨ozyineleme d¨uzles¸tirilmis¸ toplanır fonksiyonları elde et- mek ic¸in kullanıldı˘gından ileri do˘gru d¨uzles¸tirme ¨ozyinelemesi (˙IDD ¨O) olarak da c¸a˘grılır.

G¨osterilebilir ki burada anlatılan ˙IDD ¨O y¨ontemi ˙IDS- GDD y¨ontemine denktir, (ayrıntılar ic¸in bknz. [2], B¨ol¨um 4). ˙IDD ¨O y¨ontemine denk olan bir bas¸ka ¨ozyineleyici yaklas¸ım ise [6] ve [7] tarafından {Tk(xk, θ)}k≥0 yerine {Tk(xk, θ)pθ(xk|y0:k)}k≥0ic¸in gelis¸tirilmis¸ ve [3]’ta GDDU modellerine uygulanmıs¸tır.

3.1. ˙IDD ¨O’n ¨un GDDU modeline uygulanması ve EM GDDU modellerinde p_θ(xk|y0:k) ¨ozyinelemeli olarak p_θ(xk−1|y0:k−1)’den hesaplanabilir ve her bir pθ(xk|y0:k) ortalaması μ_k|k ve ortak de˘gis¸inti matrisi Σ_k|k olan Gauss da˘gılımdır (bknz. [2], B¨ol¨um 5). Bunun sonucunda, ˙IDD ¨O ic¸in gereken pθ(xk|y0:k, x_k+1) da Gauss’tur: In×n n× n birim matris olmak ¨uzre, D_k = Σ_k|kF_k^T(FkΣ_k|kF_k^T + Uk)⁻¹ ve d_k= (In×n− DkF_k)μk|kyazarsak,

p_θ(xk|y0:k, x_k+1) = N (xk; μk|k+1,Σk|k+1) μ_k|k+1= Dkx_k+1+ dk, Σ_k|k+1= Σ_k|k− DkF_kΣ_k|k Birazdan da g¨orece˘gimiz gibi, pθ(xk|y0:k, x_k+1)’lerin ve p_θ(xk|y0:k)’lerin Gauss olması ˙IDD ¨O’y¨u analitik olarak t¨urete- bilmemizi sa˘glayacaktır.

Ac¸ıkc¸a g¨or¨ulmektedir ki, GDDU modeli ic¸in (1)’de tanımlanan yeterli istatistikler (6)’daki gibi yazılabilmektedir:

s¹_k(xk) = xkx^T_k, s²_k(xk−1) = xk−1x^T_k−1, s³_k(xk−1, x_k) = xk−1x_k^T, s⁴_k(xk) = xky_k^T.

(Yukarıda, s⁰_k(xk) k = 0 dıs¸ında s¹_k(xk) ile aynı oldu˘gu ic¸in, S_k⁵de S_k⁵’in kendisi oldu˘gu ic¸in bunlara kars¸ılık gelen s_k(·)’lar ayrıca yazılmamıs¸tır. Bundan sonra da S_k⁰(x1:k) ve S_k⁵’in ke- stirimi ic¸in d¨uzles¸tirme is¸lemleri ayrıca incelenmeyecektir.) Dolayısıyla, bu yeterli istatistiklere kars¸ılık gelen d¨uzles¸tirilmis¸

toplanır fonksiyoneller de ˙IDD ¨O ile hesaplanabilir. Bu hesapla- manın analitik olarak devam ettirilebilir olması ic¸in ¨ozyineleme is¸lemi s¹_k(xk), s²_k(xk−1) ve s³_k(xk−1, x_k)’nın her bir elemanı ic¸in ayrı ayrı, s⁴_k(xk)’nın da her bir s¨utunu ic¸in ayrı ayrı yapılmalıdır. Bu durumda, i, j= 1, . . . , n ve l = 1, . . . , r ic¸in

s¹_k,ij(xk) = xk,ix_k,j, s²_k,ij(xk−1) = xk−1,ix_k−1,j s³_k,ij(xk, x_k−1) = xk−1,ix_k,j, s⁴_k,l(xk) = xky_k,l s¸eklinde yazarsak, her bir eleman (ve s¨utun) ic¸in ¨ozyineleme ayrı ayrı olacaktır. Bu da m = 1, 2, 3 ic¸in T_k,ij^m (xk, θ) ve 2011 IEEE 19th Signal Processing and Communications Applications Conference (SIU 2011)

531

T_k,l⁴ (xk, θ)’nın hesaplanması demektir. ¨Orne˘gin, T_k,ij¹ (xk, θ) ic¸in,

T_k,ij¹ (xk, θ) = 

T_k−1,ij¹ (xk−1, θ) + xk,ix_k,j

×pθ(xk−1|y0:k−1, x_k)dxk−1

G¨osterebiliriz ki, i, j= 1, . . . , n ve l = 1, . . . , r ic¸in, T_k,ij^m (xk) = x^TkA^m_k,ijx_k+ b^mTk,ijx_k+ c^mk,ij, m= 1, 2, 3

T_k,l⁴ (xk) = A⁴_k,lx_k+ b⁴_k,l

ve ¨ozyineleme A, b ve c katsayıları ¨uzerinden as¸a˘gıdaki gibidir:

A¹_0,ij = eie^T_j, A_0,ij² = A³_0,ij = A⁴_0,l= 0n×n; b¹_0,ij = b²_0,ij = b³_0,ij= b⁴_0,l= 0n×1;

c¹_0,ij = c²0,ij= c³0,ij= 0 A¹_k+1,ij = D^T_kA¹_k,ijD_k+ eie^T_j

b¹_k+1,ij = D^Tkb¹_k,ij+ D^Tk



A¹_k,ij+ A^1Tk,ij

 d_k c¹_k+1,ij = c¹_k,ij+ Tr

A¹_k,ijΣk|k+1

+ b^1T_k,ijd_k+ d^T_kA¹_k,ijd_k A²_k+1,ij = D^T_k

A²_k,ij+ eie^T_j

 D_k

b²_k+1,ij = D^T_kb²_k,ij+ Dk



A²_k,ij+ A^2T_k,ij+ eie^T_j + eje^T_i

 d_k

c²_k+1,ij = c²k,ij+ Tr

A²_k,ij+ eie^T_j

Σk|k+1

+ b^2Tk,ijd_k

+d^Tk



A²_k,ij+ eie^T_j

 d_k A³_k+1,ij = D^T_kA³_k,ijD_k+ eje^T_iD_k

b³_k+1,ij = D^Tkb³_k,ij+ D^Tk



A³_k,ij+ A^3Tk,ij



d_k+ ejd^T_ke_i c³_k+1,ij = c³k,ij+ Tr

A³_k,ijΣk|k+1

+ b^3Tk,ijd_k+ d^TkA³_k,ijd_k A⁴_k+1,l = A⁴k,lD_k+ yk+1,lI_n×n

b⁴_k+1,l = b⁴_k,l+ A⁴_k,ld_k (9)

Yukarıda e_i uygun b¨uy¨ukl¨ukteki birim matrisin i’inci s¨utunudur. O halde, d¨uzles¸tirilmis¸ toplanır fonksiyonel- leri as¸a˘gıdaki gibi hesaplayabiliriz: m = 0, 1, 2, 3, 5;

i, j= 1, . . . , n ve l = 1, . . . , r ic¸in, S_k,ij^m (θ) = 

S_k^m(θ)

ij= 

T_k,ij^m (xk, θ)pθ(xk|y0:k)dxk

= Tr A^m_k,ij

Σk|k+ μk|kμ^T_k|k

+ b^mTk,ijμ_k|k+ c^mk,ij

S_k,l⁴ (θ) =  S_k⁴(θ)

1:n,l= 

T_k,l⁴ (xk, θ)pθ(xk|y0:k)dxk

= A⁴k,lμ_k|k+ b⁴k,l

˙IDD ¨O’n¨un zaman bas¸i hesaplama y¨uk¨u matrislerin her el- emanı ic¸in n× n matrislerin tersinin alınması is¸lemini gerek- tirdi˘gindenO(n⁵)’ken, ˙IDS-GDD ic¸in ise O(n³)’t¨ur. Ancak,

˙IDD ¨O’de matrislerin elemanları ic¸in yapılan ¨ozyinelemeler birbirinden ba˘gımsız olarak gerc¸ekles¸tirilebildi˘ginden, y¨ontem paralel hesaplamalara uygundur. (Bas¸ka bir deyis¸le n² tane O(n³)’l¨uk hesaplama paralel yapılabilir.)

3.2. Anında EM algoritması

Aninda EM algoritmasindaki fikir yeni bir g¨ozlem geldi˘ginde parametre kestirimi g¨uncellenmesidir. ¨Onerilen anında kestirim

y¨ontemi, ˙IDD ¨O’n¨un stokastik bir yaklas¸ıklamasına dayanmak- tadır: Varsayalım ki {θi}0≤i<k anında EM algoritmasının y_0:k−1’e dayanarak k−1 anına kadar yaptı˘gı kestirimlerin dizisi olsun. k aninda, ˙IDD ¨O’ye s¸u s¸ekilde yakınsanır:

T_k(xk, θ_0:k−1) =  

(1 − ηk)Tk−1(xk−1, θ_0:k−2) +ηks_k(xk−1, x_k)



p_θ0:k−1(xk−1|y0:k−1, x_k)dxk−1 (10)

Burada{ηk}_k≥0

k=0η_k= ∞ ve

k=0η_k²<∞ kos¸ullarını sa˘glayan artı sayılardan olus¸an bir dizidir. ¨Orne˘gin,0.5 < η ≤ 1 ic¸in ηk= k^−ηalınabilir.

EM algoritmasının en b¨uy¨utme adımı her k anında yapılır.

(Ancak, uygulamada kestirimin g¨uncellenmesinin sayısal olarak iyi huylu olmasını garantilemek ic¸in bu adım belli bir sayıda ( k_b) d¨ong¨u boyunca atlanır.) Bu s¸ekilde, algoritmanın c¸ok uzun bir veri dizisi verildi˘ginde bu verinin ¨uzerinden sadece bir kez gec¸erek EBO kestirimine ulas¸ması beklenir.

Bu yaklas¸ım ic¸in elde edilen ¨ozyineleme (9)’deki

¨ozyineleme kurallarına benzerdir; sadece es¸itliklerde T_k−1(·)’ye kars¸ılık gelen terimler 1 − ηk ile c¸arpılırken s_k(xk−1, x_k) ile ilgili terimler ise ηkile c¸arpılmalıdır. Anında EM algoritması asa˘gıda verilmis¸tir.

Algoritma 2. GDDU modeli ic¸in anında EM Baslangic: Rastgele bir θ₀ile basla.

k= 0 icin

• B adımı:

– i, j = 1, . . . , n ve l = 1, . . . , r ic¸in, A^m_0,ij, b^m_0,ij, c^m_0,ij

m=0,1,2,3, A⁴_0,l, b⁴_0,l

 . Ayrıca, S₀⁵= η0y₀y^T₀

– θ₀’i kullanarak μ_0|0, Σ0|0, D₀, d₀ ve Σ0|1’i hesapla.

1 ≤ k ic¸in

• B adımı:

– 

θ_k−1, μ_k−1|k−1,Σk−1|k−1

’i kullanarak D_k−1, d_k−1,Σk−1|k

’i hesapla.

– i, j = 1, . . . , n ve l = 1, . . . , r icin, {A^m_k,ij, b^m_k,ij, c^m_k,ij}m=0,1,2,3, A⁴_k,l, b⁴_k,l katsayılarını bir ¨onceki de˘gerlerini ve D_k−1, d_k−1,Σk−1|k, θ_k−1

’i kullanarak g¨uncelle. Ayrıca, S_k⁵= (1 − ηk) S_k−1⁵ + ηky_ky^T_k. – 

μ_k|k,Σ_k|k

’yi 

μ_k−1|k−1,Σ_k−1|k−1

ve θk−1

kullanarak hesapla.

• E adımı: E˘ger k < k_b ise, θ_k = θ_k−1. De˘gilse; i, j = 1, . . . , n ve l = 1, . . . , r icin

S_k^m(θ0:k−1)

m=0,1,2,3,4’i 

μ_k|k,Σk|k  ve

{A^m_k,ij, b^m_k,ij, c^m_k,ij}m=0,1,2,3, A⁴_k,l, b⁴_k,l

kullanarak hesapla, θ_k=

F^(k), G^(k), U^(k), V^(k)



’yi g¨uncelle:

θ_k= Λ

S_k^m(θ0:k−1)

m=0,1,2,3,4,5

(11) 2011 IEEE 19th Signal Processing and Communications Applications Conference (SIU 2011)

532

0 1 2 3 4 5 x 10⁴ 0

0.005 0.01 0.015

zaman (k) RRtr_1,1

0 1 2 3 4 5

x 10⁴ 0

0.005 0.01 0.015 0.02

zaman (k) RRtr_1,2 = RRtr_2,1

0 1 2 3 4 5

x 10⁴ 0

0.005 0.01 0.015 0.02

zaman (k) RRtr_2,2

0 1 2 3 4 5

x 10⁴ 0

0.1 0.2 0.3 0.4

zaman (k) SStr_1,1

0 1 2 3 4 5

x 10⁴ 0

0.1 0.2 0.3 0.4

zaman (k) SStr_1,2 = SStr_2,1

0 1 2 3 4 5

x 10⁴ 0

0.1 0.2 0.3 0.4

zaman (k) SStr_2,2

S¸ekil 1: Aninda EM algoritmasi kestirimleri

4. Deneyler ve Sonuc¸lar

Bu kısımda, EM ve anında EM algoritmalarının bas¸arımlarını benzetimlenmis¸ veri kullanarak kars¸ılas¸tırdık. Durum ve uzay vekt¨orlerinin boyutları n = 2 ve r = 2 olarak alındı. K = 50000 uzunlu˘gunda bir veri dizisi ¨uretildi. Deneylerimizde U ve V bilinmiyor varsayılarak kestirilmeye calıs¸ılmıstır. S¸ekil 1 ve 2, EM ve anında EM algoritmasının sonuclarını g¨ostermek- tedir. D¨uz c¸izgiler gerc¸ek de˘gerlerdir. G¨or¨uld¨u˘g¨u gibi, iki algo- ritma da yaklas¸ık aynı de˘gerlere yakınsamıs¸tır. Ancak, anında EM algoritması bunu g¨ozlemlenen verinin ¨uzerinden sadece bir kez gec¸erek yaparken, EM algoritması ic¸in 400’den fazla d¨ong¨u gerekmis¸tir. Buradan da anında EM’nin 400 kat daha hızlı yakınsadı˘gını s¨oyleyebiliriz.

5. Tartisma

Bu c¸alıs¸mada g¨orm¨us olduk ki, GDDU parametre kestirimi ic¸in gereken yeteri istatistikler sadece ileri-do˘gru bir sek- ilde kestirilebilir. Bunu m¨umk¨un kılan IDD ¨O aynı zamanda anında cok uzun veri dizileri icin yararlı olabilecek anında EM algoritmasının yolunu ac¸maktadır. Ayrıca, O(n⁵)’lik bu y¨ontem paralel hesaplamalara uygun olaca˘gından O(n³)’luk bir y¨ontemmis¸ gibi gercekles¸tirilebilir.

0 100 200 300 400 500

0 0.005 0.01 0.015

dongu (j) RRtr_1,1

0 100 200 300 400 500

0 0.005 0.01 0.015 0.02

dongu (j) RRtr_1,2 = RRtr_2,1

0 100 200 300 400 500

0 0.005 0.01 0.015 0.02

dongu (j) RRtr_2,2

0 100 200 300 400 500

0 0.1 0.2 0.3 0.4

dongu (j) SStr_1,1

0 100 200 300 400 500

0 0.1 0.2 0.3 0.4

dongu (j) SStr_1,2 = SStr_2,1

0 100 200 300 400 500

0 0.1 0.2 0.3 0.4

dongu (j) SStr_2,2

S¸ekil 2: EM algoritmasi kestirimleri

6. KAYNAKC ¸ A

[1] A.P. Dempster, N.M. Laird, and D.B. Rubin, “Maximum likelihood from incomplete data via the EM algorithm,”

Journal of the Royal Statistical Society, vol. 39, no. 1, pp.

1–38, 1977.

[2] O. Capp´e, E. Moulines, and T. Ryd´en, Inference in Hidden Markov Models, Springer, 2005.

[3] R.J. Elliott and V. Krishnamurthy, “New finite-dimensional filters for parameter estimation of discrete-time linear Gaussian models,” Automatic Control, IEEE Transactions on, vol. 44, no. 5, pp. 938 –951, may. 1999.

[4] G. Mongillo and S. Deneve, “Online learning with hidden Markov models,” Neural Computation, vol. 20, no. 7, pp.

1706–1716, 2008.

[5] O Capp´e, “Online EM algorithm for hidden Markov mod- els,” http://arxiv.org/pdf/0908.2359, August 2009.

[6] O. Zeitouni and A. Dembo, “Exact filters for the estimation of the number of transitions of finite-state continuous-time Markov processes,” IEEE Trans. Inform. Theory, vol. 34, no. 4, pp. 890 – 893, 1988.

[7] R.J. Elliott, “New finite dimensional filters and smoothers for Markov chains observed in Gaussian noise,” IEEE Trans. Signal Process, vol. 39, pp. 265 –271, may. 1993.

2011 IEEE 19th Signal Processing and Communications Applications Conference (SIU 2011)

533