Compressive sampling and adaptive multipath estimation

(1)

Sıkıs¸tırmalı ¨

Ornekleme ve Uyarlamalı C

¸ okyollu Kestirim

Compressive Sampling and Adaptive Multipath Estimation

Mert Pilanci, Orhan Arikan

Elektrik Elektronik Mühendisli˘gi Bölümü Bilkent ¨

Universitesi, Ankara

{pilanci,arikan}@ee.bilkent.edu.tr

¨ Ozetc¸e

Sinyal is¸lemede kanal kestirimi ve es¸itleme gibi bir çok prob-lem do˘grusal denkprob-lem sistemlerine dönüs¸mektedir. Bu bildiride katsayı matrisinde seyrek hata bulunan do˘grusal problemler tanımlanmıs¸ ve incelenmis¸tir. Büyük bir matris sınıfı için seyrek hataların olması durumunda dahi bilinmeyen parame-trelerin kesin olarak saptanması mümkündür. Bu amaç için bir optimizasyon problemi ve konveks relaksiyonu tanımlanmıs¸, çözümü için sayısal algoritmalar gelis¸tirilmis¸tir. Elde edilen sayısal sonuçlar kuramsal yaklas¸ımı destekleyecek niteliktedir. Bu yöntem akıllı radyo sistemlerinde uyarlamalı çokyollu kanal kestirimi ve es¸itlemesi gerçekles¸tirmek için kullanılmıs¸ ve yüksek bas¸arım sa˘glanmıs¸tır. Hızlı de˘gis¸en çok yollu kanal-larin gecikme ve Doppler uzayında seyrek olması nedeniyle önerilen teknikle es¸itleme zamanlarının oldukça ötesinde dahi düs¸ük bit hatası elde edilebilmektedir.

Abstract

In many signal processing problems such as channel estimation and equalization, the problem reduces to a linear system of equations. In this proceeding we formulate and investigate linear equations systems with sparse perturbations on the coefficient matrix. In a large class of matrices, it is possible to recover the unknowns exactly even if all the data, including the coefficient matrix and observation vector is corrupted. For this aim, we propose an optimization problem and derive its convex relaxation. The numerical results agree with the previous theoretical findings of the authors. The technique is applied to adaptive multipath estimation in cognitive radios and a significant performance improvement is obtained. The fact that rapidly varying channels are sparse in delay and doppler domain enables our technique to maintain reliable communication even far from the channel training intervals.

Index Terms—Compressed Sensing, Structured Total Least

Squares, Structured Perturbations, Matrix Identiﬁcation, Sparse Multipath Channels

1. Giris¸

Sinyal is¸lemede kanal kestirimi, es¸itleme ve ters evris¸im gibi bir çok problem do˘grusal denklem sistemlerine dönüs¸mektedir.

¨

Olçüm vektörü y0 kullanılarak, bilinmeyen x0 vektörünün

kestirimi ço˘gu uygulamanın özündeki problemi tes¸kil eder. Sıklıkla do˘grusal bir model bilinmeyenler ve ölçümler

arasındaki ilis¸kiyi g¨ostermek ic¸in kullanılır: y0 = A0x0,

burada A0 ∈ Rm×n matrisi do˘grusal ilis¸kiyi tasvir

etmek-tedir. En Az Kareler (Least Squares, LS) Y¨ontemi, m > n

durumundaA0x = y denklemine bir yaklas¸ık çözüm bulmak

için en iyi bilinen yöntemdir. Ayrıca LS yöntemi gözleme

ba˘gımsız normal da˘gılımlı gürültüe eklenmis¸se, y = y0+ e,

en y¨uksek olabilirlik (Maximum Likelihood) kestirimini verir

ve bilinmeyenx0’yu bir miktar hata ile bulabilir [1]. S¸as¸ırtıcı

olarak 2005 yılında Candes ve Tao, e vektörünün seyrek

olması durumunda, bazıA matrisi aileleri ic¸in x0nun do˘grusal

programlama ile kesin olarak saptanabilece˘gini g¨ostermis¸lerdir [2].

Gerc¸ek sinyal is¸leme uygulamalarında katsayı matrisi de hatalar ya da kabullenmeler ic¸ermekte veya bazı di˘ger

ölçümlerin sonucu olarak hesaba girmektedir. A matrisi ve

g¨ozlemlerde birlikte hata oldu˘gunda: A = A0 + E, y =

y0 + e, Toplam En Az Kareler (Total Least Squares, TLS)

yöntemi Tekil De˘ger Ayrıs¸ımı (SVD) kullanarak en küçük pertürbasyonla sistemi düzeltip tutarlı hale getirir [3]. TLS yöntemi de matris üzerindeki ve gözlem üzerindeki gürültüler ba˘gımsız normal da˘gılımlı ise En Büyük Olabilirlik kestirimini vermektedir.

Bu bildiride, Candes ve Tao’nun sonucundan ilham alarak, TLS kars¸ılı˘gını, yani katsayı matrisinde de hata olması duru-munu inceliyoruz. TLS probleminin do˘gası belirsizli˘gin art-masından dolayı daha karıs¸ıktır. Kuramsal sonuc¸larımız [4]’te

sunulmaktadır ve web sayfamızdan eris¸ilebilir. E˘ger E ve e

bilinmemekte ama herhangi bir bazda seyrek iseler, sadece

(A0+E, y0+e) bilgisiyle x0’nun kesin olarak bulunabilece˘gi

g¨osterilmis¸tir. Bu bildiride sayısal bir algoritma ve konveks relaksiyonu gelis¸tirilip telsiz iletis¸im sistemlerinde c¸okyollu kestirime uygulaması sunulacaktır.

2. Seyrek Pert ¨urbasyon Kuramı

Varsayalım ki,A0x0 = y0 tutarlı bir denklem sistemi olsun

ve g¨ozlenen sistemdeki nicelikler as¸a˘gıdaki gibi tanımlansın:

A = A0+ N i=1 Aipi, y = y0+ N i=1 yipi , (1)

¨oyle ki,Aimatrisleri veyivekt¨orleri sabit ve bilinen nicelikler

olarak sistem üzerindeki pertürbasyon için bir baz tanımlasın vep = [p1. . . pN]T bu bazdaki katsayıları olsun.

E˘ger x0 bilinseydi fakat p bilinmeseydi problem [4]’te

gösterildi˘gi gibi standart bir Compressive Sampling (CS) prob-lemi haline gelir ve Basis Pursuit (BP) ile çözülebilir [5].

Fakat x0’nun da bilinmeyenlere dahil olması bu problemi

CS’den daha zorlu bir hale getirmektedir. Yazarlar [4]’te kesin ve kararlı saptama ic¸in yeterli kos¸ulları kuramsal olarak g¨ostermis¸lerdir.

260 SIU2010 - IEEE 18.Sinyal isleme ve iletisim uygulamalari kurultayi - Diyarbakir

(2)

3. ¨Onerilen Kestirim Y¨ontemi

As¸a˘gıdaki ikili minimizasyon, pert¨urbasyon p ve bilinmeyen

x0’nun birlikte kestirilmesi ic¸in ¨onerilmektedir:

P0: min_x min p₀=k (A − N i=1 Aipi)x − (y − N i=1 yipi) 2

Burada p₀, p vekt¨or¨undeki sıfır olmayan eleman sayısını

temsil etmektedir.P0 minimizasyonu olabilecek t¨um k-seyrek

pertürbasyonlar için en iyi yaklas¸ımı verecek x vektörünü

aramaktadır. Bu optimizasyon problemi konveks de˘gildir.

3-A. P0 ic¸in De˘gis¸en Minimizasyonlar Tekni˘gi

Konveks olmayan P0 problemini c¸¨ozmenin bir yolu tekrarlı

bir s¸ekildep ve x’i sabit tutarak ilerlemektir. p sabit tutulursa,

problem sıradan bir En Az Kareler problemi haline gelir ve

analitik çözümü mevcuttur. E˘ger x sabit tutulursa, k-seyrek

bir p bulmak için çes¸itli algoritmalar mevcuttur. Bunlardan Orthogonal Matching Pursuit (OMP) hızlı bir yöntem olup bazı durumlarda garantili sonuçlar vermektedir [6]. As¸a˘gıdaki tabloda verildi˘gi s¸ekilde ardıs¸ık minimizasyonlarla

ilerleyerek yerel bir optimum bulunabilir [7], [8].

Algoritma 1. Ardıs¸ık Minimizasyonlar Algoritması

x0_{← A}†_{y, p}0_{← 0, k ← 0} whilexk_{− x}k−1_{> Δ do} pk+1_{← arg min} p₀=kAxk− y − Φ(xk)pk (OMP kullanılarak) xk+1_{← (A −}N i=1Aipi)†(y − _N i=1yipi) k← k + 1 end while ˆ A ← (A−N

i=1Aipki), ˆy ← (A−

_N

i=1yipki), ˆx ← xk

3-B. P0’nun konveks relaksiyonu

Compressive Sampling’i sayısal olarak m¨umk¨un kılan en

¨onemli teorik bulgu l0 ve l1 normunun bazı problemlerde

es¸it sonuc¸lar vermesidir [9]. Bu sonuc¸tan hareketle P0’daki

l0normul1ile de˘gis¸tirdi˘gimizde problem as¸a˘gıda g¨osterildi˘gi

gibi konveks hale gelir:

P1: min x pmin1≤t (A − N i=1 Aipi)x − (y − N i=1 yipi) 2 .

Bu problemin analizi ic¸in ¨once as¸a˘gıdaki tanımlamaları ya-palım: Tanım 1: A(p) A −N i=1 Aipi , y(p) y − N i=1 yipi . (2)

A(p) matrisinin kolon uzayının p₁ ≤ t b¨olgesinde tam

oldu˘gunu varsayarak, dıs¸ardaki ve içerideki minimizasyonun yerlerini de˘gis¸tirip analitik çözümü kullanabiliriz:

min

p₁≤tminx A(p)x − y(p)

2 2= min_p 1≤t P⊥py(p) 2 2 (3)

BuradaP⊥p I−A(p)A(p)†matrisi,A(p)’nin sıfır uzayının

izdüs¸üm operatörüdür veA(p) kolon uzayına diktir. As¸a˘gıdaki

tanımları yaparsak:

y(p)⊥_P⊥

py(p) ve xp A(p)†y(p),

denklem (3)’teki içerdeki ifadenin türevi yazarlar tarafindan Frechet türevleri kullanılarak [8]’de türetilmis¸tir:

1 2 ∂ ∂pi P⊥py(p) 2 2= y(p)⊥_,_Aixp_{− y} i , (4)

Bu ifade P1 problemini gradyan bazlı hızlı tekniklerle

çözülebilir kılar. Bu tekniklerden bir tanesi as¸a˘gıda belir-tilen Koordinat Gradyan ˙Inis¸i (Coordinate Gradient Descent, CGD)’dir.

Coordinate Gradient Descent (CGD): CGD l1kısıtlamalı

genel do˘grusal olmayan problemlerin hızlı çözümü için

gelis¸tirilmis¸ bir tekniktir. As¸a˘gıdaki GCD uyarlamasıP1 ic¸in

hızlı bir çözüm tes¸kil eder:

Algoritma 2 Koordinat Gradyan ˙Inis¸i Algoritması

p0_{← 0, k ← 0} whilepk− pk−1> Δ do l← arg min i y(p)⊥_,_Aixp_{− y} i

c ← 0 , ck← −sign(< y(p)⊥,Alxp− yl) >

ˆλ ← arg min λ∈[0,1] P⊥ pk_+λ(c−pk₎y(pk+ λ(c − pk)) 2 pk+1_{← p + k + ˆλ(c − p + k)} k← k + 1 end while ˆ A ← (A−N

i=1Aipki), ˆy ← (A−

N

i=1yipki), ˆx ← xk

Dikkat edilmesi gereken bir nokta, algoritmadaki λ

¨uzerinden minimizasyon konveks olmamasıdır. Fakat as¸a˘gıdaki ifade bu de˘gere iyi bir yaklas¸ım sunmaktadır:

arg min λ∈[0,1] P⊥ p+λ(c−p)y(p + λ(c − p))₂ ≈ arg min λ∈[0,1]A(p + λ(c − p))x − y(p + λ(c − p))2 = ⎧ ⎪ ⎨ ⎪ ⎩ 0 α(A†y) ≤ 0 α(A†y) 0 < α(A†y) < 1 1 α(A†y) > 1 α(x) (A(p)x − y(p)) T i(Aix − yi)(c − p) i(Aix − yi)(c − p) 2 2 .

Bu s¸ekildeO(N) karmas¸ıklık ile P0 nun relaksiyonu P1

çözülebilir.

4. Sayısal Sonuc¸lar ve Uygulamalar

4-A. Kesin Ç öz üm Olasılı˘gı

Seyrek pertürbasyonların bilinmedi˘gi durumda x0 vektörünü

kesin bir biçimde olus¸turabilmek ilk bakıs¸ta umutsuz gözükebilir. Fakat önerilen yöntemler yüksek olasılıkla bunu

mümkün kılmaktadır. E˘ger üstbelirlilik oranı

(overdetermi-nation ratio) olarak tanımladı˘gımız m_n yeterince b¨uy¨ukse

ve pertürbasyon yapısı yeterince evreuyumsuz (incoherent) ise kesin çözüm olasılı˘gı bire yakındır. Toeplitz yapılı pertürbasyonların evreuyumsuz olduklarını yazarlar [4]’te ispatlamıs¸lardır. Bu savı sayısal olarak desteklemek için rast-gele elemanlı bir Toeplitz matris üzerine yapılı bir s¸ekilde

seyrek gürültü eklenmis¸ veP0yöntemi kullanılarak bir çözüm

261

(3)

1 2 3 4 5 6 7 8 9 10 0 10 20 30 40 50 60 70 80 90 Üstbelirlilik Orani − m/n Kesin Çözüm Olasiligi (x 100) k/n=0.1 k/n=0.5 k/n=0.3 k/n=0.9 k/n=1.5

(a)m/n üstbelirlenim oranına göre P0nun deneysel kesin çözüm olasılı˘gı

Üstbelirlilik Orani − m/n Pertürbasyon Seyrekligi − k/n 1 2 3 4 5 6 7 8 9 0.2 0.4 0.6 0.8 1 1.2 1.4 1.6 1.8 2 0 10 20 30 40 50 60 70 80 90 (b)₍m

n,kn) düzleminde deneysel kesin çözüm olasılı˘gı.

S¸ekil 1. Onerilen yöntemlerin kesin çözüm olasılıklarının deneysel sonuçları¨

elde edilmis¸tir. Deneysel kesin çözüm olasılı˘gı, yani x

ke-stiriminin, gerçek x ile sıfır hatayla örtüs¸mesi olasılı˘gı m/n

oranına g¨ore 100 ba˘gımsız denemede hesaplanmıs¸ ve S¸ekil

1(a)’da g¨osterilmektedir. (m

n, k) d¨uzlemindeki olasılık ise

S¸ekil 1(b)’de incelenmis¸tir.

S¸ekillerden görülece˘gi gibi,m/n oranı arttıkça kesin çözüm

olasılı˘gı hızlı bir s¸ekilde artmaktadır. Artıs¸ hızını etkileyen en

önemli faktörk/n yani matristeki pertürbasyonların oranıdır.

¨

Orne˘gin, m = 20, n = 10 boyutlarında bir Toeplitz matrisin

1 adet elemanı (k/n = 0.1) gürültü ile bozulsa dahi, önerilen

yöntemin do˘grux0çözümünü bulma olasılı˘gı0.9 civarındadır.

4-B. Akıllı Radyo Sistemlerinde Uyarlamalı C¸ okyollu

Kanal Kestirimi

Np adet sinyal yolunun her birinin s¨on¨umleme katsayılarıai,

gecikmeleri ni ve doppler kaymalari νi oldu˘gunda, alıcıdaki

sinyal y ve g¨onderilen sinyal x0 arasındaki ilis¸ki as¸a˘gıdaki

gibi yazılabilir : y[n] = Np i=1 aix0[n − ni]ej2π νi d + w[n] , ₍₅₎

ve daha kısa bir s¸ekilde, y = Hx0 + w olarak da

ifade edilebilir. Burada w dairesel simetrik normal beyaz

gürültüdür. Bu uygulamada kanalın ve gönderilen sinyalin, bir kanal tanılama evresinden sonra tekrar birlikte kestirilmesi ele

alınmaktadır. Varsayalım ki kanal tanılama evresi bizeNpadet

yol ic¸eren birH kanal matrisi vermis¸tir. Bir s¨ure sonra ortama

yeni yansıtıcılar eklenmis¸ ya da varolan yanısıtıcılar ortamdan çıkmıs¸tır ve kanalın yeni durumu elimizdeki kanal kestirim-iyle uyus¸mamaktadır. Bu kanalların genelde gecikme-doppler uzayında seyrek oldu˘gu düs¸ünülürse [10], problem do˘grusal denklem sistemlerinde matris üzerinde seyrek pertürbasyon

bu-lunması halinde bilinmeyenleri c¸¨ozmekle es¸de˘gerdir.x0[n]’in

band genis¸li˘giB oldu˘gunda, gecikme ve doppler uzayı Δν =

1

n, Δτ = B1 aralıklarla kesikli hale getirilirse as¸a˘gıdaki

262

(4)

8 10 12 14 16 18 20 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 Sinyal Gürültü Orani (dB)

Doppler Kestirim Hatasi

Önerilen Basis Pursuit (3 Paths) Proposed (3 Paths) B 5 yol

3 yol

1 yol

S¸ekil 2. Doppler Kestirim Hatası.

8 10 12 14 16 18 20 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 Sinyal Gürültü Orani

Gecikme Kestirim Hatasi

Önerilen Basis Pursuit (3 Paths) Proposed (3 Path) BP

5 yol

3 yol

1 yol

S¸ekil 3. Gecikme Kestirim Hatası.

zaman-sıklık matris bazı [11] bu problem ic¸in kullanılabilir.

Hkl= diag([1 ej

2π

dk _{. . . e}j2πdkm])R_l_, ₍₆₎

Burada Rl, l’inci altk¨os¸egeni 1 ve di˘ger t¨um

eleman-ları 0 olan matristir ve l ¨ornek kadar kaydırma is¸levini

görmektedir. Önerilen yöntemP1’in bas¸arımını göstermek için

bir sim¨ulasyon c¸alıs¸ması yapılmıs¸tır. x0 rastgele ±1 sinyali

olarak seçilmis¸ gönderilmek istenen sinyali temsil etmekte-dir. Ortama sırasıyla 1, 3 ve 5 adet sönümleme, gecikme ve doppler katsayıları farklıdır ve bilinmeyen yeni yansıtıcı

eklenmis¸tir. P1’deki t parametresi eklenen yol sayısını elde

edecek büyüklükte seçilmis¸tir. S¸ekil 2 ve S¸ekil 3 bilinen Basis Pursuit yaklas¸ımı ile önerilen yöntemi kestirim hatalarına göre 100 ba˘gımsız denemede 30 farklı sinyal gürültü oranında kars¸ılas¸tırmaktadır. Bu s¸ekillerde sözü edilen doppler ve gecikme kestirim hataları sırasıyla s¸u s¸ekilde tanımlanmıs¸tır: ˆ ν dΔν ve ˆ τ

dΔτ. Basis Pursuit yaklas¸ımı sadece yeni eklenen

kanalların seyrek oldu˘gunu varsaymakta ve x sinyali ic¸in bir

¨onceki kanal kestiriminden bulunan bilgiyi kullanmaktadır. ¨

Onerilen y¨ontem bir ikili minimizasyonun sonucu oldu˘gundan

x sinyali ve kanaldaki pert¨urbasyonu ic¸in birlikte kestirim

ya-par bu nedenle bas¸arım oranı sonuçlardan görüldü˘gü gibi daha iyidir. Tek yol bulunan simülasyonda Doppler kestiriminde 2.5dB, gecikme kestiriminde 11dB iyiles¸tirme sa˘glanmıs¸tır.

5. Sonuc¸

Do˘grusal denklem sistemlerinde katsayı matrisi üzerinde seyrek pertürbasyon bulundu˘gu durumda bilinmeyenlerin bu-lunması için bir yöntem gelis¸tirilmis¸tir. Konveks olmayan bir optimizasyon problemi ve onun konveks relaksiyonu tartıs¸ılmıs¸, çözüm için iki farklı sayısal algoritma sunulmus¸tur.

Problemdeki iki ¨onemli parametre ¨ustbelirlilik oranım/n ve

matris yapısının es¸uyumsuzlu˘gudur. Sayısal sonuçlar önerilen yöntemin Toeplitz yapılı matrislerde çok yüksek olasılıkla

kesin çözüm üretebildi˘gi, yani bilinmeyen parametre vektörünü sıfır hatayla geri getirebildi˘gini göstermis¸tir. Elde edilen yöntem akıllı telsiz iletis¸im sis çokyollu parametre kestiriminin uyarlamalı bir s¸ekilde yapılması için kullanılmıs¸ ve yüksek

bas¸arım oranı sa˘glanmıs¸tır. ¨Onerilen y¨ontem kullanılarak,

or-tama bilinmeyen parametreli yansıtıcılar girdi˘ginde ya da c¸ıktı˘gında kanal tanımlama evresine gerek kalmadan kanal parametreleri kestirilebilmektedir.

6. Kaynakc¸a

[1] S. M. Kay, Fundamentals of Statistical Signal Processing:

Estimation Theory., Prentice-Hall, 1993.

[2] E. J. Candes and T. Tao, “Decoding by linear programming,”

IEEE Trans. Inf. Theory, vol. 51, no. 12, pp. 4203–4215, Dec

2005.

[3] G.H. Golub and F. Van Loan, “An analysis of the total least squares problem,” SIAM J. Numer. Anal., vol. 17, no. 6, pp. 883–893, Dec. 1980.

[4] M. Pilanci and O. Arikan, “Recovery of sparse perturbations in least squares problems,” in preparation to be submitted

to IEEE. Trans. Signal Processing, 2010.

[5] E. J. Candes, J. Romberg, and T. Tao, “Stable signal recovery from incomplete and inaccurate measurements,” Comm. Pure

Appl. Math., vol. 59, no. 8, pp. 120–1223, Aug 2006.

[6] J.A. Tropp and A.C. Gilbert, “Signal recovery from random measurements via orthogonal matching pursuit,” IEEE Trans.

Inf. Theory, vol. 53, no. 12, pp. 4655–4666, Dec 1977.

[7] M. Pilanci, O. Arikan, B. Oguz, and M.C. Pinar, “Structured least squares with bounded data uncertainties,” 2009. [8] M. Pilanci, O. Arikan, and M.C. Pinar, “Structured least

squares problems and robust estimators,” accepted to IEEE.

Trans. Signal Processing, May 2010.

[9] E. J. Candes, “The restricted isometry property and its implications for compressed sensing,” C. R. Math., vol. 346, no. 9–10, pp. 589–592, May 2008.

[10] W. Bajwa, A. Sayeed, and R. Nowak, “Sparse multipath channels: Modeling and estimation,” in Digital Signal

Pro-cessing Workshop and 5th IEEE Signal ProPro-cessing Education Workshop, pp. 320-325, 2008.

[11] M.A. Herman and T. Strohmer, “High-resolution radar via compressed sensing,” IEEE Trans. Signal Process., vol. 57, no. 6, pp. 2275–2284, Jun 2009.