• Sonuç bulunamadı

ULUSAL SORUMLULUKLAR

ÖNGÖRÜ TEKNİKLERİ ÖNGÖRÜ YÖNTEMLERİ

2.6.1 Delphi Yöntem

2.6.1.1 Delphi Sürec

Delphi süreci adımları en basit halde aşağıda özetlenmiştir:

- Bireysel fikirlerin üretilmesi; Katılımcı grubuna sorunun tanımlanması, katılımcılara problemle ilgili fikirlerinin sorulması ve bunları yazmalarının istenmesi, katılımcılardan her birinin tarafsız bir moderatöre fikirlerini içeren bir liste sunması, - Fikirlerin konsolidasyonu: Katılımcılardan formların, kağıtların toplanması, Moderatör tarafından duplikasyonların elimine edilmesi ve girdilerin konsolide edilmesi ve daha ileri bir analiz için katılımcı grubuna geri gönderilmesi,

- En iyi fikirlerin seçilmesi: Katılımcıların konsolide edilmiş revize listeyi görebilmeleri, bu en iyi fikirlerin sirküle edilmesi, (önceliğe göre sıralanmadan), 1. ve 2. adımların tekrar edilmesi, ancak bu kez gruptan en iyi fikirlerin seçilmesinin istenmesi, bir eleme süreci sonucunda da katılımcıların en iyi fikirlere ulaşması, - Fikirlerin refere edilmesi; Fikirlerin karar vericilere sunulması, yayınlanması. Delphi sürecinin detayl adımları aşağıda açıklanmıştır (Breiner ve diğ., 1994): 1- Bir yönetim komitesi oluşturulması:

Bu araştırmanın kapsamı ve amacına göre opsiyonel bir seçenek olup, Yönetim Komitesi veya Delphi Takımı veya Moderatör Ekip adı altında, Delphi çalışmasını

yürütecek bir ekip oluşturulabilir veya bu tek bir moderatör olabilir. Bu ekibin üyelerinin, araştırma tekniklerine ve öngörü metodlarına hakim olması gereklidir. Ayrıca araştırma yapılan konuda da belli bir bilgi seviyesinde olmalarında fayda vardır. Ancak katılacak uzmanlar kadar uzman olmaları beklenmemelidir.

2- Uzmanlık panellerinin yapılandırılması:

Uzmanlık panelleri, ilk maddede açıklanan komite veya moderatöre, araştırmanın “teknik” içeriği hakkında destek ve yardımcı olabilecek, katılımcılar kadar uzman kişilerden oluşan, özellikle ulusal seviyede veya geniş kırılımlı sektörlerde yapılan araştırmalarda önem taşıyan odak gruplarıdır. Bu gruplar özellikle soruların hazırlanması aşamasında kritik rol oynarlar. Dar kapsamlı belli bir konudaki araştırmalarda, uzmanlık paneli ihtiyacı birebir katılımcılardan da karşılanabilir. Soruların kontrol ve doğrulanması için, soru listesine yeni soru veya cevap seçeneği ekleme olanağının katılımcılara sağlanması ile, araştırmanın ilk turunda uzmanlık panelinin vereceği destek de sağlanabilecektir.

3- Anketlerin/soru listelerinin hazırlanması:

Anket veya soru listelerinin hazırlanması konusunda farklı yöntemler uygulanabilir. Katılımcılara belli bir konuda, bilgi ve tecrübelerine dayanarak fikirlerini açık uçlu olarak bildirmeleri istenebilir, buna göre, soru veya tartışma konu başlıklarının belirlenmesi yeterlidir. Veya Delphi çalışması takımı, belli bir konudaki görüşlerini dile getirir ve bu görüşlerle ilgili olarak seçilen uygun bir uzman grubundan takip eden anket turlarına katılmaları istenebilir (Jones ve Hunter, 1999).

Daha sonra fikirler sınırlı sayıda bir başlık ve önerme listesi dahilinde gruplandırılır. Sorulardaki ifade ve önermeler, çok uzman kişilere de, daha genel bilgisi olan, orta düzey uzman kişilere de aynı anlamı ifade edecek şekilde net olmalıdır. Bazen her soru için katılımcının uzmanlık düzeyine ve katılımcının fikrini etkileyen diğer alt konulara ilişkin bilgi isteyen ilave değişkenler de ankete dahil edilir. Ancak bu durumda gereksiz yanetkilerden kaçınılması gerekir.

4- Katılımcı listesinin hazırlanması:

Katılımcıların, senaryo planlama uygulamasının amacına uygun yeterli bilgi ve yetkinliğe sahip kişiler olması gereklidir. Bu önerme çok belirgin olmakla birlikte kolay değildir İşbirliği yapılacak insanları bulma çabası, nasıl yapılırsa yapılsın, çıktının değerini artırır. Önadaylık süreci en bütünsel seçenektir ve katılımcının uzmanlık alanının potansiyeli hakkında önemli bilgi sağlar. Katılımcı listesi uzmanlar panelini oluşturur. Burada gündeme gelen ilk soru, uzmanların hangi havuzdan çekileceği,ikinci soru bu uzmanların nasıl bulunacağıdır. Bazı çalışmalarda,

araştırmacının tanıdığı bir iki uzmanı bularak bunlarla başlaması, daha sonra da bunların tavsiyelerine göre katılımcılara ulaşmasıdır. Buna çığ veya ağ yaklaşımı denmektedir. Ancak bu yöntemde kişisel tavsiyeler göründüğü gibi çıkmayabilir. Üçüncü soru, kaç uzmanın kullanılması gerektiğidir (Gordon, 1999). Kamuoyu araştırmalarının tersine, Delphi bir kütleden belirli bir rassal örneklem seçmeye eğilimli değildir. Bu nedenle istatistiksel bir rehber yoktur. Örneğin Schuster (1985) zoolojik habitat araştırmasında her bir katılımcıya ilk 3 tavsiyelerini sormuş ve katılımcıları yakınlaşan 13 bireyde sınırlamıştır. Aynı şekilde Crance (1987) önermesini moderatörün çalışma kapasitesine dayandırarak çalışmasında 10 kişiyi kapsamıştır. Dördüncü ve en zor soru ise bu katılımcıların nasıl motive edileceğidir (Gordon, 1999). Katılımın anahtarı, dahil olan herkes arasında çalışmayı sahiplenme duygusu yaratarak dışarıdan insanları dahil etmektir. Bilinçlendirme seminerleri ve benzeri faaliyetler potansiyel katılımcıların araştırmanın planlanmasında etkili olmalarına izin verir, ilgi sağlar. Ayrıca araştırmanın gelişimi hakkında düzenli geri bildirim, sonuçların geçici olarak elde edilmesi, araştırmadan çıkacak fikirlerin erken ulaşılmasının özendirilmesi, sürecin şeffaflığını sağlar.

Araştırmaya kimlerin dahil edileceği konusunda bir kaç katı kural olabilir, ancak katılımcıların mutlaka tartışma konusuyla ilgili yeterli uzmanlıkta olması zorunludur (Jones ve Hunter, 1999). Murphy (1998) uzlaşma metodlarında katılımcıların önemine dikkat çekmiş, bu önemi grup büyüklüğü, grup bileşimi, kişisel ve mesleki özellikler gibi bir kaç faktörde özetlemiştir. Bu konuların çoğunda rehberlik sağlayan yeterli veri bulunmadığı, ancak kişisel özelliklerin, yeterli büyüklük sağlandığı takdirde, göreceli olarak daha az etkili olduğu, katılımcıların statüsünün grup dinamiklerini etkilediği, formal metotlarla bu etkilerin hafifletilebileceğini belirtmiştir. Ulusal seviye ve üstü (bölgesel vb) öngörülerde katılımcıların, ulusal ve bölgesel teknoloji geliştirme politika ve stratejilerini belirlemek ve uygulamaktan sorumlu, devlet, sektör, akademi, ar-ge kurumları ve STK’ları temsil eden, yüksek düzey politika belirleyici ve karar vericilerden olması beklenir. En güncel içsel bakış ve en değerli katkıları güvence altına almak için, organizatörler OECD ülkelerinden de katılımcıları davet edebilirler. Bu kişilerin konferans süresince tartışılacak konu başlıkları ile ilgili bilgi ve tecrübeleri karmaşık bölgesel inisiyatife saygınlık ve görünebilirlik sağlayacaktır (UNIDO, 2001).

5- Katılımcılara soru listelerinin gönderilmesi:

Panelin yürütülmesidir. Geçmişte panelistler genellikle posta ile dahil edilirken artık e-mail , hatta, sürecin büyük bölümünü otomasyona geçiren web tabanlı sistemler

de kullanılabilmektedir (Gordon, 1999). Bu tür sistemler kağıtı ikame edebilmekte, katılımcıların bilgi girişi sağlanabilmekte, örneğin, ikinci tur sonuçları katılımcılara dağıtmaktansa bunlar bir web sitesine konabilmekte ve katılımcılar buraya yönlendirilebilmektedir. Kağıt formlarla gelen cevapları sıralamak, oranlamak veya yorumlamak yerine, katılımcılardan bu işi online bir form ile yapmaları istenebilmektedir. Kuşkusuz bu durumda katılımcıların deneyimi ve konumları gözönünde bulundurulmalıdır. Ayrıca, bu tür sistemlerin kullanımı karmaşık ve hatta e-mailden daha fazla zaman alabildiğinden, katılımcıların motivasyonunu olumsuz etkilemesi de mümkündür. Kolaylaştırıcı olması gereken bu tür çözümlerin yetkilendirme, sisteme tanıtma, internet bağlantısı sorunları, program hataları vb nedenlerle ters tepki yaratabilir. Web uygulamaları ile ilgili bilgi sahibi olmayan katılımcılara bu yöntem uygulanamayabilir veya bazı katılımcılara kağıt ortamda cevap verme opsiyonu da sağlanması gerekebilir.

Delphi panelinde etkileşimi artırmak için Web tabanlı bir tartışma grubu kullanmak katılımcıların bağımsız yargı ve düşüncesini zayıflatarak katılımcılar arasındaki tartışmayı çoğaltmak yerine azaltabileceğinden tehlikelidir. Web tabanlı bir tartışma grubu yaratıldığında bir katılımcı, belli bir fikir ile tartışmaya katılabilir, ancak sonraki turda kendi değerlendirmelerini sisteme girmeden önce diğer katılımcıların oylarını görünce, kendi fikrini çok uç bulduğu, eleştirileceğini düşündüğü veya aynı fikri başkasının söylediğini gördüğü ve ekleyecek bir şeyi olmadığını düşündüğü için fikrini dile getirmekten vazgeçebilir, katılımcıların anonimliği bozularak cesareti ve açık fikirliliği olumsuz etkilenebilir yani bağımsız düşünce zarara uğrayabilir. Delphi araştırması sonuçlarının geçerliliği için en önemli etken katılımcıların yargı/ düşüncelerinin bağımsızlığı olduğundan bu araştırmacının en istemediği sonuçtur. 6- Gelen cevapların konsolidasyonu ve özetlenmesi:

Bu aşamada sayısal sonuçlar ve bunları destekleyen tartışma/önermeler özetlenmektedir. Moderatör, katılımcıların formlarını toplar ve sonuçları destekleyen kanıtları ve önermeleri içeren bir özet ile birlikte basit bir istatistiksel özet (ortalama, medyan, alt ve üst kartil payları vb) hazırlar (Gordon, 1999).

7- Listelerin 2. veya daha fazla tur ile katılımcılara yeniden gönderilmesi:

Bu aşamada ilk tur sonuçları katılımcılara sunulur ve bir araştırma turu daha yapılır. Böylelikle katılımcı uzmanlar başkaları tarafından yapılan önermeleri inceleme ve kendi fikirlerini düzenleme /ayarlama şansına sahip olurlar. Eğer fikirleri ortalama veya medyanın (üst veya alt kartil gibi) dışına düşerse, bunların nedenlerini bildirmeye cesaretlendirilirler. Bu tur döngüsü 2-4 kez yapılabilir.

Bir başka yaklaşım ise, istatistiksel olarak tanımlanmış bir uzlaşma seviyesine ulaşılana kadar turların tekrar edilmesi yönündedir. Ancak katılımcıların böyle sonu belirsiz bir sürece katılımının sağlanması/muhafaza edilmesi, çok zor hatta imkansız olabilir. Schuster (1985) dört tur uygulamadan sonra en çok değişikliğin 1. ve 2. turlar arasında oluştuğunu belirlemiş ve beşinci turun katkı sağlamayacağını öngörmüştür. Fikir birliği sağlansın veya sağlanmasın, Delphi’nin standart bir grup oylamasına göreceli avantajı, sadece bir çoğunluk fikri sağlaması değil, bir fikir belirsizlik ölçüsü temin etmesidir (Gordon, 1999). Çok karşı duran muhalif görüşler oluşursa, fikirlerini daha derin olarak anlayabilmek için, bunları bildiren bazı katılımcılarla doğrudant, anonim tartışmalar yapılabilir.

Özet istatistikler her tur sonunda katılımcılara, her bir önermeye verilen cevapların dağılımının sayısal göstergeleri ile birlikte, dağılımların tabloları, histogramlar veya aralığın diğer grafik sunumları şeklinde gönderilebilir. Her iki halde de ana istatistik genellikle, belirsizliği temsil eden fikirlerin dağılımını gösteren uygun bir istatistikle desteklenen, ortaya çıkma sıklığının modudur. Oranların yanısıra, farklı görüşlerin nedenleri vb ilgili bilgilerin de gönderilmesi yararlıdır (Jones ve Hunter, 1999). 8- Sonuçların nihai konsolidasyonu ve analizi:

Son tur sonuçlarına göre, görüş ve fikirlerin yeniden sıralanarak özetlenir ve uzlaşma derecesine göre değerlendirilir. Eğer kabul edilebilir bir uzlaşma derecesi sağlanmışsa, süreç sonuçların katılımcılara geri gönderimi ile sürdürülebilir. Aksi takdirde bir tur daha yapılması gereklidir.

Soru formları ve cevaplardaki önermelerle ilgili puanlamalarının yanısıra, katılımcılardan fikir ve görüşlerinin hangi güven veya kesinlikte bildirdikleri ile ilgili puanlama yapmalarının istenmesi de sıkça kullanılan bir yöntemdir.

Fikir birliği ya da anlaşma iki şekilde olabilir. Birincisi, her bir katılımcının, odaklanılan konuyla hem fikir olma derecesi (tipik olarak sayısal/ kategorik ölçekte puanlanır); ikincisi ise katılımcıların birbirleri ile hem fikir olma derecesi yani uzlaşmadır (tipik olarak istatistiksel dağılım ölçüleri ile değerlendirilir) (Jones ve Hunter, 1999).

Çalışmada, her katılımcıya, grup görüşü ile uyumlu olmalarının gerekmediği açıkça anlatılmalıdır. Delphi tekniğinde, araştırmacı, dışsal konumdaki (üst ve alt kartillerde bulunan) katılımcılara cevaplarının yazılı açıklama ile desteklemelerini isteyebilir. Önermeler üzerinde anlaşma, genellikle medyan kullanılarak özetlenir ve uzlaşma ordinal ölçekler için interkartil aralıklar kullanılarak değerlendirilir. Diğer kapsamlarda örneğin, eğer bir Delphi süreci hastalık ilerlemesi olasılıklarını tahmin etmek için

kullanılıyorsa, katılımcıların cevaplarının medyanı grup tahmini olarak alınabilir. Aralıklar veya üst/alt kartiller bu tahmin çevresindeki belirsizliği ifade etmek için veya bu tahminleri kullanacak karar analizleri sırasında uç değerler olarak kullanılabilir. Anlaşmanın bazı çalışmalarda kullanılan daha ileri ölçüsü Kappa istatistiğidir. İkinci kurala göre sınama ise uç oylamaların nihai sonuçlar üzerinde uygun olmayan bir etkisi olup olmadığına ilişkin yapılır. Önce her bir önerme için tüm oylamaları içeren katı ve gevşek tanımlamalar, daha sonra da her bir önerme için en yüksek uçtaki ve en alçak uçtaki oylamalar hariç tutularak değerlendirilir.

9- Uzlaşmanın sağlanması: Uzlaşma her zaman doğru cevabın bulunduğu anlamına gelmez, kolektif akıl yerine kolektif cehaletin de ortaya çıkma tehlikesi vardır. Delphi süreci için sonuçların mümkün olduğunca gözlemlenebilir olaylarla uyumlu olup olmadığına bakılması gereklidir (Jones ve Hunter, 1999).

10- Sonuçların tartışılması ve geçerli olanların belirlenerek yayınlanması:

Bir Delphi araştırmasını genel organizasyonu Şekil 2.7’de “Geniş konsültasyon” başlığında gösterilmiştir. Belirlenen görevlerden elde edilecek bilgilerin diğer yollardan elde edilmesi özellikle uluslararası katılım öngörülmüşse, imkansız değilse de zordur. Bugün iş dünyası küreselleştiğinden, daha yüksek kalitede bilgiye nerede olursa olsun ve gizliliği korurken özgür bir ortamda ulaşılmasını sağlayan uluslar arası katılım önem kazanmıştır (Loveridge, 1999).

G e n iş , A ra ş tırm a T a b a n lı K o n s ü lta s y o n B ilin ç le n d irm e s e m in e r p ro g ra m la rı K a tılım c ıla rın k o n u m la n d ırılm a s ı - a d a y lık s ü re c i Y ö n e tim G ru b u n u n b e lirle n m e s i v e a ta n m a s ı S e k tö rle rin T a n ım la n m a s ı M a s a b a ş ı A ra ş tırm a v e S e n a ry o G e liş tirm e d e n e ld e e d ile n b ilg i g ird ile ri

İlk k o n s ü lta s y o n a ra ş tırm a s ı D a h a g e n iş k o n s ü lta s y o n iç in

b a ş lık la rın tü re tilm e s i D e lp h i a ra ş tırm a s ı a ra c ılığ ı ile k o n s ü lta s y o n W o rk s h o p la r v e d ire k t k o n s ü lta s y o n la r R a p o rla r, Y a y m a , U y g u la m a ,Y ü rü tm e D a r k a p s a m lı K o n s ü lta s y o n U zm a n G ru b u n u n b e lirle n m e s i v e a ta n m a s ı S e k tö rle rin T a n ım la n m a s ı M a s a b a ş ı A ra ş tırm a v e S e n a ry o G e liş tirm e d e n e ld e e d ile n b ilg i g ird ile ri

R a p o rla r, Y a y m a , U y g u la m a ,Y ü rü tm e

Konsültasyonun nasıl uygulanacağına yönelik iki olasılık kümesi Şekil 2.7’de gösterilmiştir. Burada, konsültasyonun iki karşıt modunda hangi önemli organizasyonel adımların gerektiği ve bunların temel avantaj ve dezavantajları özetlenmiştir. Burada ilgi odağı Delphi’dir. 3. adımdaki soruların veya tartışma başlıklarının belirlenmesi aşamasında, geniş olasılık alanları kapsanmalı ancak bunlarla ilgili ifadelerin kısa, net olmasına, muğlak olmamasına dikkat edilmelidir. Bir öngörü / delphi programının konsültasyon kapsamı bir tercih meselesidir. Yapılan seçim, programın yönetimi ve organizasyonu üzerinde çok etkilidir. Yukarıdaki şekilde iki seçenek sunulmaktadır; ancak her delphi araştırmasının mutlaka bu iki tipe bağlı olması gerekmez (Loveridge, 1999).

Delphi araştırmasının konsültasyona temel olacak şekilde kullanılma nedenleri ve Delphi süreci ile atanmış bir “uzmanlık” komitesi çalışması arasındaki güçlü karşıtlık Tablo 2.2’de belirtilmiştir. Ancak bu karşıtlık, Delphi araştırmaları yürütülürken bazı konferans/çalıştaylar yapıldığından, uygulamada bazen farkedilmeyebilir. Ayrıca Delphi, fiziksel katılım gerektirmediği için ucuz bir metottur. Maliyeti genellikle adam/saat ve bilgi toplama araçlarından (internet, posta vb) oluşur, ancak bu tur sayısına göre değişebilir. (Gordon, 1999).

Tablo 2.2 Geniş ve Dar Kapsamlı Konsültasyonun Etkisi (Loveridge, 1999) Geniş Konsültasyon Avantajları Geniş Konsültasyon Dezavantajları Dar Konsültasyon Avantajları Dar Konsültasyon Dezavantajları

Çok sayıda uzmana ulaşır Tamamlanabilmesi için araştırma maliyeti ve zamanı gerekir.

Çabuk ve kolay tamamlanabilir.

Görüşler Özel ilgileri olabilen küçük bir grupla sınırlıdır Şeffaf bir prosedürdür Yazılı talimatlar iyi

anlaşılamayabilir. Göreceli olarak daha ucuzdur. Prosedürler şeffaf değildir Fikirlerin açık ifade edilme

özgürlüğü sağlar, tehdit edici bir ortam yoktur

Katılımcıların zamanını

alır Baskın kişilerin görüşlerini temsil edebilir.

Gizlilik ve anonimliği güvence altına alır

Delphi sürecinde dikkat edilmesi gereken hususlar aşağıda özetlenmiştir:

- Sponsorluk: sponsorun ve katılımcıların/ilgililerin açık ve kamuoyuna açık tanımlanması önemlidir.

- Araştırmanın yönetimi: Araştırmadan kimin sorumlu olacağı, araştırmanın nasıl ve kim tarafından yapılacağının net olarak ortaya konması önemlidir. Burada kaynakların uygunluğu sağlanmalıdır. Bir Delphi araştırmasının her 150 katılımcı için 2 ila 10 kişilik bir yönetim takımına ihtiyaç duyulmaktadır. Yönetim takımının eğitimi

kendi başına bir aşamadır ve yok sayılmamalıdır. Takımdaki bazı kişiler Delphi süreçleri ile ilgili bilgi sahibi olmayabilirler.

- Delphi sürecinin doğası ile ilgili netlik sağlanmalıdır

- Komitelerin atanması: kapsamlı bir içerik konusudur. Benzer geçmişlere, ilgi alanlarına ve görüşlere sahip kişilerin biraraya getirilmesinden kaçınılmalıdır.

- Araştırmanın odak noktası: Programın konusunun teknoloji veya Pazar odaklı olması belirleyicidir. Bu konu sponsorlarla birlikte kararlaştırılmalıdır.

- Araştırmanın amacı: Amacın çalışmanın ana temasını tanıtmak veya benimsetmek mi yoksa uzman görüşleri arasında bir uzlaşma aramak mı olduğu, araştırmanın sonuçlarının fayda sağlayacak şekilde senaryo planlama süreci ve firmanın diğer süreçlerine nasıl entegre edileceği tanımlanmalıdır.

- Planlama, çizelgeleme: Sponsorun ve etkilenecek ilgililerin ihtiyaçlarının, bu süreçten neler beklenebileceği ve nasıl yürütüleceğinin, araştırma adımlarının net olarak tanımlanması gereklidir. Çizelgeler gerçekçi olmalıdır. Hiç bir şey, bir araştırmanın güvenilirliğine ve saygınlığına fazla iyimser bir zaman planından daha çok zarar veremez.

- Sonuçların raporlanması: Raporların biçimi sponsorun ve ilgililerin ihtiyaçlarına bağlıdır. Raporlama ve raporlama hedefleri araştırma şartnamesine dahil edilmelidir. - Yayma ve uygulama: Bunlar araştırma başladığı zaman net olarak belirlenmelidir. Bunlar konferansları, seminerleri, eğitimleri ve workshopları içerir.

- Uluslararası işbirliği olanakları: Bunlar, zorlukları ve ilave çaba gerektirecekleri gözönünde bulundurulmakla beraber yok sayılmamalıdır.

- Araştırmanın ölçeği: Bu da yine dikkatli bir tartışma ve görüş birliği gerektirir.

- Geçmiş bilgilerin temin edilebilirliği: Bilim, teknoloji, ekonomi ve bir çok diğer faktör hakkında geçmiş bilgilerin temin edilebilmesi faydalar sağlayacaktır.

- Katılım esasları: Katılımda, cinsiyet, yaş, işveren tipi, organizasyon büyüklüğü ve meslek açısından dengeli bir kütle kullanılması öngörülmelidir. Bu bir hedeftir ancak bu fırsat eşitliği ilkesiyle eşdeğer bir kural olarak algılanmamalıdır. Bu koşulların sağlanamaması durumunda, bunun nedenlerini anlamaya çalışmak daha yararlıdır. - Katılımcı veritabanının kurulmasında doğruluğun sağlanması: Bu çok önemli bir görevdir. Eğer katılımcı veritabanı iyi yönetilmemişse, araştırma zarar görecektir. - İletişim prosedürleri: Bu da aynı şekilde katılımcı veritabanının uygun şekilde bakımı ile sağlanabilecektir (UNIDO, 2001).

- Soru listelerinin tasarımı ve kullanımı: Bu listelere dahil edilecek değişkenlerin açık ve net olarak kararlaştırılmasını ve listelerin kullanımı kolay şekilde tasarımını içerir. - Uzman değerlendirmelerinfr bireysel/ortak görüşlerin önemi ve rolü doğru anlaşılmalıdır (Loveridge, 1999).