M. Ü. İktisadi ve İdari Bilimler Fakültesi Dergisi

Yıl:/999, Cilt: XV, Sayı:/ , Sayfa:/81-186

KLASİK DOGRUSAL REGRESYON MODELLERİ İLE

STANDARTLAŞTIRILMIŞ DOGRUSAL REGRESYON

MODELLERİNİN KARŞILAŞTIRILMASI

Ebru ÇAGLA YAN•

istatistikte ölçüm birimleri farklı olan değişkenler karşılaştırılmak

istendiğinde, standartlaştırma işlemine başvurulmaktadır. Standartlaştırma işlemi

farklı ölçüm birimlerindeki serilerin ortalama, varyans gibi ölçülerini ayn'ı standart

ölçüye dönüştürdüğünden, hem ·farklı serilerin karşılaştırılmasını sağlamakta, hem de

normal dağılım tablosunda olduğu gibi standart tabloların kullanılmasına olanak

vermektedir. Standartlaştırma işlemi serilerin tüm birimlerinden serinin aritmetik

ortalamasının çıkartılıp, standart sapmasına bölünmesi ile yapılmaktadır. Bu şekilde

standartlaştırılmış serilerin ortal~maları O ve varyansları 1 olmaktadır. Aslında bu

dönüşüm ile yapılan, ekseni sıfırdan aritmetik ortalamaya kaydırıp; ölçeklendirme

birimini de standart sapma büyüklüğünde değiştirmektir.

İstatistikte değişken çiftleri arasındaki ilişkiyi belirlemek için kovaryans,

korelasyon katsayısı veya regresyon modelleri . kullanılmaktadır. Bu analizler

standartlaştırılmış değişken çiftleri için de yapılabilir. Bilindiği gibi kovaryans

standart bir ölçU olmadığından , değişken çiftleri arasındaki ilişkinin yönü ile ilgili

bilgi vermektedir. Bu ölçü ilişkinin derecesini belirtmediği gibi farklı değişken

çiftleri arasindaki ilişkilerin karşılaştırılmasına da imkan vermemektedir. Oysa

standartlaştırılmış değişken çiftleri için kovaryansların karşılaştırılması mllmkiin

olmaktadır. Bu durumda standartlaştırılmış değişken çiftleri için kovaryans ile

korelasyon katsayıları aritmetik ortalamalar O ve standart sapmalar 1 olduğundan

birbirine eşittir. Bu çalışmanın amacı standart ve standart olmayan değişken grupları

için oluşturulacak regresyon modelleri arasındaki farkları ve benzerlikleri ortaya

koymaktır.

· KLASİK ve STANDARTLAŞTIRILMIŞ BASİT DOGRUSAL

REGRESYON MODELLERİ

X ve Y değişkenleri için basit doğrusal regresyon modelinin,

Y; = /30 + /3ıX; + E;I olduğunu varsayalım. Basit doğrusal regresyon modelinin parametre

tahminleri gerçek değerlerle;

• Araş . Gör., M.Ü. i.i.B.F. Ekonometri Bölümü.

181

/

Ebru Çağlayan

A L.XY-nXY 1 /3 1 = IX2 -nxı olarak tahmin edilir. X ve Y değişkenleri

X • - X; - X 1 y• - Y; - y 1 . - ve . -I s I s

x y

olarak standartlaştırılırsa model,

Y;• = /3~ + İ3~ X; • + E; 1 şeklini alır ve katsayılar yukarıda verilen formüllerde X ve Y yerine standaıt l aştırılmış X* ve Y* değerlerinin konulması ile tahmin edilir. Aradaki

i l işkiyi belirlemek için X* ve Y* değerlerini ~ 1 I ve~ 01 formüllerinde yerine koyarsak,

L.XY-nXY

~·- S XSy ı - uı -nxı

SxSx

_SX /3A - 1

Sr

olacaktır. Standartlaştırılm ı ş serilerin ortalaması sıfır olduğundan, ~o · ıparametresi sıfır o lacaktır. Standartlaştırma işlemi hata terimlerini de etki lemektedir. Basit regresyon modelinin hata terimleri;

e; = Y; -Y; = Y; - ~~ - ~ ı x,I dir. Hata terimleri standartlaştırıldığında, . . ". .... . · ı e, = Y; - f3 o - f3 ı X,

A A . s A

[3~ =O; f3 1 = Sx /3 ı; y

X • x - x y • y - y 1 = ve =---Sx Sy

olduğundan ,

e> (Y, - l') -f3, s.,. (X, - X) = ı; - l' -/3,x, - /3, X 1 sy sy sx sy

Y - ·~ ı X = ~ 01 olduğundan , e;· = Y; - ~o - ~;X; = .2._· ı

sy . sy o l acaktır. Standart l aştırılmış hata teriminden de yararlanarak parametre varyarıslarını hesaplamak istediğimizde anakütle hata terimleri varyansının tahmini ,

182

T C. ' nin 75. Kuruluş Yıldönümüne Armağan

sı = I.ei2 I e n-k

:~:ğ~n:::;t~d~~ş"j'lm>Ş •::tle h~•;:d,mleri varyansının tahmini,

e n - k n - k ~ (n - k)S)~ s; olacaktır. · ı

Basit doğrusal regresyonda {3 0 ive {3 1 lparametrelerinin varyansları .

sırasıyla;

8 2 - 8 2 [! + _xı J 1 s~ = s 2 1 1 A, - e n I.(Xi - X)2 fJı e I.(Xi - X)2

şeklinde hesaplanmaktadır. Standartlaştırılmış regresyon parametrelerinin

va<yans;•; - s"[_!._ + _x ·ı ] - s; [_!._+o] - s; 1 A: - e n I.(Xi• - x ·) - s; n - ns;

ve

s~. = s·ı 1 - · ı s} s; _ s.;

fJ, e I.(Xi• - X ) = s): · r.(xi - X) 2 - s;

olacaktır. Klasik doğrusal regresyon modeli ile standartlaştırılmış regresyon modelinin belirlilik katsayıları birbirine eşittir . Klasik regresyon modelinin belirlilik katsayısı ,

R ı = 1- r.e; 1 / I.(Y-Y) 2

ve standartlaştırılmış regresyon modeli için belirlilik katsayısı , I.eiı

R•2 = 1- I.e? = 1- s;, I.e2 1 I.(Y• - Y. )2 I.(Y -Y)2 = l - I.(Y -

1

Y) 2

s ı y

olacaktır. Doğrusal korelasyon katsayısı R2' nin kareköküne eşit olduğundan o da değişmeyecektir.

183

/

-

Ebru Çağlayan

rxy = cov(x,y) 1 sxsy

r. · = cov( x • , y •) 1 xy s· s·

x y . . 1 sx = sy = 1 · olduğundan

r_,y · = L(X - X)(Y - Y) = rxyl · nSxSy

o~acakt~~, Bililndiği gibi° basit doğrusal regresyonda

/31 = Sx r'J,

ilişkisi vardır. Aynı ilişki standartlaştırılmış basit doğrusal regresyon için de

geçerlidir ve

f3~ = r,~, = rxy 1 olacaktır.

· Standarlaştırma işleminden sonra sabit katsayı sıfır olduğundan bunun için

hesaplanacak t test istatistiği de sıfır olacaktır. iJ 1 I için hesaplanan t test istatistiği

ise A 1 için hesaplanan t t~st istatistiğine eşittir. s.r f31 ~

_s_.:._._, - = _/3_ı = tı s.r s. siı, s {3,

y

KLASİK ve STANDARTLAŞTIRILMIŞ REGRESYON MODELLERİ

ÇOKLU DOGRUSAL

Çoklu regresyon modelini genel olarak,

Y; = f3o + /3ıXı; + f3 2X2; + ....... ... +/3kXk; + E; 1 ifade edelim. Modelde yer alan ~ katsayıları nonnal denklemler veya

bunların matrislere dönüştürülmüş şekli ile tahmin edilebilir. Çoklu doğrusa l regresyon modelinin parametre tahminleri matrislerle,

f3 = cxxr1CX'Y)I

184

T C. 'nin 7 5. Kuruluş Yıl dönümüne Armağan

A - 1

/3 0 n LX, LX2 LXk IS

/3, LXı LX ı 1 LX

1X 2 LX,X k lX,Y

/3 2 LX2 LX2Xı LX2 2 I.X2Xk I.X2Y

A :rx; /3 k LXk LXkXI LXkXI LXkY şekli nde yapı l acaktır . Basit - doğrusa l regresyonda olduğu gibi çoklu

regresyonda da aynı sebeplerden do l ay ı sabit katsay ı s ı fır o l acakt ı r. Sabi t d ı ş ındaki

katsayılar /J ;I il e ifade edili rse,

A s A 1 {3 ; = ;'; /3; y

o l acaktır. Alynı şek ilde çoklu :e

01

aresyonda da S2

1 e;· = ;i s;ı .= ~; s4 = s~ s4 y y . ı ~

•ı 2 I . 1 . . 1 R = R t 0 =O t; = t; o lacaktır. Bu eş i t l i k l er basit regresyonda olduğu gibi matri slerle

gösterilebilirler. Formü l 'ç ı karımla rı daha uzun o l d uğu için bunlara burada yerverilıneın i ştir.

Seri ler standa ıt l aştırıldığında X ve Y değerl er i yerine X* konarak ve

x =X ;_ xı 1 1

olarak tanıml anarak,

Lx 2 - 1

Lx1x2 Lx1xk Lx ,y 1

b * ı s;, s.r , sxı s"., s"'ı s"., s.Ji

b * 2 lı2X2 Lx2 Lx2.xk Lx2Y 2

S, S, . s.;ı SXı SXı s"'ı sY · ı · ı

b *k Lxkx ı . ')

Lxky L.x-k

s.\'1s.,., s; s"'ı s.v

·2

" • - " . - · "* - . . " * - · ı f3 o = Y- /3 ı Xı -,- f3 2X 2- ........ ~{3kXk

ve Y* değer l e r i

,olarak tahmin edilecektir. Matrisin köşegen i nde yera lan değerle r ,

185

~/

Ebru Çağlayan

Lx2 I.x 2 1 - -'- = --'- = n s; r.xi2

. , --n

o~~;:ır

1. Matris köşegeni dışında kalan değerler genel olarak

SX; sx/ şekl inde ifade edilirse ve bu ifade n/n ile çarpılırsa,

n L.x;x1 1 -. · =nr . . s .s -', ·' ı n XI X /

o l acaktır. Görü l düğü gibi bu iki değişken için hesaplanacak korelasyon katsayılarının n katına eş i ttir. Buna göre matrisler,

~~ - 1

n nr,ıxı nr., ıxı- nr,ıY

~; nr,ı xı n nrxıxk nl~'ıY

~: nr.,kxl n nl~Yı)'

olarak elde edil ir. Matrisler n'e bölünürse;

~~ rx,xı

~; r XıX ı

1

~: r xkx ı

şek lini a lır. Matrisler sırası ile ~·, Rxx ve r,Y olarak tanımlanırsa,

/3~. -R - ı , 1 - xx 1xy olacaktır.

KAYNAKLAR 1. FOX Jolın.( 1997), Applicd Regressioıı Annlys is, Lincar Models. and Relatcd

Mctlıod s . Sagc Publ i s lıiıı g, Landon . 2. FREUND .lolııı E .. ( 1992), Matlıcmntica l Statistics, F i ftlı Editioıı . Prcntice-1 lali

lııtcrnalional, Iııc., Ncw .lerscy. 3. GÜR İ Ş Selah attin, BÜLBÜL Şahaıııet.( 1995). Olasılık , Yaylını

Matbaas ı.İ s taııbu 1. 4. KMCNT;\ .lan. ( I 97 1 ) , Elcmeııts of Ecoııometrics, McGraw-I !ili. 5. MYERS Rayınoııd 11..( 1990). Class ical aııd Modern Regrcss ioıı With

Applicatio ıı s , Secoııd Editioıı, PWS-KENT Publishiııg Company, Bostan.

6. WONNACOTT Ronald J. , WONNACOTT Thonıas H .. ( 1979),

Econonıttrics , Second Ecl i tioıı, Johıı Wi ley&Soııs , New York.

186