Modul I. Metode Regresi Kuadrat Terkecil Linier

Perumusan Umum Metode Kuadrat Terkecil Linier

Formulasi Matrik untuk Metode Kuadrat Terkecil Linier

Model umum kuadrat terkecil adalah

y=a0 z0+a1 z1+a2 z2+…+am zm+e

dimana z0 , z1 ,…, zm adalah fungsi-fungsi yang saling berbeda. Terminologi linier diperoleh

dari kebergantungan model pada paramater model, yaitu pada ai.

Dalam bentuk matriks persamaan tersebut dapat dituliskan dalam bentuk

{Y }= [Z ] {A }+ {E }

dengan Z adalah matriks nilai dari fungsi yang dihitung untuk setiap variabel bebas, yang

dapat ditulis sebagai :

{Z }=[ z01 z11z02 z02

⋯ zm1⋯ zm2

⋮ ⋮z0n z1n

⋯ ⋮⋯ zmn

]m adalah jumlah parameter model dan n adalah jumlah data. Karena sering ditemui n ≥

m+1,matriks [Z] juga ditemukan tidak selalu berupa matriks bujur sangkar. Vektor kolom [Y]

berisi nilai dari hasil observasi, yaitu :

{Y }T= [ y1 y2 … yn ]Vektor kolom [A] merupakan koefisien parameter model

{ A }T= [a0 a1 … am ]dan vektor kolom [E] berisi selisih

{E }T= [e1 e2 … en ]Selisih kuadrat dari model ini dapat dituliskan sebagai :

Sr=∑i=1

n

( y i−∑j=0

m

a j z ji)2

Kuantitas ini diminimumkan dengan mengambil turunan parsial terhadap setiap parameter

model dan membuat turunan parsial tersebut sama dengan nol. Hasil dari proses tersebut

adalah :

[ [ Z ]T [ Z ] ] {A }={[ Z ]T {Y }}

Pencarian solusi matriks {A} dapat dilakukan dengan metode dekomposisi LU, eliminasi

Gauss, Eliminasi Gauss-Jordan, Gauss-Seidel maupun metode iteratif Jacobi.

Modul II. Metode Regresi Non Linier

Dalam beberapa kasus di pemodelan sains, terdapat beberapa permasalahan untuk

melakukan pencocokan kurva dengan model yang bersifat non linier, seperti model cuaca,

persamaan pemodelan kedepan Sef Potential, peluruhan radioaktif dan lain-lain.

Seperti halnya kuadrat terkecil, regresi non linier didasarkan pada penentuan nilai parameter

model yang meminimumkan jumlah dari kuadrat kesalahan. Namun, tidak seperti halnya

pada kasus linier, pada kasus non linier solusi diperoleh melalui proses yang dilakukan

secara iteratif.

Pada kasus non linier, secara umum hubungan antara data dengan persamaan non linier

yang dianggap dapat menghampiri data adalah :

y i=f (x i ;a0 , a1 ,…,am)+ei

dengan yi adalah data hasil pengukuran, f(xi) adalah fungsi dari variabel bebas dan fungsi

non linier dari parameter model a0, a1, ..., am dan ei adalah kesalahan acak.

Metode Gauss Newton

Pada metode ini, fungsi nonlinier diekspansikan dalam deret Taylor. Bentuk hampiran

tersebut berbentuk fungsi linier.

f (x i ) j+1=f (x i ) j+∂ f (x i ) j∂a0

∆a0+∂ f (x i ) j∂a1

∆a1

dengan j adalah tebakan awal, j+1 adalah prediksi, a0 = a0,j+1 - a0,j dan a1 = a1,j+1 - a1,j

Dari proses ini terlihat hubungan yang linier antara model asal terhadap parameter

modelnya. Persamaan hampiran kemudian disubstitusikan ke persamaan model

menjadi:

y i−f (x i) j=∂ f (x i ) j∂a0

∆a0+∂ f (xi ) j∂a1

∆a1+e i

atau dalam bentuk matriks :

{D }= [Z j ] {∆ A }+ {E }

dengan [Zj] adalah matrik turunan parsial fungsi non linier terhadap setiap parameter

model, atau biasa juga disebut sebagai matriks Jacobi.

[Z j ]= [∂ f 1∂a0

∂ f 1∂a1

∂ f 2∂a0

∂ f 2∂a1

⋮∂ f n∂a0

⋮∂ f n∂a1

]dengan n adalah jumlah data dan

∂ f n∂ak

adalah turunan parsial fungsi terhadap

parameter model ke k yang kemudian dievaluasi pada data ke i. Vektor {D} berisi selisih

antara data dengan nilai fungsi

{D }=[y1−f (x1)y2−f (x2)y3−f (x3)

⋮yn−f (xn)

]dan vektor {A} adalah vektor yang berisi perubahan nilai parameter model.

{∆ A }=[∆a0∆a1∆a2⋮∆am

]dengan menggunakan teorema kuadrat terkecil diperoleh

[ [Z j ]T [Z j ] ] {∆ A }={[Z j ]T {D }}solusi setiap langkahnya dapat diperoleh dengan menggunakan teknik penyelesaian

SPL pada umumnya. Hasil dari proses ini adalah lebar langkah dari perubahan

parameter model, yang kemudian dapat digunakan untuk melakukan perbaikan

hampiran parameter model yang diperoleh pada iterasi sebelumnya.

Modul III. Interpolasi

Estimasi nilai tengah dari suatu rentang nilai eksak sering dijumpai dalam permasalahan

sains. Metode yang sering digunakan untuk mengatasi hal ini adalah metode interpolasi

polinomial. Secara umum polinomial yang digunakan adalah dalam bentuk seperti di bawah

ini :

f(x)= a0 + a1x + a2x2 + a3x3 + ... + anxn

Untuk data sejumlah n+1, terdapat hanya sebuah polinomial berderajat n yang melewati

seluruh titik data. Sebagai contoh adalah sebuah garis lurus (polinomial orde 1) yang

menghubungkan dua titik dan sebuah parabola yang menghubungkan tiga buah titik.

Algoritma Interpolasi Newton Beda TerbagiMasukan : x,y (m,n ukuran x)Keluaran : f(xu)Langkah :

untuk i=1:n

R(i ,1)=f (x ( i ))

untuk j=2:n

untuk i=1:(n+1-j)

R(i , j)=R (i+1 , j−1 )−R (i , j−1)

x ( j+i−1 )−x (i)

untuk i=2:n

b_kw(i)=1;

untuk j=1:(i-1)

b_kw(i) = b_kw(i)*(x_u-x(j))

suku(i)=R(1,i)*b_kw(i)

f(xu) = R(1,1)

untuk i=2:n

f(xu) = f(xu) + suku(i)