Pipelined Computations

Dalam teknik pipeline, problem dibagi menjadi deretan yang harus dilaksanakan satu setelah lainnya. Setiap tugas nantinya akan dieksekusi oleh proses atau prosesor yang berbeda

Gambar 1 Proses pipeline

Gambar.2 Pipeline untuk penjumlahan

Contoh LainFilter frekuensi - Menghilangkan frekuensi tertentu ( katakan f0, f1, f2, f3, dst) signal, f(t). Signal dapat dilewati pipeline dari kiri

Gambar 3. Pipeline untuk filter frekuensiPipeline dapat meningkatkan kecepatan untuk problem yang

sekuensial, dalam tiga tipe komputasi:1. Jika lebih dari satu instance dari problem yang akan dieksekusi2. Jika ada deretan item data yang harus diproses, masing-masing membutuhkan operasi ganda3. Jika informasi untuk memulai proses berikutnya dpt diberikan

sebelum proses selesai melaksanakan operasi internalnya

Diagram Ruang-Waktu Pipeline “Tipe 1”

Gambar 4. Diagram ruang waktu pipeline

Gambar 5 Diagram Ruang-Waktu Alternatif

Diagram Ruang-Waktu Pipeline “Tipe 2”

Gambar 6 Pemrosesan pipeline 10 elemen data

Diagram Ruang-Waktu Pipeline “Tipe 3”

Gambar 7 Pemrosesan pipeline, informasi di-pass sebelum proses selesai

Jika jumlah tahap lebih besar dari jumlah prosesor dalam pipeline, kelompok tahap dapat diassign untuk tiap prosesor

Gambar 8 Partitioning processes onto processors.

Platform Komputisai untuk Aplikasi Pipeline

gambar 9 Sistem multiprosesor dengan konfigurasi

Contoh Program Penjumlahan Angka

Gambar 10 Penjumlahan Pipeline

Kode dasar untuk proses Pi :

recv(&accumulation, P i-1 );accumulation = accumulation + number;send(&accumulation, P i+1 );

Kecuali untuk proses pertama, P0 , yaitu

send(&number, P 1 );

Dan proses terakhir , Pn-1 , yaitu

recv(&number, P n-2 );accumulation = accumulation + number;

Program SPMD

if (process > 0) {recv(&accumulation, P i-1 );accumulation = accumulation + number;

}if (process < n-1) send(&accumulation, P i+1 );

Hasil akhir ada di proses terakhir.

Selain penjumlahan, operasi aritmatika lainnya dapat dilakukan juga

Gambar 11 Penjumlahan angka pipeline dengan proses master dan konfigurasi cincin.

Gambar 12 Penjumlahan angka pipeline denganakses langsung ke proses slave.

Analisa

Analisa

Contoh pertama adalah Tipe 1. Dengan asumsi bahwa tiap proses melakukan aksi serupa dalam tiap siklus pipeline. Kemudian akan dilakukan komputasi dan komunikasi yang dibutuhkan dalam siklus pipeline

Waktu total eksekusi

t total = (waktu untuk satu siklus pipeline)(jumlah siklus)

t total = (t comp + t comm )(m + p 1)

Dimana ada m instances problem dan p tahap pipeline (proses)

Waktu rata-rata untuk komputasi diberikan oleh:

t a = t total /m

Instance Tunggal Problem

t comp = 1

t comm = 2(t startup + t data )

t total = (2(t startup + t data ) + 1)n

Kompleksitas waktu = O(n).

Instances Ganda Problem

t total = (2(t startup + t data ) + 1)(m + n 1)

t a = t total /m 2(t startup + t data ) + 1

Yaitu, satu siklus pipeline.

Mem-partisi Data dengan Instances Gande Problem

t comp = d

t comm = 2(t startup + t data )

t total = (2(t startup + t data ) + d)(m + n/d 1)

Dengan menaikkan d, partisi data, pengaruh komunikasi dihilangkan. Akan tetapi naiknya partisi data menurunkan paralelisme dan terkadang menaikkan waktu eksekusi

Mengurutkan Angka

Versi paralel dari insertion sort. (A parallel version of insertion sort. (versi sekuensialnya adalah menempatka kartu yang dimainkan berurut dgn memindahkan kartu untuk menyisipkannya dalam posisi-nya)

Gambar 13 Langkah dalam insertion sort dengan lima angka

Algortima dasar untuk proses Pi adalah

recv(&number, P i-1 );if (number > x) {

send(&x, P i+1 );x = number;

} else send(&number, P i+1 );

Dengan n angka, berapa banyak proses ke yang akan diterima diketahui, diberikan oleh n i. Berapa banyak yang di pass kedepan juga diketahui; diberikan oleh n i 1 karena satu dari jumlah yang diterima tidak di pass kedepan. Maka loop sederhana dapat digunakan.

Gambar 14 Pipeline untuk sorting menggunakan insertion sort.

Gambar 15 Insertion sort dengan hasil kembali ke proses master m,enggunakan konfigurasi baris dua arah

Dengan mengembalikan hasilnya, proses i dapat ditulis dalam bentuk

right_procno = n - i - 1; /*no of processes to the right */recv(&x, P i-1 );for (j = 0; j < right_procno; j++) {

recv(&number, P i-1 );if (number > x) {

send(&x, P i+1 );x = number;

} else send(&number, P i+1 );}send(&number, P i-1 ); /* send number held */for (j = 0; j < right_procno; j++) {/*pass on other nos */

recv(&x, P i+1 );send(&x, P i-1 );

}

Analisa

Sekuensial

Jelas merupakan algoritma sorting yang buruk dan tidak cocok kecuali untuk jumlah n yang sangat kecil

ts = (n - 1) + (n - 2) + … + 2 + 1 = n (n + 1) / 2

Paralel

Setiap siklus pipeline membutuhkan paling tidak

t comp = 1

t comm = 2(t startup + t data )

Waktu eksekusi total, t total , diberikan oleh

t total = (t comp + t comm )(2n 1) = (1 + 2(t startup + t data ))(2n 1)

Gambar 16 Insertion sort dengan hasil dikembalikan

Pembangkit Bilangan Prima

Deretan integer dibangkitkan dari 2. Bilangan pertama, 2, adalah prima dan disimpan. Seluruh kelipatan bilangan ini dihilangkan karena bukan merupakan bilangan prima. Proses dilakukan secara berulang untuk bilangan berikutnya. Algoritma membuang nonprima, dan menginggalkan hanya bilangan prima

Kode Sekuensial

Umumnya menggunakan array dengan nilai awal 1 (TRUE) dan diset 0 (FALSE) jika indeks elemen bukan bilangan prima.Dengan menyatakan angka terakhir adalah n maka dapat ditulis:

for (i = 2; i < n; i++)prime[i] = 1; /* Initialize array */

for (i = 2; i <= sqrt_n; i++)/* for each number */if (prime[i] == 1) /* identified as prime */

for (j = i + i; j < n; j = j + i)/*strike multiples */prime[j] = 0; /* includes already done */

Loop sederhana mengakses array untuk mencari bilangan prima

Kode SekuensialWaktu Sekuensial

Dengan asumsi komputasi pada tiap iterasi sam dengan satu langkah komputasional. Kompleksitas waktu sekuensial adalah O(n2 ).

Jumlah iterasi sangat tergantung dari bilangan prima tersebut. Ada [n/2-1] kelipatan dua, [n/3-1] kelipatan tiga, dan seterusnya.

Sehingga total waktu sekuensial yang dibutuhkan:

Implementasi Pipeline

Gambar 5.17 Pipeline untuk bilangan prima

Kode untuk proses, Pi , berdasarkan atas

recv(&x, P i-1 );/* repeat following for each number */recv(&number, P i-1 );if ((number % x) != 0) send(&number, P i+1 );

Setiap proses tidak akan menerima jumlah angka yang sama dan tidak diketahui sebelumnya. Menggunakan message “terminator, yang dikirim pada akhir urutan.

recv(&x, P i-1 );for (i = 0; i < n; i++) {

recv(&number, P i-1 );if (number == terminator) break;if (number % x) != 0) send(&number, P i+1 );

}

Menyelesaikan Sistem Persamaan Linier — Kasus Khusus

Dimana a dan b adalah konstanta dan x adalah yang akan dicari

Contoh tipe 3 – proses dapat melanjutkan pekerjaan lain setelah mem-passing informasi

Untuk menyelesaikan persamaan linier dalam bentuk upper triangular:

Subtitusi Balik

Pertama, x0 dapat dilihat dari persamaan terakhir

Nilai untuk x0 disubtitusi ke persamaan berikutnya untuk mendapatkan x1

Nilai x0 dan x1 disubtitusi ke persamaan berikutnya untuk mendapatkan x2:

Begitu seterusnya sampai seluruhnya diketahui

Solusi Pipeline

Gambar 5.18 Menyelesaikan set persamaan linier upper triangular menggunakan pipeline.

Pipeline tahap pertama menghitung x0 dan di pass ke tahap kedua, yang menghitung x1 dari x0 dan mem-pass kedua x0 dan x1 ke tahap berikutnya, untuk menghitung x2 from x0 and x1 , dan seterusnya

Proses ke i (0 i < n) menerima nilai x0 , x1 , x2 , …, x I-1 dan menghitung xi dari persamaan :

Kode Sekuensial

Konstanta a i,j dan b k disimpan dalam array a[] dan b[], dan nilai untuk yang dicari disimpan dalam array, x[], kode sekuensialnya:

x[0] = b[0]/a[0][0]; /* x[0] computed separately */

for (i = 1; i < n; i++) { /* for remaining unknowns */

sum = 0;for (j = 0; j < i; j++

sum = sum + a[i][j]*x[j];x[i] = (b[i] - sum)/a[i][i];

}

Kode Paralel

Pseudocode proses P i (1 < i n) dari satu versi pipeline adalah:

for (j = 0; j < i; j++) {recv(&x[j], P i-1 );send(&x[j], P i+1 );

}sum = 0;for (j = 0; j < i; j++)

sum = sum + a[i][j]*x[j];x[i] = (b[i] - sum)/a[i][i];send(&x[i], P i+1 );

Ada komputasi tambahan yang dilakukan setelah menerima dan mengirim ulang nilai.

Gambar 5.19 Pe,mrosesan Pipeline menggunakan Subtitusi Balik.

Analisa

Tidak dapat diasumsikan usaha komputasional tiap tahap sama

Proses pertama, P0 , melakukan satu pembagian dan satu send().

Proses ke i (0 i < n 1) melakukan i recv()s, i send()s, i perkalian/penjumlahan, satu pembagian/pengurangan,dan akhirnya send(), total 2i + 1 waktu komunikasi dan 2i + 2 langkah komputasional diasumsikan bahwa, perkalian, penjumlahan, pembagian dan pengurangan tiap satu langkah.

Proses terakhir, Pn-1 , melakukan n 1 recv()s, n 1 perkalian/penjumlahan dan satu pembagian/pengurangan, total n 1 waktu komunikasi dan 2n 1 langkah komputasional