Komputasi Paralel

Pengertian Komputasi Paralel

Komputasi Paralel merupakan salah satu Teknik untuk melakukan komputasi secara bersamaan dengan memanfaatkan beberapa komputer independen secara bersamaan. Teknik ini umumnya dipergunakan saat kapasitas yang diperlukan sangat lah besar, baik dengan mengolah data dalam jumlah besar (di industri keuangan, bioinformatika, dll) ataupun juga disebabkan oleh tuntutan proses komputasi yang banyak.

Di dalam Komputasi Paralel ada yang disebut dengan pemrograman parallel. Pemrograman paralel merupakan suatu teknik pemrograman komputer yang memungkinkan dapat mengeksekusi perintah atau operasi secara bersamaan (komputasi paralel), baik dalam komputer dengan satu(prosesor tunggal) ataupun banyak (prosesor ganda dengan mesin paralel) CPU. Komputer-komputer yang terpisah dan terhubung dalam suatu jaringan komputer dengan cara menggunakannya secara bersamaan bisa di sebut dengan istilah sistem terdistribusi (distributed computing).

Dan juga yang perlu diingat ialah komputasi paralel berbeda dengan multitasking. Pengertian multitasking adalah sebuah komputer dengan processor tunggal dapat mengeksekusi beberapa tugas secara bersamaan. Dan juga ada beberapa orang yang tidak dapat menerima bahwa di dalam bidang system operasi sebuah komputer tunggal tidak bisa melakukan beberapa pekerjaan secara bersamaan dalam waktu sama, melainkan proses penjadwalan yang berjalan pada sistem operasi membuat sebuah komputer seperti mengerjakan tugas secara bersamaan dalam waktu yang sama. Sedangkan komputasi paralel sudah dijelaskan sebelumnya, bahwa komputasi paralel menggunakan beberapa processor atau komputer. Selain itu komputasi paralel tidak menggunakan arsitektur Von Neumann.

Tujuan Komputasi Paralel

Tujuan utama penggunaan komputasi paralel ialah untuk mempersingkat waktu eksekusi program yang menggunakan komputasi serial. Ada beberapa alasan lain yang menjadikan suatu program menggunakan komputasi paralel antara lain:

1. Untuk permasalahan yang besar, terkadang sumber daya komputasi yang ada sekarang belum cukup mampu untuk mendukung penyelesaian terhadap permasalahan tersebut
2. Adanya sumber daya non-lokal yang dapat digunakan melalui jaringan atau internet
3. Penghematan biaya pengadaan perangkat keras, dengan menggunakan beberapa mesin yang murah meriah sebagai suatu alternatif penggunaan satu mesin yang bagus tapi mahal, walaupun menggunakan n buah prosesor
4. Adanya suatu keterbatasan dalam kapasitas memori pada mesin untuk komputasi serial itu sendiri.

Hambatan Komputasi Paralel

Penggunaan komputasi paralel sebagai suatu solusi untuk mempersingkat waktu yang dibutuhkan untuk melakukan eksekusi program yang mempunyai beberapa hambatan. Hambatan-hambatan tersebut antara lain adalah:

1. Hukum Amdahl: percepatan waktu suatu eksekusi program dengan menggunakan komputasi paralel tidak akan pernah mencapai kesempurnaan karena selalu ada bagian program yang harus dieksekusi secara serial.
2. Hambatan yang diakibatkan karena beban jaringan: dalam suatu eksekusi program secara paralel, prosesor yang berada di mesin yang berbeda memerlukan pengiriman dan penerimaan data (atau instruksi) melalui suatu jaringan. Untuk program yang dibagi menjadi task-task yang sering membutuhkan sinkronisasi, network latency menjadi masalah utama. Permasalahan ini muncul dikarenakan suatu task membutuhkan data dari task yang lain, state ini dikirimkan melalui suatu jaringan dimana kecepatan transfer sebuah data kurang dari kecepatan prosesor yang mengeksekusi instruksi task itu sendiri. Hal ini menyebabkan task tersebut harus menunggu hingga data sampai terlebih dahulu, sebelum melakukan eksekusi instruksi selanjutnya. Jumlah waktu yang dibutuhkan untuk berkomunikasi melalui jaringan antar dua titik adalah jumlah dari startup time, per-hop time, dan per-word transfer time.
3. Hambatan yang terkait dengan beban waktu untuk inisiasi task, terminasi task, dan sinkronisasi.

Arsitektur Komputasi Paralel

Taksonomi Flynn membagi arsitektur komputer paralel dengan sudut pandang instruksi dan data, sehingga terdapat empat jenis arsitektur komputer paralel:

1. SISD (Single Instruction, Single Data): arsitektur ini ialah arsitektur yang mewakili komputer serial, di mana hanya ada satu prosesor dan satu aliran masukan data (memori) sehingga hanya ada satu task saja yang dapat dieksekusi pada suatu waktu. Jenis ini termasuk dalam katagori Arsitektur von Neumann.
2. SIMD (Single Instruction, Multiple Data): pada arsitektur ini, suatu eksekusi instruksi yang akan dilakukan secara bersamaan oleh beberapa prosesor, di mana suatu prosesor dapat menggunakan data yang berbeda dengan prosesor yang lain. Karakteristik lain dari arsitektur ini ialah alur eksekusi instruksinya yang deterministik (state dari instruksi dan data pada suatu waktu dapat dengan mudah diketahui). Arsitektur ini sangat cocok untuk program yang dibagi menjadi task-task dan mempunyai derajat keteraturan yang tinggi, contohnya adalah sistem pengolah grafik
3. MISD (Multiple Instruction, Single Data): pada arsitektur ini, berbagai instruksi akan dieksekusi secara bersamaan oleh beberapa prosesor dengan menggunakan data yang sama. Arsitektur ini tidak cukup populer dikarenakan hanya sedikit permasalahan yang membutuhkan solusi dengan menggunakan karakteristik arsitektur ini. Contoh adalah ada suatu permasalahan yang mungkin membutuhkan arsitektur ini antara lain adalah multiple frequency filter dan program pemecah sandi yang menggunakan beberapa algoritma kriptografi sekaligus
4. MIMD (Multiple Instruction, Multiple Data): pada arsitektur ini, berbagai instruksi dan dieksekusi oleh beberapa prosesor di mana masing-masing prosesor dapat menggunakan data yang berbeda-beda. Eksekusi instruksi pada arsitektur ini dapat dilakukan secara sinkron (pada suatu rentang waktu, jumlah instruksi yang dieksekusi oleh semua prosesor adalah sama) maupun asinkron, deterministik maupun non-deterministik. Dan juga arsitektur ini dapat melakukan pekerjaan sesuai dengan karakteristik dari ketiga asitektur sebelumnya.

Arsitektur Memori pada Komputasi Paralel

Pada umumnya, ada dua buah arsitektur memori pada komputer paralel, yaitu shared memory dan distributed memory

1. Shared memory: arsitektur ini menyediakan global addressing sehingga berbagai prosesor dapat mengakses memori yang seragam. Setiap perubahan pada suatu lokasi memori oleh suatu prosesor akan selalu terlihat oleh prosesor yang lain. Kelebihan dari arsitektur ini adalah pengaksesan memori yang user friendly dan performansi yang baik dalam penggunaan data bersama antar task. Sedangkan kekurangannya antara adalah kurangnya skalabilitas ketika terjadinya penambahan prosesor, dimana akan terjadinya peningkatan traffic antara prosesor ke shared memory dan antara cache coherent system dengan memori sebenarnya.

• Berdasarkan frekuensi akses, ada dua jenis shared memory: Uniform Memory Access (UMA): setiap prosesor memiliki hak untuk melakukan pengaksesan yang seragam dengan prosesor lain
• Non Uniform Memory Access (NUMA): tidak semua prosesor memiliki hak yang sama dalam melakukan pengaksesan memori

2. Distributed memory: arsitektur ini mempunyai karakteristik di mana setiap prosesor memiliki memorinya masing-masing, sehingga eksekusi instruksi dapat berjalan dengan cara independen antara satu prosesor dengan prosesor yang lainnya. Prosesor akan menggunakan suatu jaringan ketika ia membutuhkan suatu akses ke dalam memori non lokal. Dan akses ini sepenuhnya menjadi tanggung jawab penulis program itu sendiri. Kelebihan dari arsitektur ini ialah terjaganya skalabilitas ketika terjadi penambahan prosesor. Sedangkan kekurangannya ialah sang penulis program harus berurusan dengan detail komunikasi data antara prosesor dan memori non lokal.