Pada teorinya hal ini berkaitan dengan dua hukum dibawah ini :
- Hukum Amdahl : Peningkatan kecepatan secara paralel akan menjadi linear, melipatgandakan kemampuan proses sebuah komputer dan mengurangi separuh dari waktu proses yang diperlukan untuk menyelesaikan masalah.
- Hukum Gustafon : Sebuah komputasi paralel berjalan dengan menggunakan dua atau lebih mesin untuk mempercepat penyelesaian masalah dengan memperhatikan faktor eksternal, seperti kemampuan mesin dan kecepatan proses tiap-tiap mesin yang digunakan.
Gambar ini menunjukkan sebuah komputasi paralel dimana terdapat sebuah masalah yang dibagi menjadi beberapa bagian agar masalah tersebut dapat segera diatasi. Hal ini juga merupakan tujuan dari komputasi paralel itu sendiri yakni membagi masalah untuk waktu penyelesaian yang lebih singkat.
Model Komputasi Paralel :
- Embarasingly Parallel merupakan pemrograman paralel yang digunakan pada masalah-masalah yang bisa diparalelkan tanpa membutuhkan komunikasi satu sama lain. Dalam arti kata, pemrograman ini bisa disebut sebagai pemrograman paralel yang ideal, karena tanpa biaya komunikasi dan lebih cepat.
- Taksonomi dari model pemrosesan paralel dibuat berdasarkan alur instruksi dan alur data yang digunakan;
- SISD (Single Instruction Single Datapath) merupakan prosesor tunggal yang bukan paralel.
- SIMD (Single Instruction Multiple Datapath) alur instruksi yang sama dijalankan terhadap banyak alur data yang berbeda. Alur instruksi disini adalah program komputer. Datapath bermaksud inputannya.
- MIMD (Multiple Insctuction Multiple Datapath) Banyak alur datanya, tapi masing-masing bisa berinteraksi.
- MISD (Multiple Instruction Single Datapath) Banyak alur instruksi namun tetap beroperasi pada data yang sama.
Sumber :
http://andri102.wordpress.com/game/soft-skill/konsep-komputasi-parallel-processing/
http://nanxkurniawan.wordpress.com/2010/05/25/komputasi-paralel/