Parallel Computation

Pengertian

Pada kesempatan kali ini saya akan menulis mengenai parallel computation atau komputasi parallel yang mana pada umumnya komputasi paralel adalah penggunaan simultan dari beberapa sumber penghitungan untuk memecahkan masalah komputasi, berikut adalah contoh dalam komputasi paralel :

Suatu informasi atau data agar dapat di operasikan menggunakan beberapa CPU, suatu masalah dipecah menjadi beberapa bagian terpisah yang dapat diselesaikan secara bersama. Setiap bagian kemudian dipecah menjadi serangkaian instruksi dan kemudian instruksi dari setiap bagian mengeksekusi secara bersamaan pada CPU yang berbeda.

Parallelism Concept

Umumnya, Paralelisme ternyata telah digunakan selam bertahun-tahun terutama dalam melakukan proses komputasi yang kinerjanya sangat tinggi, akan tetapi akhir – akhir ini mengikuti dengna perkembangan teknologi struktur di dalamnya telah berkembang akibat kendala fisik yang dapat mencegah penskalaan frekuensi. Disamping itu, konsep paralelisme juga merupakan suatu hal yang sering digunakan oleh computer dan juga menjadi perhatian dari berbagai hal akhir – akhir ini, maka komputasi paralel telah menjadi paradigma dominan dalam arsitektur komputer, terutama dalam bentuk prosesor multicore.

Distributed Processing

Definisi umum dari pemrosesan terdistribusi merupakan cara untuk mempercepat pengolahan data atau informasi dengan mendistribusikan pekerjaan atau intruksi ke banyak komputer yang telah dipilih untuk memberi kekuatan pemrosesan yang lebih cepat. Dalam prosesnya setiap komputer berinteraksi satu sama lain untuk mencapai tujuan bersama.

Architectural Parallel Computer

Karakteristik umum dari architectural parallel komputer adalah sebagai berikut:

- Pertama dalam hal pembagian memori pada komputer parallel yang sangat bervariasi, namun pada umumnya memiliki kesamaan kemampuan untuk semua prosesor dalam mengakses semua memori sebagai ruang alamat global.

- Kedua beberapa prosesor dapat beroperasi secara independen akan tetapi harus didukung oleh berbagai sumber daya memori yang sama.

- Ketiga yaitu karakteristik yang terletak pada perubahan lokasi memori yang dipengaruhi oleh satu prosesor yang terlihat oleh proses - prosesor lainnya.

- Untuk yang terakhir, karakteristiknya terlihat pada mesin memori bersama dapat dibagi menjadi dua kelas utama berdasarkan waktu akses memori: UMA dan NUMA.

Pengantar Thread Programming

Secara umum model pemrograman ini adalah jenis pemrograman memori yang digunakan secara bersamaan. Dalam Thread Programming Paralel, sebuah proses tunggal dapat memiliki beberapa jalur eksekusi yang konkuren. Menurut pandangan perspektif pemrograman, implementasi threads umumnya terdiri dari beberapa hal seperti berikut:

- Sebuah perpustakaan subrutin yang dipanggil dalam kode sumber paralel.

- Satu set perintah kompiler tertanam dalam kode sumber baik serial atau paralel.

Dalam kedua kasus, programmer bertanggung jawab untuk menentukan semua paralelisme pemrograman yang terjadi.

Implementasi thread bukanlah hal baru dalam teknik komputasi, Secara historis, perusahaan hardware menerapkan thread versi mereka sendiri. Implementasi tersebut berada secara substansial dari satu sama lain sehingga sulit bagi programmer untuk mengembangkan aplikasi yang thread portabel.

Pengantar Message Passing, OpenMP

Jenis model ini menunjukkan karakteristik sebagai berikut:

- Tugas pertukaran data melalui komunikasi dengan mengirim dan menerima pesan.

- Transfer data biasanya memerlukan kerjasama operasi yang akan dilakukan oleh masing-masing proses.

Pengantar Pemrograman CUDA GPU

Sebagaimana telah kita ketahui bahwa Cuda adalah platform komputasi paralel dan model pemrograman yang diciptakan oleh perusahaan perangkat keras dunia yaitu NVIDIA. hal ini memungkinkan peningkatan dramatis dalam kinerja komputasi dengan memanfaatkan kekuatan dari Graphics Processing Unit(GPU).