KONSEP BUFFER OVERFLOW

Jika kita mengakses suatu situs web kemudian saat kita memberikan input yang tidak semestinya pada field browser ataupun pada field userId dan password, maka web yang memiliki vulnerability akan terjadi buffer overflow. Apakah yang dimaksud dengan buffer overflow? buffer adalah tempat penampungan, overflow artinya kelebihan muatan. Jadi buffer overflow adalah suatu kondisi dimana element-element yang ada tidak dapat lagi menempati tempat penampungan yang ada. 

Contohnya : char rumah[25]; // rumah yang dapat berisi 25 orang saja, char kamar[10]; // kamar yang dapat berisi 10 orang saja. Jika semua yang ada di rumah (25 orang) masuk ke dalam kamar (yang hanya dapat berisi 10 orang saja), kamar itu tidak akan dapat menampung 15 orang lainnya. Hal inilah yang dapat kita katakan buffer overflow, dimana kamar itu adalah buffer dan karena kapasitas kamar lebih kecil dari kapasitas yang akan masuk maka dapat dikatakan overflow. Dengan kata lain mengenai pemahaman buffer overflow sendiri adalah keadaan dimana buffer (variabel yang di gunakan suatu aplikasi untuk menyimpan datanya di memori) terisi dengan data yang ukurannya melebihi kapasitasnya sendiri dan akibatnya kelebihan data itu akan mengisi alamat memori lain yang bukan milik variabel tersebut atau dalam hal ini disebut dengan overwrite.

Menurut NeoTekno Buffer overflow adalah salah satu metode yang digunakan oleh hacker untuk mengeksploitasi sebuah sistem komputer yang memiliki kelemahan pada salah satu aplikasi yang digunakan oleh sistem tersebut. Eksploitasi ini dikenal dengan input validation attack yang dapat mengakibatkan suatu sistem crash (buffer overflow) yaitu variabel yang tersedia pada aplikasi tidak dapat menampung input yang sengaja dibuat berlebihan. Teknik ini banyak digunakan pada man in the middle attack maupun untuk mendapatkan shell console. Sebuah aplikasi dapat di-buffer-overflow karena memang aplikasi tersebut tidak memiliki kontrol data yang baik dan biasanya ini tidak disadari oleh si pembuat program tersebut. Lalu bagaimana seorang hacker dapat memperoleh hak akses terhadap sistem hanya dengan memanfaatkan kelemahan dari suatu aplikasi yang ada di sistem komputer target? Tentu hal ini berkaitan erat dengan otoritas (baca: akses) yang di miliki oleh aplikasi tersebut. 

Agar dapat memahami dan melihat secara nyata dampak dan akibat dari buffer overflow ini, di bab selanjutnya akan dibahas implementasi metode buffer overflow ini dalam bahasa C/C++ yang hingga saat ini masih menjadi bahasa yang paling banyak digunakan dalam pembuatan aplikasi untuk Linux dan Unix. Kemudian untuk sistem operasinya menggunakan Linux RedHat 7.2 Enigma.