Skip to main content

[PostGreSQL] Problems with Double Precision

Dulu aku pernah ngalamin masalah dengan tipe data real, karena tingkat akurasinya yang terbatas. Akibatnya, semua nilai desimal, umumnya untuk menyimpan data nilai uang, aku ubah semua menjadi tipe double precision (float8).

Saat aku ngoprek program akuntansi, ternyata tipe data double precision tersebut membawa masalah. Masalah adalah dalam penyimpananannya, data yang disimpan tidak disimpan secara exact, melainkan menggunakan pendekatan.

Jadi misal data 234.53 disimpan menjadi 234.529999999998
Saat ditampilkan, baik melalui aplikasi yang kubuat, lewat pgAdminIII atau phpPgAdmin, semuanya lancar, tetap tampil 234.53. Data ini muncul saat kita meng-dump database untuk backup.

Namun masalahnya bukan saat backup. Karena tidak bersifat exact dan cara penyimpanan yang "aneh" tersebut, akibatnya sering terjadi kekacauan saat melakukan operasi numerik sederhana (penjumlahan, summary) atau pembandingan.

Kadang operasi sederhana seperti SUM(xxx) dimana xxx bertipe double, hasilnya tidak utuh dan ketika dibandingkan hasilnya salah. Misal ada data:
23.54
-20.04
-3.5

Jika di SUM(data) = 0, hasilnya akan false, karena SUM(data) tidak menghasilkan 0 melainkan 0.0000000008

Solusinya adalah dengan mengganti semua data bertipe double precision menjadi tipe data numeric.

NB: akibat error tersebut, beberapa hari harus panas kuping gara-gara diomelin customer :(
Labels:

Comments

Post a Comment

Popular posts from this blog

PostGreSQL :: Hitung Umur

Ternyata untuk menghitung umur dari data yang disimpan di PostGreSQL sangat gampang. PostGreSQL sendiri sudah menyediakan fungsi yang mendukung. Beberapa fungsi yang bisa dipakai adalah AGE dan EXTRACT. AGE dipakai untuk menghitung umur dari sebuah data, dibandingkan dengan hari ini, atau dengan data lain (tipenya timestamp). Misal: age(timestamp '1980-09-27'), akan menghasilkan nilai (bertipe interval) "24 years 1 mon 25 days". Nah, kalau mau mengambil nilai tahunnya saja, tinggal menggunakan EXTRACT Contoh: EXTRACT(year FROM AGE(timestamp '2001-09-27')), hasilnya akan jadi 24.
Post a Comment
Read more

PHP :: Selisih Jam

Setelah kemarin kesulitan untuk melakukan increment ataupun decrement terhadap variabel waktu (date/time) di PHP, kali ini nemuin masalah untuk mencari selisih waktu (dari satu jam ke jam tertentu), yang perlu untuk ngitung lembur karyawan. Tadinya kepikiran untuk buat fungsi sendiri, yang flow -nya kira-kira begini: - masing-masing dipisah menjadi jam, menit, detik - bandingkan antara keduanya. - lakukan pengurangan terhadap masing-masing komponen (jam, menit dan detik) - gabungkan hasil perhitungan ... (selisih jam + selisih menit + selisih detik) Tapi waktu aku ingat kasus Next Date, ... muncul ide untuk menggunakan cara yang sama, yaitu memanfaatkan format UNIX timestamp, terus nyoba mencari selisihnya. TERNYATA BERHASIL !!! Flownya seperti ini: - masing-masing dipisah menjadi jam, menit,detik - ubah masing-masing ke format timestamp, gunakan fungsi mktime() - kurangkan kedua jam - hasilnya dibagi 60 (karena satuannya pakai menit), sementara selisih timestamp itu dalam detik Algori...
11 comments
Read more

Delphi :: Split String

Akhirnya ketemu juga cara untuk melakukan split string. (Terbiasa pakai PHP sih, yang sangat memanjakan dalam pengelolaan string.) Di sini memanfaatkan TStringList, unit Classes. // procedure untuk split string procedure Split (const Delimiter: Char; // delimiter charachter Input: string; // input string const Strings: TStrings) ; // list of string result begin Assert(Assigned(Strings)) ; Strings.Clear; Strings.Delimiter := Delimiter; Strings.DelimitedText := Input; end; // contoh pemakaian procedure TForm1.Button1Click(Sender: TObject) ; var A: TStringList; begin A := TStringList.Create; try Split(' ', 'your delphi guide', A) ; ShowMessage(a[0]) ; //your ShowMessage(a[1]) ; //delphi ShowMessage(a[2]) ; //guide finally A.Free; end; end; Source : http://delphi.about.com/cs/adptips2002/a/bltip1102_5.htm Wheew .. akhirnya. One step ahead!!
2 comments
Read more