금융 계산에서 부동소수점 대신 Decimal을 써야 하는 이유
금융 계산에서 부동소수점이 왜 위험한지 설명하고 Decimal을 사용해야 하는 이유를 정리한 글입니다.
부동소수점 자료형(Float, Double)은 근사치로 계산하기 때문에 금융 계산에 적합하지 않다. 금융 계산에는 Decimal을 쓴다.
부동소수점 오차의 원인: IEEE 754
대부분의 프로그래밍 언어는 부동소수점 표현에 IEEE 754 표준을 따른다. 64비트 double precision은 부호(1비트), 지수(11비트), 가수(52비트)로 구성된다.
32비트 single precision은 64비트에 비해 표현 가능한 비트수가 절반이므로 정밀도가 상대적으로 떨어진다.
예를 들어 0.1을 double precision 부동소수점으로 표현하면 다음과 같다.
- 부호: 0 (양수)
- 지수: 01111111011 (2진법) (-4 + 1023 bias = 1019)
- 가수: 1001100110011001100110011001100110011001100110011010 (2진법)
따라서 0.1은 64비트 double precision 부동소수점으로 다음과 같이 표현된다.
1
0 01111111011 1001100110011001100110011001100110011001100110011010
문제는 0.1을 2진법으로 정확하게 표현할 수 없다는 점이다. 2진법으로는 1/10을 무한 소수로 표현해야 하므로, 컴퓨터는 이를 유한한 자릿수로 근사하여 저장한다. 이 과정에서 오차가 생기고, 금융 계산에서는 이 오차가 잘못된 결과로 이어진다.
1
2
val num = 0.1 + 0.2
println(num) // 0.30000000000000004
결과는 0.3이 아니라 0.30000000000000004다.
Decimal
Java의 BigDecimal은 스케일 없는 정수값(BigInteger)과 스케일(소수점 이하 자릿수)을 저장한다. 10진수를 정수와 소수점 위치로 표현하기 때문에 0.1, 0.2 같은 숫자를 정확하게 표현하고 연산할 수 있다.
단점은 IEEE 754 부동소수점보다 연산 성능이 낮다는 것이다. 정확성이 필요한 계산인지, 성능이 더 중요한 계산인지에 따라 고른다.
1
2
3
4
5
6
import java.math.BigDecimal
val num1 = BigDecimal("0.1")
val num2 = BigDecimal("0.2")
val result = num1 + num2
println(result) // 0.3
위 예제는 Kotlin 코드다.
정리
Float,Double은 0.1 같은 10진 소수를 정확히 표현하지 못한다.- 금융 계산에는
BigDecimal같은 Decimal 타입을 쓴다. - Decimal은 부동소수점보다 느리다.