부동소수점 비트 분해기

0.1과 0.2를 이진수로 정확히 담을 수 없기 때문입니다. 십진수 0.1은 이진수로 0.0001100110011…처럼 무한히 반복되는데, 64비트 안에는 유한한 자리까지만 저장됩니다. 저장된 두 근사값을 더하면 그 오차가 겉으로 드러납니다. 10진수로 1/3을 0.3333…으로밖에 못 쓰는 것과 같은 이유입니다.

부동소수점은 과학적 표기법과 같은 구조입니다. 부호는 양수·음수를 나타내는 1비트, 지수는 소수점을 몇 칸 옮길지, 가수는 유효숫자에 해당합니다. 배정도는 부호 1비트, 지수 11비트, 가수 52비트로 나뉩니다. 지수는 음수도 표현해야 해서 바이어스(배정도 1023)를 더해 저장하며, 실제 지수는 저장된 값에서 이 바이어스를 뺀 값입니다.

가수 비트 수가 달라 표현할 수 있는 유효숫자가 다릅니다. 단정도(float, 32비트)는 십진수 약 7자리, 배정도(double, 64비트)는 약 16자리까지 믿을 수 있습니다. 자바스크립트의 숫자는 모두 배정도이며, 단정도는 C·Java의 float, GPU 셰이더, 일부 이진 파일 형식에서 씁니다.

정수로 다루세요. 원 단위 그대로 정수로 계산하거나, 센트처럼 최소 단위를 정해 정수로 저장한 뒤 표시할 때만 소수점을 찍습니다. 부동소수점으로 금액을 더하면 오차가 쌓여 합계가 1원씩 어긋날 수 있습니다. 정밀도가 중요하면 십진 소수를 다루는 라이브러리를 쓰는 방법도 있습니다.

있습니다. 2의 거듭제곱으로 나누어떨어지는 값은 정확합니다. 0.5, 0.25, 0.125는 물론이고 정수도 일정 범위까지는 정확합니다. 배정도는 2의 53제곱까지, 단정도는 2의 24제곱까지의 정수를 오차 없이 담습니다. 그래서 단정도에서는 16,777,217이 16,777,216으로 저장됩니다.

표현할 수 있는 가장 작은 정규수보다 더 작은 값을 담기 위한 형식입니다. 지수 비트가 전부 0일 때 쓰이며, 가수 앞의 암묵적인 1이 없어 정밀도를 희생하는 대신 0에 더 가까운 값을 표현합니다. 지수 비트가 전부 1이면 무한대(가수가 0)나 NaN(가수가 0이 아님)이 됩니다.