빠른 역제곱근 계산기

32비트 float x의 비트 패턴을 그대로 정수로 재해석한 뒤, 매직 넘버 0x5f3759df에서 그 정수를 절반(오른쪽으로 1비트 시프트)만큼 뺍니다. 그 결과를 다시 float로 재해석하면 이미 1/√x에 상당히 가까운 값이 나오고, 여기에 뉴턴-랩슨법 한 번을 더해 오차를 줄입니다.

IEEE754 float의 비트 패턴을 정수로 보면 그 값이 대략 log₂(x)에 비례합니다. 1/√x의 로그는 x의 로그의 -1/2배이므로, "정수로 재해석한 값을 절반으로 나눠 어떤 상수에서 뺀다"는 정수 연산이 로그 공간에서 x^(-1/2)를 구하는 것과 비슷한 효과를 냅니다. 매직 넘버는 이 근사에서 생기는 오차를 경험적으로 보정한 값입니다.

매직 넘버 계산 직후에는 실제 1/√x와 상대오차가 약 3~4% 납니다. 여기에 뉴턴-랩슨 보정을 한 번 더하면 상대오차가 0.2% 미만으로 20배 가까이 줄어듭니다 — 퀘이크 III는 이 한 번의 보정만으로 실시간 3D 그래픽스에 충분한 정확도를 얻었습니다.

ieee754-float는 숫자의 IEEE754 비트 구조 자체를 보여주는 도구입니다. 이 도구는 그 비트 구조를 이용하는 알고리즘 자체(매직 넘버 뺄셈, 뉴턴 보정)를 실행해서 실제 1/√x와 비교해 근사 오차를 보여주는 것이 목적입니다.