고정소수점 Q 포맷 변환기

Qm.f에서 m이 정수부 비트, f가 소수부 비트입니다. Q15처럼 하나만 적으면 정수부가 없다는 뜻이라 Q0.15와 같습니다. 실수를 담을 때는 raw = round(값 × 2^f)로 정수를 만들고, 읽을 때는 raw / 2^f로 되돌립니다. 소수점 위치를 약속으로만 정해 두고 실제로는 정수 연산만 하는 방식입니다.

−1.0으로 뒤집힙니다. 부호 있는 Qm.f의 범위는 −2^m 이상 2^m − 2^(−f) 이하라 위쪽 끝이 한 칸 모자라기 때문입니다. Q15의 최대는 0.999969482421875이고, 1.0의 raw인 32768은 16비트 2의 보수에서 −32768이 되어 값이 −1.0이 됩니다. 오차가 커지는 것이 아니라 부호가 반대인 최대값이 되는 것이라, 제어 루프에서는 출력이 반대 방향으로 튑니다.

담을 수 있는 가장 작은 간격으로 2^(−f)입니다. Q15면 2⁻¹⁵ = 0.0000305이고, 그 절반보다 작은 값은 반올림하면 0이 되어 아무 경고 없이 사라집니다. 적분기처럼 작은 값을 계속 더하는 구조에서 이것이 쌓이면 값이 영원히 올라가지 않는 버그가 됩니다. 저장 오차는 항상 분해능의 절반을 넘지 않습니다.

시프트를 빼먹었기 때문일 가능성이 큽니다. Qm.f 둘을 곱한 raw는 소수부가 2f비트인 값이 되므로, 다시 원래 포맷으로 쓰려면 f비트 오른쪽으로 밀어야 합니다. Q15끼리 곱했는데 안 밀면 결과가 32768배로 나옵니다. 중간 결과도 두 배 폭이 필요해서, Q15 곱셈은 32비트에 받아야 하고 16비트에 그대로 받으면 거기서 또 감깁니다.

감김은 넘친 값이 반대쪽 끝으로 돌아가는 것이고, 포화는 끝값에 붙여 두는 것입니다. 하드웨어가 기본으로 하는 동작은 감김이라 1.0이 −1.0이 되지만, 포화 연산을 쓰면 0.99997에 머뭅니다. 값이 크게 틀리는 것은 마찬가지여도 방향이 유지되므로 실무 DSP 코드는 포화 명령을 씁니다. 이 계산기는 두 결과를 함께 보여 줍니다.

이 계산기에서는 포함하지 않고 따로 셉니다. 자료에 따라 m에 부호를 넣기도 해서 같은 Q7.8이 16비트로도 17비트로도 읽힐 수 있습니다. 여기서는 부호 있는 Q7.8의 전체 폭을 7+8+1 = 16비트로 봅니다. 쓰시는 라이브러리 문서의 표기 규칙을 한 번 확인하고 맞춰 주세요.

전체 64비트라 자바스크립트가 raw 정수를 정확히 만들 수 없기 때문입니다. 자바스크립트 수는 2⁵³까지만 정수를 정확히 담으므로, 그보다 넓은 포맷을 계산하면 낮은 자리가 조용히 어긋난 값이 나옵니다. 틀린 답을 내느니 막는 편이 낫다고 보아 정수부와 소수부의 합을 52비트까지만 받습니다.