유효숫자 계산기

2개입니다. 앞에 붙은 0은 소수점 자리를 맞추기 위한 것일 뿐 측정한 값이 아니어서 유효숫자로 세지 않습니다. 2와 5만 셉니다. 같은 값을 2.5×10⁻³으로 쓰면 유효숫자가 2개라는 것이 분명해집니다.

알 수 없습니다. 소수점이 없는 정수의 뒤 0은 실제로 측정한 값인지 자리만 채운 것인지 표기만으로는 구분되지 않기 때문입니다. 관례상 2개로 보지만, 분명히 하려면 지수 표기(1.2×10³ 또는 1.200×10³)를 쓰거나 소수점을 찍어 1200.으로 적습니다.

곱셈·나눗셈은 상대적인 정밀도가, 덧셈·뺄셈은 절대적인 정밀도가 결과를 좌우하기 때문입니다. 곱셈은 유효숫자가 가장 적은 값에 맞추고, 덧셈은 소수점 아래 자리수가 가장 적은 값에 맞춥니다. 1000.0 + 1.11을 유효숫자 규칙으로 맞추면 1000이 되어버리지만, 실제 답은 1001.1입니다.

유효숫자 개수를 나타내기 위해서입니다. 2.0 × 3.0의 답을 6이라고 쓰면 유효숫자가 1개라는 뜻이 되지만, 실제로는 2개여야 하므로 6.0으로 씁니다. 뒤의 0을 지우면 정보가 사라집니다.

중간 계산에서는 반올림하지 않고 마지막에 한 번만 합니다. 단계마다 반올림하면 오차가 쌓입니다. 이 도구가 "그냥 계산한 값"을 함께 보여주는 것도 그래서입니다.