수치 미분 비교(차분·복소단계·이중수) 계산기

전진차분은 (f(x+h) − f(x))/h로 한쪽만 보고, 중심차분은 (f(x+h) − f(x−h))/(2h)로 양쪽을 봅니다. 테일러 전개에서 중심차분은 h의 홀수 차 항이 서로 지워져 오차가 O(h²)가 되므로, 같은 h에서 전진차분보다 훨씬 정확합니다. 대신 함수를 한 번 더 계산해야 합니다.

반대로 나빠집니다. 오차가 두 가지로 갈리기 때문입니다. 테일러 전개에서 버린 절단오차는 h에 비례해 줄지만, 거의 같은 두 값을 빼면서 앞자리가 날아가는 상쇄오차는 h에 반비례해 커집니다. 둘을 더하면 U자 곡선이 되고, 그 바닥보다 h를 작게 하면 도리어 나빠집니다. h를 10⁻¹⁰⁰으로 하면 x + h가 x와 구별되지 않아 답이 아예 0이 됩니다.

전진차분은 √ε ≈ 1.5×10⁻⁸, 중심차분은 ε^(1/3) ≈ 6×10⁻⁶ 근처입니다(ε는 배정밀도의 기계입실론 2.2×10⁻¹⁶). 이 계산기는 h를 훑어 실제로 어디가 바닥인지 재서 이론값과 나란히 보여 줍니다. 5점 공식은 바닥이 평평해 함수마다 크게 흩어지므로 이론값 하나로 말하기 어렵습니다.

최적 h를 골라도 전진차분은 여덟 자리, 중심차분은 열한 자리쯤에서 멈춥니다. 이것이 차분 방식의 한계이며, 도함수를 여러 번 겹쳐 쓰거나(2차 미분) 최적화에 넣으면 이 오차가 그대로 따라 들어옵니다.

실수 방향이 아니라 허수 방향으로 한 걸음 가는 방법입니다. f(x + ih) = f(x) + ih·f′(x) − h²f″(x)/2 − ⋯이므로 허수부를 h로 나누면 f′(x)가 나옵니다. 실수부와 허수부가 따로 놀아 뺄셈이 아예 생기지 않으므로 상쇄오차가 없고, h를 10⁻¹⁰⁰으로 해도 배정밀도 한계까지 정확합니다. 다만 f가 해석적이어야 하고 구현 안에 절댓값이나 조건분기가 있으면 쓸 수 없습니다.

ε² = 0인 새 수 ε를 도입해 x 대신 x + ε를 넣는 방법입니다. 곱셈·나눗셈·초등함수마다 미분 규칙을 한 줄씩 심어 두면 f(a + ε) = f(a) + f′(a)ε가 되어 값과 도함수가 동시에 나옵니다. h라는 것 자체가 없으므로 근사가 아니라 정확하며, 딥러닝 프레임워크가 쓰는 자동미분의 전방향 판이 바로 이것입니다.

다릅니다. 기호미분은 도함수의 «식»을 만들어 내므로 식이 폭발적으로 길어질 수 있지만, 자동미분은 식을 만들지 않고 값만 함께 굴립니다. 그래서 계산량이 원래 함수의 몇 배 안쪽으로 묶이며, 변수가 수백만 개인 신경망에서도 쓸 수 있습니다.

정확도를 견주려면 참값이 있어야 하는데, 임의의 식에는 «손으로 적은 도함수»가 없기 때문입니다. 이 계산기의 목적은 도함수를 구하는 것이 아니라 방법들의 정확도를 견주는 것이므로, 도함수를 사람이 적어 둔 함수만 담았습니다.

전송되지 않습니다. 계산은 모두 브라우저 안에서 이루어지며 입력한 값은 이 기기에만 남습니다.