유효숫자 계산기

실전에서 쓰는 법

순서대로 쓰기

1. 측정 기록에 적힌 그대로, 끝자리 0과 소수점까지 포함해 숫자를 입력합니다.
2. 결과에서 어떤 자리가 유효숫자인지 표시된 것을 확인합니다.
3. 남길 유효숫자 개수를 고르고 반올림된 값을 복사합니다.

자주 하는 실수

• 애매한 끝자리 0. 1200은 유효숫자가 두 개일 수도, 세 개나 네 개일 수도 있습니다. 세 개라는 뜻이면 1.20×10³(또는 1.20k)으로 적으세요.
• 계산 중간에 반올림하기. 최종 결과까지 자리를 넉넉히 두고 마지막에 한 번만 반올림합니다. 단계마다 반올림하면 오차가 쌓입니다.
• 덧셈에 곱셈 규칙을 적용하기. 곱셈과 나눗셈은 유효숫자 개수가 가장 적은 값에 맞추고, 덧셈과 뺄셈은 소수 자릿수가 가장 적은 값에 맞춥니다.

몇 자리로 보고할까

계측기가 정합니다. 3½자리 멀티미터가 4.72 V를 보여 주면 유효숫자는 세 개이고, 정확도 사양 때문에 마지막 자리는 불확실할 수도 있습니다. 계산기에서 나온 4.71852 V를 그대로 적으면 측정하지 않은 정밀도를 주장하는 셈입니다. 전파 정류 식의 "2"나 측정 횟수 같은 정확한 수는 유효숫자를 제한하지 않습니다.

계산 예: 실험값으로 시정수 구하기

멀티미터로 R = 4.68 kΩ(유효숫자 세 자리)을 쟀고, 커패시터에는 0.10 µF(두 자리)라고 적혀 있습니다. 시정수는 τ = RC = 4.68 kΩ × 0.10 µF = 0.468 ms입니다. 커패시터 값이 두 자리이므로 결과는 τ = 0.47 ms로 적습니다.

다음 단계에서 차단 주파수를 구한다면 반올림하지 않은 0.468 ms를 그대로 씁니다. f_c = (1)/(2πRC) = 340.07 Hz이고, 보고할 때는 3.4 × 10² Hz입니다. 반올림한 0.47 ms로 계산하면 338.6 Hz가 나와, 남길 수 있는 마지막 자리가 이미 달라집니다. 식 안의 2와 π는 정확한 수라서 유효숫자를 제한하지 않습니다.

유효숫자와 측정기 불확도

유효숫자는 불확도를 간단히 나타내는 방법입니다. 멀티미터 정확도 사양처럼 실제 불확도를 알고 있다면 그것으로 자릿수를 정하세요. 불확도를 한 자리(1로 시작하면 두 자리)로 반올림하고, 측정값은 같은 소수 자리까지 반올림합니다. 4.62 kΩ, 불확도 67 Ω이면 4.62 ± 0.07 kΩ이고, 같은 데이터로 계산기가 낸 4.6823 kΩ도 4.68 ± 0.07 kΩ으로 적습니다.

단위 접두어를 바꿔도 유효숫자 개수는 그대로입니다. 0.0047 µF와 4.7 nF는 둘 다 두 자리입니다. 그래서 데이터 표에는 접두어를 쓰는 편이 좋습니다. 읽는 사람이 건너뛰어야 하는 앞자리 0이 사라지기 때문입니다.