자연계열 조성민 교수님
교수님 안녕하세요.
강의를 듣다가 질문이 생겨 문의 드립니다.
유효숫자 곱셈 나눗셈에서 정밀도가 낮은 수의 유효숫자 수가 중요한데요
이때 정밀도가 낮은 수에서 의미하는 정밀도가 소수점 아래로 더 많이 내려가는 정밀함을 의미하는게 아닌가요?
예를 들면
80.745와 0.4867이 있을 때
80.745/0.4867를 계산해서 나온 수의 유효 숫자를 소수점 아래 셋째자리까지 있는 80.475의 유효 숫자 수는 5개로 맞추는게 아닌가요?
줌달 연습문제에서 0.4867의 4개에 맞춰서 계산하는 이유가 궁금합니다
또 나눗셈이 아닌 더하기를 하면 덜 정밀한 80.745의 셋째자리에 맞추는게 맞는거죠?
※ 답변 완료된 질문과 답변은 수정 및 삭제가 불가합니다.
안녕하세요, 유니스터디입니다.
교수님 답변 전달드립니다.
이니요. 정밀도가 낮다는 것은 더 세밀한 자리수가 아닌, 더 큰 자리수에서 차이가 발생한다는 얘기에요.
즉 80.745/0.4867를 계산해서 나온 수의 유효 숫자는 유효숫자 5개인 80.745가 아니라,
유효숫자 4개인 0.4867을 기준으로 하여 답안도 역시 4자리로 표현되어야 합니다.
즉, 곱셈과 나눗셈은 두 숫자 중 유효숫자의 자리수가 더 작은 수의 유효숫자와 자리수가 같습니다.
42*3 = 126 으로 계산되지만 답으로는 100 으로 쓰셔야 합니다.
감사합니다.