자연계열 조성민 교수님
6.22mi*1760yd/1mi*1m/1.094를 하면 계산기로 해봤을 때 10,006.58135283364가 나오던데 강의에서는 10007로 반올림을 하신 것 같더라고요. 그렇게 해도 되는 이유가 뭔가요?
같은 질문인거같은데 예제 8번도 35mi/gal*10km/6.22mi*1gal/4L를 하면 계산기로 14.06752411575563가 나오던데 반올림을 하신 것같더라고요. 그렇게 반올림을 하신 이유가 뭔가요?
※ 답변 완료된 질문과 답변은 수정 및 삭제가 불가합니다.
먼저 답변이 늦어져서 대단히 죄송합니다. 접속에 장애가 있어서, 바로 답을 못 드렸네요.
유효숫자의 계산에서 나온 문제죠?
위의 계산은 모두 곱하기와 나누기로 되어 있으므로 유효숫자의 최소 자리수가 중요합니다.
즉 6.22 마일의 유효숫자는 3자리라, 답도 10.0 km 와 같이 유효숫자의 자리수가 3개로 표현합니다.
두번째 질문의 답도 35가 두자리이므로 답도 2자리로 표현하는 게 좋습니다.
유효숫자의 계산편을 참고하시면 좋을 듯 하네요. 감사합니다.