조*민 교수님

건우 학생 유효숫자의 계산에 질문이 있는 거죠...

 

2×3.14× 0.27=1.6956 인데 유효숫자 계산을 하면 2는 정확한 값이여서 유효숫자에 포함이 안되고 3.14는 유효숫자 3개, 0.27은 유효숫자 2개니까 유효숫자가 제일 적은 2개로 맞춰 답이 1.7이 되는데

 

--> 문제에서 2가 완전수라는 조건이 있어야지만 2의 유효숫자 자리를 고려하지 않아요. 그런 조건이 없다면 답은 2로 쓰는 게 적절합니다.

 

 

20× 3.141× 0.271=17.0188이면 유효숫자 처리를 하면 20은 정확한 값이여서 유효숫자에 포함이 안되고 3.141은 유효숫자 4개, 0.271은 유효숫자 3개니까 유효숫자 3개에 맞춰 17.0이 답이 되는건가요?

 

--> 이 문제도 마찬가지로 20이 완전수라는 조건이 있어야 합니다. 만약에 역시 그 조건이 없다면 답은 20(유효숫자 1자리)이 되어야 합니다. 20이 완전수일 때는 건우 학생의 말이 맞아요. 

 

 

유효숫자의 곱셈을 할 때 20,100. 4, 57 처럼 딱 정수로 떨어지는 것들은 유효숫자 곱셈을 할 때 유효숫자 계산에 포함이 안되는 건가요?

 

--> 20은 유효숫자 1자리입니다. 20옆에 구두점을 써서 20. 으로 표기하면 유효숫자 2자리가 되지요. 

100은 유효숫자 1자리, 100. 은 유효숫자 3자리입니다.

 

ex. 100× 0.8988× 0.123333 =? -> 유효숫자가 몇개 인가요?

 

--> 유효숫자 1자리로 나타내야 합니다.

 

 

23.0 같은 거는 유효숫자 곱셈 계산을 할 때 유효숫자 3개로 보는건가요?

 

--> 네

 

 

ex. 23.0× 2.8999999× 0.123212=? -> 유효숫자 몇개 인가요?

 

--> 3자리로 표현해야 합니다.

 

• 2024-04-02
• 2024-12-12 수정