次の(1)~(5)は、計測の結果、得られた測定値を用いた計算である。これらのうち、有効数字と単位の取り扱い方がともに正しいものを一つ選べ。
回答を選ぶ
選択肢を押すと、すぐに結果が表示されます。
-
(1)
\( 0.51 \, \mathrm{V} + 2.2 \, \mathrm{V} = 2.71 \, \mathrm{V} \)
-
(2)
\( 0.670 \, \mathrm{V} \div 1.2 \, \mathrm{A} = 0.558 \, \Omega \)
-
(3)
\( 1.4 \, \mathrm{A} \times 3.9 \, \mathrm{ms} = 5.5 \times 10^{-6} \, \mathrm{C} \)
-
(4)
\( 0.12 \, \mathrm{A} - 10 \, \mathrm{mA} = 0.11 \, \mathrm{m} \)
-
(5)
\( 0.5 \times 2.4 \, \mathrm{F} \times 0.5 \, \mathrm{V} \times 0.5 \, \mathrm{V} = 0.3 \, \mathrm{J} \)
要点
正解は(5)。各選択肢の検討: 1. \( 0.51 \)(小数第2位) + \( 2.2 \)(小数第1位) 計算結果は小数第1位に合わせる必要があります。\( 0.51 + 2.2 = 2.71 \to 2.7 \, \mathrm{V} \)。
詳細解説
正解は(5)です。
有効数字では、加減算は末位の桁が高い方に合わせ、乗除算は有効数字の少ない方に合わせます。
選択肢2では \(0.670 / 1.2 = 0.5583\) となり、有効数字2桁にすると 0.56 です。
選択肢5では \(W = \frac{1}{2} C V^2 = 0.5 \times 2.4 \times 0.5 \times 0.5 = 0.3\) となり、単位も J で整合します。
したがって、正しいのは(5)です。
以上より、選択肢(5)が正解です。