問題文
次の(1)~(5)は、計測の結果、得られた測定値を用いた計算である。これらのうち、有効数字と単位の取り扱い方がともに正しいものを一つ選べ。
選択肢
-
(1)
\( 0.51 \, \mathrm{V} + 2.2 \, \mathrm{V} = 2.71 \, \mathrm{V} \)
-
(2)
\( 0.670 \, \mathrm{V} \div 1.2 \, \mathrm{A} = 0.558 \, \Omega \)
-
(3)
\( 1.4 \, \mathrm{A} \times 3.9 \, \mathrm{ms} = 5.5 \times 10^{-6} \, \mathrm{C} \)
-
(4)
\( 0.12 \, \mathrm{A} - 10 \, \mathrm{mA} = 0.11 \, \mathrm{m} \)
-
(5)
\( 0.5 \times 2.4 \, \mathrm{F} \times 0.5 \, \mathrm{V} \times 0.5 \, \mathrm{V} = 0.3 \, \mathrm{J} \)
有効数字の計算ルール:
* **加減算:** 末位の桁が高い方に合わせる。
* **乗除算:** 有効数字の桁数が少ない方に合わせる。
各選択肢の検討:
1. \( 0.51 \)(小数第2位) + \( 2.2 \)(小数第1位)
計算結果は小数第1位に合わせる必要があります。
\( 0.51 + 2.2 = 2.71 \to 2.7 \, \mathrm{V} \)。誤り。
2. \( 0.670 \)(3桁) \( \div 1.2 \)(2桁)
結果は2桁にする必要があります。
\( 0.670 / 1.2 = 0.5583... \to 0.56 \, \Omega \)。誤り。
3. \( 1.4 \)(2桁) \( \times 3.9 \, \mathrm{ms} \)(2桁)
\( 1.4 \times 3.9 \times 10^{-3} = 5.46 \times 10^{-3} \)。
2桁に丸めると \( 5.5 \times 10^{-3} \, \mathrm{C} \)。
選択肢は \( 10^{-6} \) となっており、オーダーが違います。誤り。
4. \( 0.12 \, \mathrm{A} - 10 \, \mathrm{mA} \)
単位を合わせます。\( 0.12 \, \mathrm{A} - 0.010 \, \mathrm{A} \)。
\( 0.12 \)(小数第2位)、\( 0.010 \)(小数第3位? 計測値としての10mAがどの精度かによりますが、0.12Aに合わせて計算すると)
\( 0.12 - 0.01 = 0.11 \, \mathrm{A} \)。
しかし、選択肢の単位が \( \mathrm{m} \)(メートル)になっています。電流の差は電流です。誤り。
5. \( 0.5 \times 2.4 \, \mathrm{F} \times 0.5 \, \mathrm{V} \times 0.5 \, \mathrm{V} \)
エネルギー \( W = \frac{1}{2} C V^2 \) の計算です。
係数の0.5は完全数とみなします(有効数字の桁数に影響しない)。あるいは1桁とみなしても結果は同じ。
\( 2.4 \)(2桁)、\( 0.5 \)(1桁)、\( 0.5 \)(1桁)。
乗算なので、最も少ない桁数(1桁)に合わせるのが原則ですが、
「0.5V」が「0.50V」の意味でなく純粋に1桁なら結果は1桁。
計算:\( 0.5 \times 2.4 \times 0.25 = 0.3 \)。
単位は \( \mathrm{F} \cdot \mathrm{V}^2 = \mathrm{C} \cdot \mathrm{V} = \mathrm{J} \)。正しい。
数値 \( 0.3 \) は1桁。
有効数字1桁として正しい扱い。
(※もし0.5Vが1桁の測定値なら、結果も1桁の0.3Jで正しい)
よって(5)が最も適切です。