该类数据原本的有效数字应有 6 位。
归一化后,有效数字下降到 2 位。
计算机的浮点数表示使用二进制而非十进制,因此使用十进制位数表示的有效数字不受影响。
减法操作在两个数字量级相似时可能导致有效数字位数降低。
这道题你会答吗?花几分钟告诉大家答案吧!
扫描二维码,关注牛客网
下载牛客APP,随时随地刷题