值的舍入方式
当浮点数数据类型的模拟量标签分配到以下连接时,浮点数数值将在发送到连接之前四舍五入为整数值:
- 写连接。
- 将用于触发状态、报警、参考消息或本地消息的读连接。
将浮点数值四舍五入为整数值时:
- 如果小数点后的数字小于等于 4,则将值向下舍入。例如,8.495 将舍入为 8。
- 如果小数点后的数字大于等于 6,则将值向上舍入。例如,8.6 将舍入为 9。
- 如果小数点后的值是 5,则值用“银行家算法”进行四舍五入,以得出一段时间内四舍五入的平均值:
- 如果小数点前的数字是 0,则将值向下舍入。例如,10.5 将舍入为 10。
- 如果小数点前的数字是奇数,则将值向上舍入。例如,11.5 将舍入为 12。
- 如果小数点前的数字是偶数,则将值向下舍入。例如,12.5 将舍入为 12。
- 浮点值最多可舍入为 6 位数。因此,如果使用浮点数数据类型并向其添加一个超过 6 位有效数字的值,会生成舍入误差。例如,向 999,999 添加任意数字都会生成舍入误差。小贴士:浮点值(数字输入对象的默认值)将舍入为 6 位数。因此,如果使用浮点数数据类型并向其添加一个超过 6 位有效数字的值,会导致精度降低。
提供反馈