值的计算方式
当操作员按下
Enter
键时,发送到值连接的值取决于小数点的类型以及是否分配了可选表达式。如果小数点设置为
固定位置
,则在将该值发送到值连接前小数点会被除去。例如,如果显示的值是 9.25,发送到值连接的值则为 925。小数点 | 未分配可选表达式 | 已分配可选表达式 |
|---|---|---|
隐式 | 显示的值与最小和最大范围相比*。 如果值连接是一个整型连接,则会对浮点值进行四舍五入。 | 显示的值与最小和最大范围相比。如果满足,替换表达式中的 ?。结果写入值连接。 如果值连接是一个整型连接,则会对浮点值进行四舍五入。 |
固定位置, 小数点后的位数 = 0 | 显示的值与最小和最大范围相比*。 | 显示的值与最小和最大范围相比*。如果满足,替换表达式中的 ?。结果写入值连接。 |
固定位置, 小数点后的位数 > 0 固定位置输出 = 去除小数点 | 将小数点从显示的值中去除。结果值与最小和最大范围相比*。 | 将小数点从显示的值中去除。结果值与最小和最大范围相比*。结果替换表达式中的 ?。将表达式结果写入值连接。 |
固定位置, 小数点后的位数 > 0 固定位置输出 = 显示的值 | 显示的值与最小和最大范围相比*。 | 显示的值与最小和最大范围相比*。如果满足,替换表达式中的 ?。结果写入值连接。 |
*最小和最大范围在“数字输入启用”按钮的
数字
选项卡中指定。如果值在范围内,则发送到值连接。
小贴士:
浮点值(数字输入对象的默认值)将舍入为 6 位数。因此,如果使用浮点数数据类型并向其添加一个超过 6 位有效数字的值,会导致精度降低。
提供反馈