值的计算方式

当操作员按下
Enter
键时,发送到值连接的值取决于小数点的类型以及是否分配了可选表达式。
如果小数点设置为
固定位置
,则在将该值发送到值连接前小数点会被除去。例如,如果显示的值是 9.25,发送到值连接的值则为 925。
小数点
未分配可选表达式
已分配可选表达式
隐式
显示的值与最小和最大范围相比*。
如果值连接是一个整型连接,则会对浮点值进行四舍五入。
显示的值与最小和最大范围相比。如果满足,替换表达式中的 ?。结果写入值连接。
如果值连接是一个整型连接,则会对浮点值进行四舍五入。
固定位置,
小数点后的位数 = 0
显示的值与最小和最大范围相比*。
显示的值与最小和最大范围相比*。如果满足,替换表达式中的 ?。结果写入值连接。
固定位置,
小数点后的位数 > 0
固定位置输出 = 去除小数点
将小数点从显示的值中去除。结果值与最小和最大范围相比*。
将小数点从显示的值中去除。结果值与最小和最大范围相比*。结果替换表达式中的 ?。将表达式结果写入值连接。
固定位置,
小数点后的位数 > 0
固定位置输出 = 显示的值
显示的值与最小和最大范围相比*。
显示的值与最小和最大范围相比*。如果满足,替换表达式中的 ?。结果写入值连接。
*最小和最大范围在“数字输入启用”按钮的
数字
选项卡中指定。如果值在范围内,则发送到值连接。
小贴士:
浮点值(数字输入对象的默认值)将舍入为 6 位数。因此,如果使用浮点数数据类型并向其添加一个超过 6 位有效数字的值,会导致精度降低。
提供反馈
对本文档有问题或反馈吗? 请在这里提交您的反馈
Normal