| newbiezhang 回复于:2003-07-13 08:54:55 |
| rpgle是这样的吗?
rpg是在第多少(不记得了)列,置标志H |
| AUGUSTLIN 回复于:2003-07-13 09:32:38 |
| %DECH();%INTH();%UNSH()后两个参数位长度及精度; |
| e_server 回复于:2003-07-13 17:20:33 |
| 相关的Extend 有很多,
P 先清空,后赋值 H 四舍五入 E 判断错误,与%error 合用 ...... 有兴趣的话可以查看RPGLE Reference。 用rpg编程会遇到精度的问题,只是对压缩十进制而言的。如果使用float型 就不会遇到精度的问题,所以还可以使用%float 保持精度。 |
| michael9406 回复于:2003-07-13 17:51:38 |
| [quote:0671b9def3="e_server"]相关的Extend 有很多,
P 先清空,后赋值 H 四舍五入 E 判断错误,与%error 合用 ...... 有兴趣的话可以查看RPGLE Reference。 用rpg编程会遇到精度的问题,只是对压缩十进制而?.........[/quote:0671b9def3] 极是极是。 |