number(6,2).txt 725 B

1234567891011121314151617181920212223242526272829303132333435
  1. 38代表总位数 3代表小数点后面位数
  2. number(p,s)
  3. p:1~38
  4. s:-84~127
  5. p>0,对s分2种情况:1. s>0
  6. 精确到小数点右边s位,并四舍五入。然后检验有效数位是否<=p;如果s>p,小数点右边至少有s-p个0填充。
  7. 2. s<0
  8. 精确到小数点左边s位,并四舍五入。然后检验有效数位是否<=p+|s|
  9. 123.2564 NUMBER 123.2564
  10. 1234.9876 NUMBER(6,2) 1234.99
  11. 12345.12345 NUMBER(6,2) Error
  12. 1234.9876 NUMBER(6) 1235
  13. 12345.345 NUMBER(5,-2) 12300
  14. 1234567 NUMBER(5,-2) 1234600
  15. 12345678 NUMBER(5,-2) Error
  16. 123456789 NUMBER(5,-4) 123460000
  17. 1234567890 NUMBER(5,-4) Error
  18. 12345.58 NUMBER(*, 1) 12345.6
  19. 0.1 NUMBER(4,5) Error
  20. 0.01234567 NUMBER(4,5) 0.01235
  21. 0.09999 NUMBER(4,5) 0.09999