标题: [求助]大数字的运算
[打印本页]
作者: qdloverr
时间: 2007-11-22 17:57
标题: [求助]大数字的运算
set /a AA=1048576/3798863872
并不能算出 3798863872除以1048576的值
这个错在哪
作者: knoppix7
时间: 2007-11-22 18:26
CMD对数字大小有限制.
作者: scriptor
时间: 2007-11-22 18:57
Originally posted by qdloverr at 2007-11-22 17:57:
set /a AA=1048576/3798863872
并不能算出 3798863872除以1048576的值
这个错在哪
最大是 2^31-1=2147483647
作者: scriptor
时间: 2007-11-22 18:58
Originally posted by scriptor at 2007-11-22 18:57:
最大是 2^31-1=2147483647
数字的精确度长度是32位的
作者: bjsh
时间: 2007-11-22 22:29