Board logo

标题: [求助]大数字的运算 [打印本页]

作者: qdloverr     时间: 2007-11-22 17:57    标题: [求助]大数字的运算
set /a AA=1048576/3798863872
并不能算出 3798863872除以1048576的值
这个错在哪

作者: knoppix7     时间: 2007-11-22 18:26
CMD对数字大小有限制.

作者: scriptor     时间: 2007-11-22 18:57
Originally posted by qdloverr at 2007-11-22 17:57:
set /a AA=1048576/3798863872
并不能算出 3798863872除以1048576的值
这个错在哪


最大是 2^31-1=2147483647

作者: scriptor     时间: 2007-11-22 18:58
Originally posted by scriptor at 2007-11-22 18:57:


最大是 2^31-1=2147483647


数字的精确度长度是32位的

作者: bjsh     时间: 2007-11-22 22:29
http://www.cn-dos.net/forum/viewthread.php?tid=29097&fpage=3&highlight=&page=2

这个帖子的26楼是最终代码

被除数可以是任意位数; 被除数还是限制在10的九次; 保留的小数位数可以指定任意位;
至于 被除数 要突破 10 的 9次的限制 有兴趣的可以尝试去写一下