set /a AA=1048576/3798863872
并不能算出 3798863872除以1048576的值
这个错在哪
并不能算出 3798863872除以1048576的值
这个错在哪
中国DOS联盟
联盟域名：www.cn-dos.net 论坛域名：www.cn-dos.net/forum
DOS，代表着自由开放与发展，我们努力起来，学习FreeDOS和Linux的自由开放与GNU精神，共同创造和发展美好的自由与GNU GPL世界吧！
中国DOS联盟论坛 » DOS批处理 & 脚本技术（批处理室） » [求助]大数字的运算
查看 766 回复 4
楼 主
[求助]大数字的运算
发表于 2007-11-22 17:57 · 中国 湖北 武汉 电信
第 2 楼
发表于 2007-11-22 18:26 · 中国 北京 联通
CMD对数字大小有限制.
第 3 楼
发表于 2007-11-22 18:57 · 中国 北京 中国科学院研究生院玉泉四公寓
Originally posted by qdloverr at 2007-11-22 17:57:
set /a AA=1048576/3798863872
并不能算出 3798863872除以1048576的值
这个错在哪
最大是 2^31-1=2147483647
第 4 楼
发表于 2007-11-22 18:58 · 中国 北京 中国科学院研究生院玉泉四公寓
Originally posted by scriptor at 2007-11-22 18:57:
最大是 2^31-1=2147483647
数字的精确度长度是32位的
第 5 楼
发表于 2007-11-22 22:29 · 中国 浙江 杭州 教育网
http://www.cn-dos.net/forum/viewthread.php?tid=29097&fpage=3&highlight=&page=2
这个帖子的26楼是最终代码
被除数可以是任意位数； 被除数还是限制在10的九次； 保留的小数位数可以指定任意位；
至于 被除数 要突破 10 的 9次的限制 有兴趣的可以尝试去写一下
这个帖子的26楼是最终代码
被除数可以是任意位数； 被除数还是限制在10的九次； 保留的小数位数可以指定任意位；
至于 被除数 要突破 10 的 9次的限制 有兴趣的可以尝试去写一下
论坛跳转: