中国DOS联盟论坛

中国DOS联盟

-- 联合DOS 推动DOS 发展DOS --

联盟域名:www.cn-dos.net  论坛域名:www.cn-dos.net/forum
DOS,代表着自由开放与发展,我们努力起来,学习FreeDOS和Linux的自由开放与GNU精神,共同创造和发展美好的自由与GNU GPL世界吧!

游客:  注册 | 登录 | 命令行 | 会员 | 搜索 | 上传 | 帮助 »
作者:
标题: [求助]大数字的运算 上一主题 | 下一主题
qdloverr
初级用户





积分 97
发帖 33
注册 2007-3-5
状态 离线
『楼 主』:  [求助]大数字的运算

set /a AA=1048576/3798863872
并不能算出 3798863872除以1048576的值
这个错在哪

2007-11-22 17:57
查看资料  发送邮件  发短消息 网志   编辑帖子  回复  引用回复
knoppix7
银牌会员





积分 1287
发帖 634
注册 2007-5-2
来自 cmd.exe
状态 离线
『第 2 楼』:  

CMD对数字大小有限制.

2007-11-22 18:26
查看资料  发短消息 网志   编辑帖子  回复  引用回复
scriptor
银牌会员




积分 1187
发帖 555
注册 2006-12-21
状态 离线
『第 3 楼』:  



  Quote:
Originally posted by qdloverr at 2007-11-22 17:57:
set /a AA=1048576/3798863872
并不能算出 3798863872除以1048576的值
这个错在哪

最大是 2^31-1=2147483647

2007-11-22 18:57
查看资料  发短消息 网志   编辑帖子  回复  引用回复
scriptor
银牌会员




积分 1187
发帖 555
注册 2006-12-21
状态 离线
『第 4 楼』:  



  Quote:
Originally posted by scriptor at 2007-11-22 18:57:


最大是 2^31-1=2147483647

数字的精确度长度是32位的

2007-11-22 18:58
查看资料  发短消息 网志   编辑帖子  回复  引用回复
bjsh
银牌会员





积分 2000
发帖 621
注册 2007-1-1
状态 离线
『第 5 楼』:  

http://www.cn-dos.net/forum/view ... ghlight=&page=2

这个帖子的26楼是最终代码

被除数可以是任意位数; 被除数还是限制在10的九次; 保留的小数位数可以指定任意位;
至于 被除数 要突破 10 的 9次的限制 有兴趣的可以尝试去写一下

2007-11-22 22:29
查看资料  发送邮件  发短消息 网志   编辑帖子  回复  引用回复

请注意:您目前尚未注册或登录,请您注册登录以使用论坛的各项功能,例如发表和回复帖子等。


可打印版本 | 推荐给朋友 | 订阅主题 | 收藏主题



论坛跳转: