单精度和单精度与双精度的区别别是怎么样的

单精度和双精度有啥区别啊 大佬们【vb吧】_百度贴吧
&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&签到排名:今日本吧第个签到,本吧因你更精彩,明天继续来努力!
本吧签到人数:0成为超级会员,使用一键签到本月漏签0次!成为超级会员,赠送8张补签卡连续签到:天&&累计签到:天超级会员单次开通12个月以上,赠送连续签到卡3张
关注:107,021贴子:
单精度和双精度有啥区别啊 大佬们收藏
单精度和双精度有啥区别啊 大佬们
通用软件不合适,定做软件太昂贵,自己用vb.net开发太难,何不试试FoxTable?
名字不一样
有效数的位数,这个概念你知道吗?
单精度型(Single)占4个字节,数值范围:负数时从 -3. 到 -1.;正数时从 1. 到 3.;有效数字位数为7位双精度型(Double)占8个字节,数值范围:负数时从 -1.32E308 到 -4.47E-324;正数时从4.47E-324 到 1.32E308;有效数字位数为15位
登录百度帐号帐号:密码:下次自动登录{url:/nForum/slist.json?uid=guest&root=list-section}{url:/nForum/nlist.json?uid=guest&root=list-section}
贴数:21&分页:二五仔发信人: Z5boy (二五仔), 信区: NumComp
标&&题: 各位用cfd的商软一般用单精度还是双精度?
发信站: 水木社区 (Sat Mar&&5 16:55:14 2016), 站内 && rt && -- && ※ 来源:·水木社区 newsmth.net·[FROM: 211.99.222.*]
adda发信人: adda (adda), 信区: NumComp
标&&题: Re: 各位用cfd的商软一般用单精度还是双精度?
发信站: 水木社区 (Sun Mar&&6 00:09:51 2016), 站内 && 一般的问题单精度就够了,速度快
-- && ※ 来源:·水木社区 ·[FROM: 124.202.191.*]
0_Oo发信人: iFighter (0_Oo), 信区: NumComp
标&&题: Re: 各位用cfd的商软一般用单精度还是双精度?
发信站: 水木社区 (Sun Mar&&6 04:10:21 2016), 站内 && solver 必须 double 吧
【 在 Z5boy (二五仔) 的大作中提到: 】
&& -- && ※ 来源:·水木社区 ·[FROM: 75.159.31.*]
山地车发信人: MTB (山地车), 信区: NumComp
标&&题: Re: 各位用cfd的商软一般用单精度还是双精度?
发信站: 水木社区 (Sun Mar&&6 04:33:15 2016), 站内 && 据说速度一样的&& &&&& 【 在 adda () 的大作中提到: 】
: 一般的问题单精度就够了,速度快
发自xsmth (iOS版)
-- && ※ 来源:·水木社区 ·[FROM: 61.164.211.*]
lorin发信人: lorinsz (lorin), 信区: NumComp
标&&题: Re: 各位用cfd的商软一般用单精度还是双精度?
发信站: 水木社区 (Sun Mar&&6 08:03:28 2016), 站内 && 大问题省内存。
-- && ※ 来源:·水木社区 ·[FROM: 71.126.138.*]
东哥de征途~~风雨无阻发信人: hyperLee (东哥de征途~~风雨无阻), 信区: NumComp
标&&题: Re: 各位用cfd的商软一般用单精度还是双精度?
发信站: 水木社区 (Sun Mar&&6 08:52:34 2016), 站内 && 嗯,我也在像这个问题。
除了存储网格必须双精度,还有什么地方必须双精度的? && 【 在 Z5boy (二五仔) 的大作中提到: 】
&&&& -- && ※ 来源:·水木社区 newsmth.net·[FROM: 106.38.134.*]
adda发信人: adda (adda), 信区: NumComp
标&&题: Re: 各位用cfd的商软一般用单精度还是双精度?
发信站: 水木社区 (Sun Mar&&6 09:30:10 2016), 站内 && 在指令这个层面上,常规的加减乘除指令,单精度和双精度的速度是一样的,在cpu内部都是用80bit的扩展精度进行计算的 && 小数据量的测试程序单精度和双精度的速度确实也差不多。但cfd计算的内存需求量很大,单精度占用内存小,考虑到存取及cache命中的话,单精度还是会比双精度快很多的 && 只要不是太老的编译器都还会用sse优化,一条sse指令可以计算4个单精度数或者2个双精度数,单精度的优势更明显 && 【 在 MTB 的大作中提到: 】
: 据说速度一样的&&
&& -- && ※ 来源:·水木社区 ·[FROM: 111.161.114.*]
二五仔发信人: Z5boy (二五仔), 信区: NumComp
标&&题: Re: 各位用cfd的商软一般用单精度还是双精度?
发信站: 水木社区 (Sun Mar&&6 09:39:30 2016), 站内 && 一般的问题怎样定义?
【 在 adda (adda) 的大作中提到: 】
: 一般的问题单精度就够了,速度快
&&&& -- && ※ 来源:·水木社区 newsmth.net·[FROM: 211.99.222.*]
二五仔发信人: Z5boy (二五仔), 信区: NumComp
标&&题: Re: 各位用cfd的商软一般用单精度还是双精度?
发信站: 水木社区 (Sun Mar&&6 09:39:57 2016), 站内 && 对计算结果影响大么?
【 在 lorinsz (lorin) 的大作中提到: 】
: 大问题省内存。
&&&& -- && ※ 来源:·水木社区 newsmth.net·[FROM: 211.99.222.*]
adda发信人: adda (adda), 信区: NumComp
标&&题: Re: 各位用cfd的商软一般用单精度还是双精度?
发信站: 水木社区 (Sun Mar&&6 09:41:39 2016), 站内 && 我的经验是算化学反应必须双精度,附面层存在超大长宽比时需要双精度 && 其他问题单精度就行了,尤其是算Euler方程,或者小雷诺数NS方程 && 【 在 hyperLee 的大作中提到: 】
: 嗯,我也在像这个问题。
: 除了存储网格必须双精度,还有什么地方必须双精度的?
:&& && -- && ※ 来源:·水木社区 ·[FROM: 111.161.114.*]
文章数:21&分页:double(双精度浮点型)和float(单精度浮点型)的区别是什么
double(双精度浮点型)和float(单精度浮点型)的区别是什么
非常感谢!
写下你的评论...
写下你的评论...
写下你的评论...
Copyright (C) 2018 imooc.com All Rights Reserved | 京ICP备 号-11单精度与双精度浅析_百度文库
两大类热门资源免费畅读
续费一年阅读会员,立省24元!
单精度与双精度浅析
阅读已结束,下载本文需要
想免费下载更多文档?
定制HR最喜欢的简历
下载文档到电脑,方便使用
还剩1页未读,继续阅读
定制HR最喜欢的简历
你可能喜欢

我要回帖

更多关于 精度和线性度的区别 的文章

 

随机推荐