 |
 |
 |
| 24小時(shí)熱門(mén)版塊排行榜 |
- >論壇更新日志 (932)
- >考研 (119)
- >導(dǎo)師招生 (113)
- >蟲(chóng)友互識(shí) (40)
- >考博 (21)
- >基金申請(qǐng) (18)
- >教師之家 (11)
- >公派出國(guó) (10)
- >論文投稿 (10)
- >休閑灌水 (10)
- >找工作 (8)
- >碩博家園 (6)
- >論文道賀祈福 (5)
- >博后之家 (3)
- >文獻(xiàn)求助 (3)
- >藥品生產(chǎn) (2)
 |
 |
 |
||
 |
 |
 |
 |
 |
| 5 | 1/1 | 返回列表 |
| 查看: 1320 | 回復(fù): 4 | ||
| 當(dāng)前只顯示滿足指定條件的回帖，點(diǎn)擊這里查看本話題的所有回帖 | ||
H518616171新蟲(chóng) (初入文壇)
|
[求助]
大佬幫忙解答一下誤差問(wèn)題 已有2人參與
|
|
|
a=10000，b=10000.1，c=b-a，讓計(jì)算機(jī)輸出c/0.1-1，為什么我用電腦算出來(lái)是10^-3，別的同學(xué)用c++算出來(lái)是10^-12，為什么我的誤差這么大？ 發(fā)自小木蟲(chóng)IOS客戶端 |
回復(fù)此樓» 猜你喜歡
新疆大學(xué)地質(zhì)與礦業(yè)工程學(xué)院招生
已經(jīng)有10人回復(fù)
-
招調(diào)劑
已經(jīng)有11人回復(fù)
-
0856材料與化工求調(diào)劑！
已經(jīng)有11人回復(fù)
-
材料與化工304求調(diào)劑
已經(jīng)有10人回復(fù)
-
歡迎211本科同學(xué)，過(guò)A區(qū)國(guó)家線，A區(qū)非偏遠(yuǎn)一本，交叉學(xué)科課題組
已經(jīng)有23人回復(fù)
-
A區(qū)一本交叉課題組，低分調(diào)劑，招收機(jī)械電子信息通信等交叉方向
已經(jīng)有31人回復(fù)
-
中科大材料299求調(diào)劑
已經(jīng)有7人回復(fù)
-
301求調(diào)劑
已經(jīng)有3人回復(fù)
-
材料考研339求調(diào)劑
已經(jīng)有3人回復(fù)
-
材料專(zhuān)碩290求調(diào)劑
已經(jīng)有5人回復(fù)
chuntao118
新蟲(chóng) (著名寫(xiě)手)
- 應(yīng)助: 93 (初中生)
- 金幣: 2590.9
- 散金: 1402
- 紅花: 25
- 帖子: 1611
- 在線: 241.2小時(shí)
- 蟲(chóng)號(hào): 1791567
- 注冊(cè): 2012-05-02
- 專(zhuān)業(yè): 計(jì)算數(shù)學(xué)與科學(xué)工程計(jì)算
4樓2019-11-22 08:30:30
jjdg
版主 (知名作家)
- 程序強(qiáng)帖: 9
- 應(yīng)助: 223 (大學(xué)生)
- 貴賓: 3.926
- 金幣: 51005.2
- 紅花: 238
- 帖子: 7227
- 在線: 474.2小時(shí)
- 蟲(chóng)號(hào): 27000
- 注冊(cè): 2003-10-21
- 專(zhuān)業(yè): 藥物代謝與藥物動(dòng)力學(xué)
- 管轄: 程序語(yǔ)言
2樓2019-09-16 19:35:46
bcsnow
鐵桿木蟲(chóng) (著名寫(xiě)手)
- 應(yīng)助: 245 (大學(xué)生)
- 金幣: 7032.4
- 散金: 134
- 紅花: 20
- 帖子: 1751
- 在線: 663.2小時(shí)
- 蟲(chóng)號(hào): 576682
- 注冊(cè): 2008-06-21
- 性別: GG
- 專(zhuān)業(yè): 人工智能與知識(shí)工程
【答案】應(yīng)助回帖
| 主要是和你們所選數(shù)據(jù)類(lèi)型的精度有關(guān)，和是否c++無(wú)關(guān)（不知道你是用什么算的）。比如你用4字節(jié)數(shù)據(jù)類(lèi)型（32位，c++可能是float或者single，記不清了），除去符號(hào)位和指數(shù)位，剩下的尾數(shù)用20多位來(lái)表示。那么精度就是1/2^20，小數(shù)點(diǎn)后6-7位，去掉前面10000，誤差在小數(shù)點(diǎn)后3位合理。如果用8字節(jié)，那么精度可能是1/2^50，即小數(shù)點(diǎn)后15-6位，去掉前面10000，誤差在小數(shù)點(diǎn)后12位也合理。 |
3樓2019-10-28 12:49:04
flyingair007
銀蟲(chóng) (正式寫(xiě)手)
- 應(yīng)助: 68 (初中生)
- 金幣: 13.7
- 紅花: 8
- 帖子: 688
- 在線: 33.9小時(shí)
- 蟲(chóng)號(hào): 4633953
- 注冊(cè): 2016-04-27
- 專(zhuān)業(yè): 計(jì)算數(shù)學(xué)與科學(xué)工程計(jì)算
5樓2019-12-05 23:35:49
| 最具人氣熱帖推薦 [查看全部] | 作者 | 回/看 | 最后發(fā)表 | |
|---|---|---|---|---|
6