 |
 |
 |
 |
 |
 |
||
 |
 |
 |
 |
 |
| 5 | 1/1 | 返回列表 |
| 查看: 1318 | 回復(fù): 4 | ||
H518616171新蟲 (初入文壇)
|
[求助]
大佬幫忙解答一下誤差問題 已有2人參與
|
|
a=10000，b=10000.1，c=b-a，讓計算機輸出c/0.1-1，為什么我用電腦算出來是10^-3，別的同學(xué)用c++算出來是10^-12，為什么我的誤差這么大？ 發(fā)自小木蟲IOS客戶端 |
回復(fù)此樓» 猜你喜歡
274環(huán)境工程求調(diào)劑
已經(jīng)有6人回復(fù)
-
304求調(diào)劑
已經(jīng)有3人回復(fù)
-
申博
已經(jīng)有5人回復(fù)
-
283求調(diào)劑
已經(jīng)有11人回復(fù)
-
A區(qū)一本交叉課題組，低分調(diào)劑，招收機械電子信息通信等交叉方向
已經(jīng)有9人回復(fù)
-
328求調(diào)劑
已經(jīng)有3人回復(fù)
-
歡迎211本科同學(xué)，過A區(qū)國家線，A區(qū)非偏遠(yuǎn)一本，交叉學(xué)科課題組
已經(jīng)有21人回復(fù)
-
材料與化工304求調(diào)劑
已經(jīng)有6人回復(fù)
-
282求調(diào)劑
已經(jīng)有3人回復(fù)
-
347求調(diào)劑
已經(jīng)有8人回復(fù)
jjdg
版主 (知名作家)
- 程序強帖: 9
- 應(yīng)助: 223 (大學(xué)生)
- 貴賓: 3.926
- 金幣: 51005.2
- 紅花: 238
- 帖子: 7227
- 在線: 474.2小時
- 蟲號: 27000
- 注冊: 2003-10-21
- 專業(yè): 藥物代謝與藥物動力學(xué)
- 管轄: 程序語言
2樓2019-09-16 19:35:46
bcsnow
鐵桿木蟲 (著名寫手)
- 應(yīng)助: 245 (大學(xué)生)
- 金幣: 7032.4
- 散金: 134
- 紅花: 20
- 帖子: 1751
- 在線: 663.2小時
- 蟲號: 576682
- 注冊: 2008-06-21
- 性別: GG
- 專業(yè): 人工智能與知識工程
【答案】應(yīng)助回帖
| 主要是和你們所選數(shù)據(jù)類型的精度有關(guān)，和是否c++無關(guān)（不知道你是用什么算的）。比如你用4字節(jié)數(shù)據(jù)類型（32位，c++可能是float或者single，記不清了），除去符號位和指數(shù)位，剩下的尾數(shù)用20多位來表示。那么精度就是1/2^20，小數(shù)點后6-7位，去掉前面10000，誤差在小數(shù)點后3位合理。如果用8字節(jié)，那么精度可能是1/2^50，即小數(shù)點后15-6位，去掉前面10000，誤差在小數(shù)點后12位也合理。 |
3樓2019-10-28 12:49:04
chuntao118
新蟲 (著名寫手)
- 應(yīng)助: 93 (初中生)
- 金幣: 2590.9
- 散金: 1402
- 紅花: 25
- 帖子: 1611
- 在線: 241.2小時
- 蟲號: 1791567
- 注冊: 2012-05-02
- 專業(yè): 計算數(shù)學(xué)與科學(xué)工程計算
4樓2019-11-22 08:30:30
flyingair007
銀蟲 (正式寫手)
- 應(yīng)助: 68 (初中生)
- 金幣: 13.7
- 紅花: 8
- 帖子: 688
- 在線: 33.9小時
- 蟲號: 4633953
- 注冊: 2016-04-27
- 專業(yè): 計算數(shù)學(xué)與科學(xué)工程計算
5樓2019-12-05 23:35:49
相關(guān)版塊跳轉(zhuǎn)
我要訂閱樓主 H518616171 的主題更新
| 5 | 1/1 | 返回列表 |
| 最具人氣熱帖推薦 [查看全部] | 作者 | 回/看 | 最后發(fā)表 | |
|---|---|---|---|---|
|
[考研] 材料與化工304求調(diào)劑 +3 | 邱gl 2026-03-05 | 6/300 |
|
|---|---|---|---|---|
|
[考研] 【求調(diào)劑】293分環(huán)境工程求調(diào)劑材料/化工，服從調(diào)劑，抗壓能力強！ +6 | xiiiia 2026-03-04 | 6/300 |
|
|
|
[考研] 22408-273求調(diào)劑-擔(dān)任3個項目的負(fù)責(zé)人-1篇國際期刊論文（一作）1篇核心期刊論文在投。 +3 | 沒想好取什么名 2026-03-03 | 3/150 |
|
|
|
[考研] 267化工調(diào)劑求助 +5 | 聰少OZ 2026-03-04 | 5/250 |
|
|
|
[考研] 070300調(diào)劑一志愿南京大學(xué)化學(xué)專業(yè)，初試273分，有論文有專利有競賽，求調(diào)劑B區(qū)211 +3 | 82206202 2026-02-28 | 8/400 |
|
|
|
[考研] 求調(diào)劑 +4 | 熬夜的貓頭鷹 2026-03-02 | 4/200 |
|
|
|
[考研] 0856材料與化工求調(diào)劑！ +3 | 化工考生111 2026-03-04 | 7/350 |
|
|
|
[考研] 0703化學(xué)求調(diào)劑 +3 | 將未有期 2026-03-04 | 3/150 |
|
|
|
[考研] 0703化學(xué)調(diào)劑 +4 | G212 2026-03-03 | 5/250 |
|
|
|
[考研] 一志愿西工大材料學(xué)，英一數(shù)二總分321分，求調(diào)劑。 +3 | zz05zz 2026-03-02 | 5/250 |
|
|
|
[考研] 085600求調(diào)劑 +4 | LRZZZZZZ 2026-03-02 | 6/300 |
|
|
|
[考研]
 0703化學(xué)學(xué)碩 288分
+4
|
旅行中的紫葡萄 2026-03-03 | 4/200 |
|
|
|
[考研] 0856材料工程，初試313調(diào)劑 +7 | 賣個關(guān)子吧 2026-03-03 | 7/350 |
|
|
|
[考研] 化學(xué)0703求調(diào)劑 學(xué)碩 理/工科均可 總分279 +3 | 1一11 2026-03-03 | 5/250 |
|
|
|
[考研] 338求調(diào)劑 +5 | 18162027187 2026-03-02 | 6/300 |
|
|
|
[考研] 11408，學(xué)碩276求調(diào)劑 +3 | 崔wj 2026-03-02 | 5/250 |
|
|
|
[考博] 誠招農(nóng)業(yè)博士 +3 | 心欣向榮 2026-02-28 | 3/150 |
|
|
|
[考研] 275求調(diào)劑 +3 | L-xin? 2026-03-01 | 6/300 |
|
|
|
[考研] 295復(fù)試調(diào)劑 +3 | 簡木ChuFront 2026-03-01 | 3/150 |
|
|
|
[考研] 調(diào)劑 +3 | 簡木ChuFront 2026-02-28 | 3/150 |
|