 |
 |
 |
 |
 |
 |
||
 |
 |
 |
 |
 |
| 5 | 1/1 | 返回列表 |
| 查看: 1317 | 回復(fù): 4 | ||
H518616171新蟲 (初入文壇)
|
[求助]
大佬幫忙解答一下誤差問題 已有2人參與
|
|
a=10000，b=10000.1，c=b-a，讓計(jì)算機(jī)輸出c/0.1-1，為什么我用電腦算出來是10^-3，別的同學(xué)用c++算出來是10^-12，為什么我的誤差這么大？ 發(fā)自小木蟲IOS客戶端 |
回復(fù)此樓» 猜你喜歡
中國(guó)科學(xué)技術(shù)大學(xué)材料與化工281求調(diào)劑，有科研和獲獎(jiǎng)經(jīng)歷
已經(jīng)有12人回復(fù)
-
申博
已經(jīng)有4人回復(fù)
-
085701環(huán)境工程 求調(diào)劑
已經(jīng)有7人回復(fù)
-
考研282分求調(diào)劑，接受跨專業(yè)
已經(jīng)有5人回復(fù)
-
一志愿南京大學(xué)資源與環(huán)境專業(yè)283分求調(diào)劑
已經(jīng)有3人回復(fù)
-
歡迎211本科同學(xué)，過A區(qū)國(guó)家線，A區(qū)非偏遠(yuǎn)一本，交叉學(xué)科課題組
已經(jīng)有14人回復(fù)
-
【求調(diào)劑】293分環(huán)境工程求調(diào)劑材料/化工，服從調(diào)劑，抗壓能力強(qiáng)！
已經(jīng)有6人回復(fù)
-
347求調(diào)劑
已經(jīng)有6人回復(fù)
-
274環(huán)境工程求調(diào)劑
已經(jīng)有4人回復(fù)
-
環(huán)境工程專碩307 一志愿211 四六級(jí)已過 求調(diào)劑
已經(jīng)有6人回復(fù)
jjdg
版主 (知名作家)
- 程序強(qiáng)帖: 9
- 應(yīng)助: 223 (大學(xué)生)
- 貴賓: 3.926
- 金幣: 51005.2
- 紅花: 238
- 帖子: 7227
- 在線: 474.2小時(shí)
- 蟲號(hào): 27000
- 注冊(cè): 2003-10-21
- 專業(yè): 藥物代謝與藥物動(dòng)力學(xué)
- 管轄: 程序語言
2樓2019-09-16 19:35:46
bcsnow
鐵桿木蟲 (著名寫手)
- 應(yīng)助: 245 (大學(xué)生)
- 金幣: 7032.4
- 散金: 134
- 紅花: 20
- 帖子: 1751
- 在線: 663.2小時(shí)
- 蟲號(hào): 576682
- 注冊(cè): 2008-06-21
- 性別: GG
- 專業(yè): 人工智能與知識(shí)工程
【答案】應(yīng)助回帖
| 主要是和你們所選數(shù)據(jù)類型的精度有關(guān)，和是否c++無關(guān)（不知道你是用什么算的）。比如你用4字節(jié)數(shù)據(jù)類型（32位，c++可能是float或者single，記不清了），除去符號(hào)位和指數(shù)位，剩下的尾數(shù)用20多位來表示。那么精度就是1/2^20，小數(shù)點(diǎn)后6-7位，去掉前面10000，誤差在小數(shù)點(diǎn)后3位合理。如果用8字節(jié)，那么精度可能是1/2^50，即小數(shù)點(diǎn)后15-6位，去掉前面10000，誤差在小數(shù)點(diǎn)后12位也合理。 |
3樓2019-10-28 12:49:04
chuntao118
新蟲 (著名寫手)
- 應(yīng)助: 93 (初中生)
- 金幣: 2590.9
- 散金: 1402
- 紅花: 25
- 帖子: 1611
- 在線: 241.2小時(shí)
- 蟲號(hào): 1791567
- 注冊(cè): 2012-05-02
- 專業(yè): 計(jì)算數(shù)學(xué)與科學(xué)工程計(jì)算
4樓2019-11-22 08:30:30
flyingair007
銀蟲 (正式寫手)
- 應(yīng)助: 68 (初中生)
- 金幣: 13.7
- 紅花: 8
- 帖子: 688
- 在線: 33.9小時(shí)
- 蟲號(hào): 4633953
- 注冊(cè): 2016-04-27
- 專業(yè): 計(jì)算數(shù)學(xué)與科學(xué)工程計(jì)算
5樓2019-12-05 23:35:49
相關(guān)版塊跳轉(zhuǎn)
我要訂閱樓主 H518616171 的主題更新
| 5 | 1/1 | 返回列表 |
| 最具人氣熱帖推薦 [查看全部] | 作者 | 回/看 | 最后發(fā)表 | |
|---|---|---|---|---|
|
[考研] 中國(guó)科學(xué)技術(shù)大學(xué)材料與化工281求調(diào)劑，有科研和獲獎(jiǎng)經(jīng)歷 +11 | wsxw 2026-03-02 | 12/600 |
|
|---|---|---|---|---|
|
[考研] 085701環(huán)境工程 求調(diào)劑 +7 | xiiiia 2026-03-04 | 7/350 |
|
|
|
[考研] 歡迎211本科同學(xué)，過A區(qū)國(guó)家線，A區(qū)非偏遠(yuǎn)一本，交叉學(xué)科課題組 +10 | lisimayy 2026-03-04 | 14/700 |
|
|
|
[考研] 0856材料求調(diào)劑 +17 | hyf hyf hyf 2026-02-28 | 18/900 |
|
|
|
[考研] 化學(xué) 0703求調(diào)劑 總分293 一志愿211 +9 | 土土小蟲 2026-03-03 | 11/550 |
|
|
|
[考研] 一志愿鄭州大學(xué)，學(xué)碩，物理化學(xué)， 333求調(diào)劑 +5 | 李魔女斗篷 2026-03-04 | 5/250 |
|
|
|
[考研] 0856材料與化工求調(diào)劑！ +3 | 化工考生111 2026-03-04 | 7/350 |
|
|
|
[考研] 325求調(diào)劑 +5 | 學(xué)家科 2026-03-04 | 5/250 |
|
|
|
[考博] 26申博-目前4篇SCI一作 +3 | chen_2024 2026-03-02 | 3/150 |
|
|
|
[考研] 0703化學(xué)調(diào)劑 +4 | G212 2026-03-03 | 5/250 |
|
|
|
[考研] 291求調(diào)劑 +4 | Afy123456 2026-03-03 | 7/350 |
|
|
|
[考研] 085600材料與化工調(diào)劑 280分 +10 | yyqqhh 2026-03-03 | 10/500 |
|
|
|
[考研] 085602化學(xué)工程350，調(diào)劑，有沒有211的 +5 | 利好利好. 2026-03-02 | 9/450 |
|
|
|
[考研] 材料學(xué)碩318求調(diào)劑 +11 | February_Feb 2026-03-01 | 11/550 |
|
|
|
[考研] 278求調(diào)劑 +3 | 滿天星11_22 2026-03-02 | 3/150 |
|
|
|
[考研] 298求調(diào)劑 +10 | 人間唯你是清歡 2026-02-28 | 14/700 |
|
|
|
[考研] 306分材料調(diào)劑 +5 | chuanzhu川燭 2026-03-01 | 6/300 |
|
|
|
[考研] 261求調(diào)劑 +3 | 陸lh 2026-03-01 | 3/150 |
|
|
|
[考研] 275求調(diào)劑 +7 | 明遠(yuǎn)求學(xué) 2026-03-01 | 7/350 |
|
|
|
[考研] 調(diào)劑 +3 | 13853210211 2026-03-02 | 4/200 |
|