 |
 |
 |
 |
 |
 |
||
 |
 |
 |
 |
 |
| 5 | 1/1 | 返回列表 |
| 查看: 1322 | 回復(fù): 4 | |||
H518616171新蟲(chóng) (初入文壇)
|
[求助]
大佬幫忙解答一下誤差問(wèn)題 已有2人參與
|
|
a=10000，b=10000.1，c=b-a，讓計(jì)算機(jī)輸出c/0.1-1，為什么我用電腦算出來(lái)是10^-3，別的同學(xué)用c++算出來(lái)是10^-12，為什么我的誤差這么大？ 發(fā)自小木蟲(chóng)IOS客戶端 |
回復(fù)此樓» 猜你喜歡
售瀆SCI文章，我:8⊙ 55 1⊙ 54。備注【⊙=0】
已經(jīng)有3人回復(fù)
-
售瀆SCI文章，我:8⊙ 55 1⊙ 54。備注【⊙=0】
已經(jīng)有6人回復(fù)
-
求調(diào)劑推薦
已經(jīng)有4人回復(fù)
-
26申博自薦
已經(jīng)有7人回復(fù)
-
進(jìn)入個(gè)人成果庫(kù)好難，一下午都沒(méi)進(jìn)去
已經(jīng)有5人回復(fù)
-
接受26屆調(diào)劑生
已經(jīng)有12人回復(fù)
-
求調(diào)劑
已經(jīng)有5人回復(fù)
-
求調(diào)劑 一志愿蘇州大學(xué)，0856化工323分 | 本科應(yīng)化 | 有專利/競(jìng)賽/科研助手經(jīng)歷 |
已經(jīng)有6人回復(fù)
-
求調(diào)劑
已經(jīng)有4人回復(fù)
-
308求調(diào)劑
已經(jīng)有9人回復(fù)
jjdg
版主 (知名作家)
- 程序強(qiáng)帖: 9
- 應(yīng)助: 223 (大學(xué)生)
- 貴賓: 3.926
- 金幣: 51005.2
- 紅花: 238
- 帖子: 7227
- 在線: 474.2小時(shí)
- 蟲(chóng)號(hào): 27000
- 注冊(cè): 2003-10-21
- 專業(yè): 藥物代謝與藥物動(dòng)力學(xué)
- 管轄: 程序語(yǔ)言
2樓2019-09-16 19:35:46
bcsnow
鐵桿木蟲(chóng) (著名寫手)
- 應(yīng)助: 245 (大學(xué)生)
- 金幣: 7032.4
- 散金: 134
- 紅花: 20
- 帖子: 1751
- 在線: 663.2小時(shí)
- 蟲(chóng)號(hào): 576682
- 注冊(cè): 2008-06-21
- 性別: GG
- 專業(yè): 人工智能與知識(shí)工程
【答案】應(yīng)助回帖
| 主要是和你們所選數(shù)據(jù)類型的精度有關(guān)，和是否c++無(wú)關(guān)（不知道你是用什么算的）。比如你用4字節(jié)數(shù)據(jù)類型（32位，c++可能是float或者single，記不清了），除去符號(hào)位和指數(shù)位，剩下的尾數(shù)用20多位來(lái)表示。那么精度就是1/2^20，小數(shù)點(diǎn)后6-7位，去掉前面10000，誤差在小數(shù)點(diǎn)后3位合理。如果用8字節(jié)，那么精度可能是1/2^50，即小數(shù)點(diǎn)后15-6位，去掉前面10000，誤差在小數(shù)點(diǎn)后12位也合理。 |
3樓2019-10-28 12:49:04
chuntao118
新蟲(chóng) (著名寫手)
- 應(yīng)助: 93 (初中生)
- 金幣: 2590.9
- 散金: 1402
- 紅花: 25
- 帖子: 1611
- 在線: 241.2小時(shí)
- 蟲(chóng)號(hào): 1791567
- 注冊(cè): 2012-05-02
- 專業(yè): 計(jì)算數(shù)學(xué)與科學(xué)工程計(jì)算
4樓2019-11-22 08:30:30
flyingair007
銀蟲(chóng) (正式寫手)
- 應(yīng)助: 68 (初中生)
- 金幣: 13.7
- 紅花: 8
- 帖子: 688
- 在線: 33.9小時(shí)
- 蟲(chóng)號(hào): 4633953
- 注冊(cè): 2016-04-27
- 專業(yè): 計(jì)算數(shù)學(xué)與科學(xué)工程計(jì)算
5樓2019-12-05 23:35:49
相關(guān)版塊跳轉(zhuǎn)
我要訂閱樓主 H518616171 的主題更新
| 5 | 1/1 | 返回列表 |
| 最具人氣熱帖推薦 [查看全部] | 作者 | 回/看 | 最后發(fā)表 | |
|---|---|---|---|---|
|
[考研] 085701環(huán)境工程295求調(diào)劑，一志愿A區(qū)211 +7 | 等春來(lái)， 2026-03-06 | 8/400 |
|
|---|---|---|---|---|
|
|
[考研] 我嘗試在小木蟲(chóng)上招計(jì)算機(jī)專業(yè)的調(diào)劑學(xué)生 +3 | littlehu66 2026-03-04 | 5/250 |
|
|
[考研] 085600材料與化工 298 調(diào)劑 +10 | 小西笑嘻嘻 2026-03-03 | 10/500 |
|
|
|
[考研] 材料與化工304求B區(qū)調(diào)劑 +4 | 邱gl 2026-03-06 | 4/200 |
|
|
|
[考研] 材料學(xué)碩318求調(diào)劑 +13 | February_Feb 2026-03-01 | 13/650 |
|
|
|
[考研] 085602高分子方向求調(diào)劑 +7 | tlgudy 2026-03-04 | 7/350 |
|
|
|
[考研] 0856材料與化工求調(diào)劑！ +5 | 化工考生111 2026-03-04 | 11/550 |
|
|
|
[考研] 【求調(diào)劑】293分環(huán)境工程求調(diào)劑材料/化工，服從調(diào)劑，抗壓能力強(qiáng)！ +8 | xiiiia 2026-03-04 | 8/400 |
|
|
|
[考研] 材料類考研調(diào)劑 +7 | gemmgemm 2026-03-01 | 8/400 |
|
|
|
[考研] 化學(xué) 0703求調(diào)劑 總分293 一志愿211 +9 | 土土小蟲(chóng) 2026-03-03 | 11/550 |
|
|
|
[考研] 學(xué)碩材料275調(diào)劑 +9 | 路三三 2026-03-03 | 9/450 |
|
|
|
[考研] 0857求調(diào)劑 +4 | CDDD1013 2026-03-04 | 4/200 |
|
|
|
[考研] 281求調(diào)劑 +3 | Y?l?h 2026-03-04 | 3/150 |
|
|
|
[論文投稿]
EST拒稿重投
 5+3
|
15102603076 2026-03-02 | 3/150 |
|
|
|
[考研] 復(fù)試調(diào)劑 +4 | 杰尼龜aaa 2026-03-03 | 4/200 |
|
|
|
[考研] 求調(diào)劑 +4 | Guo_yuxuan 2026-03-02 | 5/250 |
|
|
|
[考研] 調(diào)劑 +5 | 13853210211 2026-03-02 | 7/350 |
|
|
|
[考研] 303求調(diào)劑 +5 | 今夏不夏 2026-03-01 | 5/250 |
|
|
|
[考研] 265分求調(diào)劑不調(diào)專業(yè)和學(xué)校有行學(xué)上就 +6 | 禮堂丁真258 2026-02-28 | 9/450 |
|
|
|
[考研] 272求調(diào)劑 +6 | 田智友 2026-02-28 | 6/300 |
|