>> 計算機で計算すること考えると、乗法で誤差が発生しないのはすごい利点に思える。
>> 浮動少数だと加法も乗法もどちらも発生誤差があるからね。
間違い。加法だとか、乗法で誤差が発生しているんじゃない。
多くの小数の場合、浮動小数に直すときに誤差が発生している。
そのような数値を用いて計算されるから、どのような演算であっても誤差がつきまとう。
逆に、誤差の含まれない小数もある。ある処理系では、0.5+0.25=0.75を誤差無しに計算可能。
さらに、整数型変数ならば、処理可能な範囲の計算であれば、加算も乗算も誤差はない。
複素数・虚数総合スレ
■ このスレッドは過去ログ倉庫に格納されています
2011/09/26(月) 12:18:39.08
■ このスレッドは過去ログ倉庫に格納されています
ニュース
- 高木豊氏 本田圭佑のW杯解説に私見「相手の選手も知らないと、野球ではボロカス言われるよ」 [jinjin★]
- 中傷動画より突っ込まれたくない高市事務所の“急所” 疑惑の本丸「サナエトークン」国会での追及本格化 [バイト歴50年★]
- 東京 北区 小学校で火事 児童ら計11人病院搬送 うち3人が骨折 ★2 [蚤の市★]
- トランプ氏の「侮辱的発言」にメローニ氏反論、外相の訪米中止に発展 [蚤の市★]
- 湖池屋 ポテトチップスなど値上げ 8月出荷分から [安倍聖帝★]
- 東京駅で切符紛失→「3倍払って」と言われ→拒否すると「警察呼ぶ」と言い始め警備5人が包囲… BD選手のトラブル報告にネット紛糾★2 [冬月記者★]