>>268 1補足
>勿論、場面によっては、きっちり区別する場合もありだ。分かり易さや、記述の文字数、あるいは計算機の内部表現の事情*)などで
例えば、昔言われたのが、コンピュータプログラミングで、”割り算が入っていると気を付けろ”とか
例えば、10÷3X12= という計算があるとする。10÷3を先に計算すると、3+1/3だが、コンピュータの内部表現の関係で、正しく40が求まるとは限らない
なので、割り算は最後に纏めてすべきだと言われた
10X12÷3=40となる
この場合、1/3(分数表現)=0.3333・・・(10進少数表現)(無限小数)と、コンピュータの内部では扱われない
似た話が下記だな
https://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q129664067
(抜粋)
greens_dpiさん2006/10/15 yahoo 知恵袋
プログラムの割り算での質問です。
割り算を行うと、誤差が入ってくることが多いとと思うのですが
(1)誤差を減らすためには、分数のまま計算を行って行くのでしょうか?
(2)それとも、気にせずに割り算を行ってしまってもいいのでしょうか?
(1)、(2)いずれの場合でも、どこかで計算結果を丸めると思うのですが
丸めるべき桁数は、どのように考えたらいいのでしょうか。
ベストアンサーに選ばれた回答
numaya_no_yasai_yaさん 2006/10/1600:06:24
計算の順序に工夫する事が大事です。
例えば非常に大きい数値に小さな数値を足すと、
精度が極端に低下します。
極端な例ですが、double型の精度は15桁なので
1000兆という数値に0.1を1000兆回足すと、
1100兆になるはずですが、
計算結果は1000兆のままであり、100兆もの誤差が出ます。
小数点以下2桁どころではありませんよ。
この場合、0.1×1000兆の部分を順序を先にすることにより
誤差が出ないように出来ます。
現代数学の系譜11 ガロア理論を読む33 [無断転載禁止]©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
2017/05/29(月) 15:47:44.75ID:IKiw8fcW
■ このスレッドは過去ログ倉庫に格納されています
ニュース
- 高木豊氏 本田圭佑のW杯解説に私見「相手の選手も知らないと、野球ではボロカス言われるよ」 [jinjin★]
- 中傷動画より突っ込まれたくない高市事務所の“急所” 疑惑の本丸「サナエトークン」国会での追及本格化 [バイト歴50年★]
- 《皇室乗っ取りクーデター》麻生太郎氏 “養子案”主導に広がる反発…“天皇の外戚になる可能性”との指摘も [バイト歴50年★]
- 東京 北区 小学校で火事 児童ら計11人病院搬送 うち3人が骨折 ★2 [蚤の市★]
- トランプ氏の「侮辱的発言」にメローニ氏反論、外相の訪米中止に発展 [蚤の市★]
- 東京駅で切符紛失→「3倍払って」と言われ→拒否すると「警察呼ぶ」と言い始め警備5人が包囲… BD選手のトラブル報告にネット紛糾★2 [冬月記者★]
- 妹「えへへ、お兄ちゃんの精子おまんこから一滴も零さないからね♪」←おもむろに逆立ちをして股を開いたり閉じたりし始める
- 全国の警察で相次ぐ「DNA鑑定不正」 一貫して否認を続けるも有罪になった被告が「自分も不正されたのでは」→不正した職員が担当と判明 [314039747]
- 【FIFAワールドカップ2026】 D組アメリカ×オーストラリア4:00(NHK3:45~,DAZN),C組スコットランド×モロッコ7:00(フジテレビ6:00~,DAZN) [226731781]
- 最高の景色をー🏡⚽👊😅👊⚽
- 愚かな人たちよ……あなた方がひざ枕と呼んでいるものはどう見てももも枕です😔
- 4:44:44.444