探検


有効数字って無意味じゃね? [無断転載禁止]©2ch.net

■ このスレッドは過去ログ倉庫に格納されています
1132人目の素数さん
垢版 |
2016/11/23(水) 14:10:26.36ID:ZBrdQEtZ
誤差があるものどおしを足してるのに誤差が増えてないのがおかしい。

x=3.1(有効数字2桁)は3.05≦x<3.15を意味する。
y=5.9(有効数字2桁)は5.85≦y<5.95を意味する。
有効数字足し算では3.1と5.9は有効数字の桁があってるのでそのまま足せて
3.1+5.9=9.0(有効数字2桁)となる。
よってx+y=9.0(有効数字2桁)となり、8.95≦x+y<9.05を意味するはずだが
実際3.05≦x<3.15と5.85≦y<5.95からは8.9≦x+y<9.1までしか出ない。
したがって有効数字足し算なんてものは無意味である。
2016/11/23(水) 14:30:52.81ID:3HDEcW6H
2016/11/23(水) 14:31:09.66ID:3HDEcW6H
2016/11/23(水) 14:31:27.70ID:3HDEcW6H
2016/11/23(水) 14:31:44.10ID:3HDEcW6H
2016/11/23(水) 14:32:01.70ID:3HDEcW6H
2016/11/23(水) 14:32:18.36ID:3HDEcW6H
2016/11/23(水) 14:32:35.82ID:3HDEcW6H
2016/11/23(水) 14:32:50.83ID:3HDEcW6H
2016/11/23(水) 14:33:06.46ID:3HDEcW6H
11132人目の素数さん
垢版 |
2016/11/23(水) 16:29:31.93ID:AbvOe3Mb
>>1
アホ丸出し
2016/11/23(水) 16:32:13.15ID:3HDEcW6H
13132人目の素数さん
垢版 |
2016/11/23(水) 17:34:50.71ID:/cNtRJRL
誤差の評価として間違ってはいるが無意味ではない。
誤差ってのは演算を繰り返すとどんどん大きくなっていくものだが、
演算の回数が少ない場合の近似や、スケールの違いによる微小項の無視においては
意味がある。
2016/11/23(水) 17:57:54.39ID:3HDEcW6H
2016/11/23(水) 17:58:11.56ID:3HDEcW6H
2016/11/23(水) 17:58:29.42ID:3HDEcW6H
2016/11/23(水) 17:58:47.51ID:3HDEcW6H
2016/11/23(水) 17:59:03.88ID:3HDEcW6H
2016/11/23(水) 17:59:21.04ID:3HDEcW6H
2016/11/23(水) 17:59:36.52ID:3HDEcW6H
2016/11/23(水) 17:59:54.11ID:3HDEcW6H
2016/11/23(水) 18:00:12.49ID:3HDEcW6H
2016/11/23(水) 18:00:31.21ID:3HDEcW6H
2016/11/24(木) 03:56:38.78ID:hCLPwKpY
>>1の有効数字の知識は中学高校で止まってませんか
2016/11/24(木) 05:59:43.86ID:J7jdFaML
2016/11/24(木) 06:00:02.63ID:J7jdFaML
2016/11/24(木) 06:00:19.86ID:J7jdFaML
2016/11/24(木) 06:00:37.29ID:J7jdFaML
2016/11/24(木) 06:00:54.81ID:J7jdFaML
2016/11/24(木) 06:01:13.51ID:J7jdFaML
2016/11/24(木) 06:01:35.94ID:J7jdFaML
2016/11/24(木) 06:01:56.55ID:J7jdFaML
2016/11/24(木) 06:02:14.99ID:J7jdFaML
2016/11/24(木) 06:02:38.49ID:J7jdFaML
2016/11/24(木) 08:29:30.43ID:uLR5SZ3E
>>24
中高でやってた有効数字の演算にどのくらい意味あったのか知りたかった
現代では違う方法とられてるなら、それを確認したかった
2016/11/24(木) 08:36:31.21ID:J7jdFaML


>前科持ち変質者と絶対出会える掲示板 [無断転載禁止]
>
>1 名前:132人目の素数さん 2016/11/16(水) 21:02:24.40 ID:8UX5OsVV
> 変質者前科持ちと気が触れ合える掲示板
>
>11 名前:132人目の素数さん :2016/11/19(土) 08:36:12.59 ID:6KwDBI7h
> 変質者前科持ち=増田哲也
>
>12 名前:132人目の素数さん :2016/11/19(土) 09:04:39.15 ID:AZB04dZ8
> わざわざ言わんでもええ
>
>13 名前:出会える掲示板 ◆2VB8wsVUoo :2016/11/19(土) 15:58:01.20 ID:21LrO2+x
> 絶対に…
>
> ケケケ¥
>
>14 名前:132人目の素数さん :2016/11/19(土) 16:31:33.55 ID:6KwDBI7h
> 六十目前で父親逆恨みしたり掲示板逆恨みする根性の腐れっぷりは凄くて困る
>
2016/11/24(木) 09:06:46.00ID:J7jdFaML
2016/11/24(木) 09:07:02.31ID:J7jdFaML
2016/11/24(木) 09:07:19.80ID:J7jdFaML
2016/11/24(木) 09:07:36.84ID:J7jdFaML
2016/11/24(木) 09:07:52.99ID:J7jdFaML
2016/11/24(木) 09:08:09.26ID:J7jdFaML
2016/11/24(木) 09:08:26.57ID:J7jdFaML
2016/11/24(木) 09:08:49.94ID:J7jdFaML
2016/11/24(木) 09:09:06.10ID:J7jdFaML
2016/11/24(木) 09:09:21.69ID:J7jdFaML
2016/11/30(水) 21:18:01.80ID:Grxid0IB
無駄スレでも荒らしが必死
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況