四捨五入の常識/非常識
たとえば、1.25 と 1.15 を有効桁数2桁に四捨五入する場合、両方とも最後の桁が偶数になるように、1.2 に丸めるので正しいのだけど、(後略)
odz buffer - [Computer]四捨五入

 えーっと、そんな事、四捨五入して30歳になるまで知りませんでした orz。

 ちょっと調べてみたところ、上記のような最後の桁が偶数になるように丸める四捨五入の方法は、別名「銀行型丸め」と言うそうな。

 参考:Radium Software Development - Banker's Rounding

 金融系のシステムを作ってる連中にとっては、常識なのかな?
[PR]
by fkmn | 2007-02-15 23:57 | IT
<< YAPC::Asia 2007... YahooPipes で Bi... >>


とあるWebアプリケーションエンジニアの日記
S M T W T F S
1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30
カテゴリ
以前の記事
ブログパーツ
リンク
検索
タグ
最新のトラックバック
プログラミングが「出来る..
from とりあえず9JP?
Genographic ..
from ナンジャモンジャ
ジュセリーノ
from ありの出来事
くちこみブログ集(ライフ..
from くちこみブログ集(ライフ)(..
以降、丁寧語で行こう!
from エッセイ的な何か
その他のジャンル
ファン
記事ランキング
ブログジャンル
画像一覧

fkmnの最近読んだ本 フィードメーター - フッ君の日常 あわせて読みたい AX