裏表(Phinloda のもう裏だか表だか分からないページ)

コンピュータ・プログラミング系の話がメインのそれなりにごちゃごちゃしたネタばかり出てくるサイトです。多分。
<< Eclipse の様子がおかしかったのだが | Top | ヘッドホンの延長ケーブルを新しくしたのだが >>
有効数字が指定された場合の計算方法を調べたのだが

例えば 0.12 × 0.34 × 0.56 である。有効数字2桁の場合は、有効数字3桁で計算しておいて、最後に四捨五入して有効数字2桁にすればいいのだが、問題は途中の計算をどうするかである。進研ゼミのページには、途中計算は切り捨てと書いてある。

有効数字の考え方について|理科|苦手解決Q&A|進研ゼミ高校講座|ベネッセコーポレーション

四捨五入に関しては、以前、JIS Z 8401 に対応するコードを書いたことがある。PHP だと対応したライブラリがあったような気がする。

JUGEMテーマ:日記・一般

| 独り言 | 20:26 | comments(0) | trackbacks(0)
スポンサーサイト
| - | 20:26 | - | -
コメント
コメントする









この記事のトラックバックURL
http://phinloda.jugem.cc/trackback/4122
トラックバック
Powered by "JUGEM"
▲このページの先頭へ
CALENDAR
S M T W T F S
1234567
891011121314
15161718192021
22232425262728
293031    
<< October 2017 >>
NEW ENTRIES
CATEGORIES
ARCHIVES
NEW COMMENTS
NEW TRACKBACKS
LINKS
PROFILE