double型の誤差

◇-?double型の誤差-貴方のニックネーム(2005/04/14-22:03)No.253638
　┗?!Re:double型の誤差...-tetsu(2005/04/15-09:11)No.253712

253638	double型の誤差	貴方のニックネーム URL	2005/04/14-22:03
http://linux.pasokoma.jp/4_lg25422.html からの引き続きの質問 (似た現象に陥っており質問をする場合も含みます) double d1 = 1.0d; double d2 = 2.0d; として (d1/d2)を表示させようとすると0.5ではなく0.50000000001とかなることはよくありますねこれも桁あふれでしょうか？日常的な感覚では「小数第一位を含めて２桁で済むのでは？」と思ってしまいます。理由が分かりません。どなたか分かる方いらっしゃいませんか？

253712	Re:double型の誤差	tetsu	2005/04/15-09:11
記事番号253638へのコメント >(d1/d2)を表示させようとすると0.5ではなく0.50000000001とかなることはよくありますね >これも桁あふれでしょうか？これはコンピュータが10進数でなくて 2進数で計算しているための誤差です。対策としては表示桁数を8桁とかに指定することです。 10進数で計算できるソフトの場合はこのようなことは起こりません。例として10進BASIC（フリーソフト）などは、どんな場合でも正確に計算できます。

何か一言(本ページで参考になったならないを含めて残してあります)
◎：解決　○：参考になった　×：参考にならなかった　！：アドバイスあり

参考	回数	投稿日時	何か一言