Kデスクトップ環境

8.4. 精度について教えて。

kcalc の精度を決定する最大の要素は、使用されている libc と libmath が C の lond doubleデータ型をサポートしているかどうかということです。 サポートしているのであれば、kcalc はコンパイル時にこのデータ型を検出し、自らの基 本データ型としてこれを使用して数を表します。KCalc のバージョン情報ダイアログ を調べれば、ご使用中の KCalc での基本データ型の種類がわかります。

とてつもなく高性能な libc と libmath を使用されているのでないかぎり、123.22 - 123.21、2.01 - 2、123.88 - 123.87 などの計算をしようとすると、「興味深い」 結果が得られると思います。もっとも、これが欠陥であるとお思いならば、同じ計算 を Windows の電卓でぜひおこなってください。

上記の計算が正しくおこなわれるようにするためには、KCalc の設定ダイアログ上で 精度を調整してください。ご使用の KCalc の基本データ型が long double であるな ら精度 14 を、それ以外であれば 8、あるいは 10 をお勧めします。

注意: 精度を上げることが必ずしも演算結果の改善につながるわけではありません。 いろいろいじってみてください。そうすれば、私の言っていることがわかるでしょう。