結果の小数桁数を制御するには
1. カーソルを評価する式の最後に合わせて、シンボリック評価演算子を挿入し、プレースホルダーにキーワード float を入力します。
2. Enter キーを押して式を評価します。
キーワード float を使用した場合の結果のデフォルトの桁数は、20 です。
3. float の後に数字を入力して、表示する桁数を指定します。
 | • float の後に指定できる結果の桁数の上限はありません。 • float の後に指定する数字は、整数の桁数と分数の桁数の合計を表します。 |
桁数を減らして計算すると、計算結果の精度が低下します。float を、表示結果の桁数を減らす手段として使用してはなりません。結果の精度に影響を及ぼさずに表示桁数を減らすには、元の式の整数を小数形式で入力します。
• 基本的なシンボリック評価の入力
• 同じ式を小数形式で入力します。
• 変更因子 float を使用して、表示する桁数を指定します。
