関数
>
統計
>
組み合わせ解析
> 例: 数字の検出と結果の精度の改善
例: 数字の検出と結果の精度の改善
ある数値の特定の桁の数字を求めるには、基数を "目的の桁 -1" 乗し、それで数値を割り、剰余の floor を求めます。
1.
小数とその中の任意の桁の場所を定義します。
x
1654392870
n
5
2.
関数
floor
および
mod
を使用して、5 桁目の数字を求めます。
floor
mod
x
10
n
1
10
3.
結果の順序が結果の精度に影響する場合があることを示します。
6000
120
200
π
π
4
6000
120
200
π
π
4
2 つ目の定義式では、
π
を数値に変換しないで外側の括弧内の式が先に計算されるので、丸め誤差は生じません。
したがって、演算を適切な順序で行うことによって、結果の精度を向上させることができます。
式をコピー
関連トピック
最大公約数、最小公倍数、剰余
これは役に立ちましたか?
このサイトは、JavaScript が有効になっている場合に最適に動作します。