例: 数字の検出と結果の精度の改善

関数 > 統計 > 組み合わせ解析 > 例: 数字の検出と結果の精度の改善

例: 数字の検出と結果の精度の改善

ある数値の特定の桁の数字を求めるには、基数を "目的の桁 -1" 乗し、それで数値を割り、剰余の floor を求めます。

1. 小数とその中の任意の桁の場所を定義します。

2. 関数floorおよびmodを使用して、5 桁目の数字を求めます。

<region id="ID0E1YZBB" actualWidth="197.59333333333333" actualHeight="49.352000000000004" top="307.20000000000005" left="38.400000000000006" xmlns="http://schemas.mathsoft.com/worksheet50">
  <math resultRef="7">
    <eval xmlns="http://schemas.mathsoft.com/math50">
      <apply>
        <id labels="FUNCTION" xml:space="preserve" label-is-contextual="true">floor</id>
        <apply>
          <id labels="FUNCTION" xml:space="preserve" label-is-contextual="true">mod</id>
          <sequence>
            <apply>
              <div />
              <id labels="VARIABLE" xml:space="preserve" label-is-contextual="true">x</id>
              <apply>
                <pow />
                <real>10</real>
                <apply>
                  <minus />
                  <id labels="VARIABLE" xml:space="preserve" label-is-contextual="true">n</id>
                  <real>1</real>
                </apply>
              </apply>
            </apply>
            <real>10</real>
          </sequence>
        </apply>
      </apply>
      <unitOverride>
        <placeholder />
      </unitOverride>
    </eval>
    <resultFormat>
      <decimal precision="round-trip-decimal-places" show-trailing-zeros="false" radix="dec" imaginary-value="i" />
      <matrix size="12,12" offset="0,0" show-indices="false" expand-nested-arrays="false" />
    </resultFormat>
  </math>
</region>

3. 結果の順序が結果の精度に影響する場合があることを示します。

2 つ目の定義式では、π を数値に変換しないで外側の括弧内の式が先に計算されるので、丸め誤差は生じません。

したがって、演算を適切な順序で行うことによって、結果の精度を向上させることができます。