예제: 엄격한 부울 비교
부울 비교 및 절단 함수에 사용되는 정확도 수준을 제어하는 근사 등호 옵션을 설정합니다.
1. 함수를 정의합니다.
2. Newton's Method를 구현하는 프로그램을 작성하고 기본 제공 함수
root의 결과와 비교합니다.
| root 함수는 TOL에 따라 달라지지만 10-5보다 큰 TOL에는 응답하지 않습니다. |
3. 계산 탭, 워크시트 설정 그룹, 계산 옵션 아래에 있는 계산 옵션 중에 선택된 것이 없는지 확인한 다음 Newt를 호출하고 함수 이름, 추측값 및 최대 반복 횟수를 전달합니다.
TOL의 기본값(TOL:=TOL1)을 사용하면 Newt가 50회의 반복을 수행할 수 있으며 이러한 반복을 통해 엄격한 계산 하에서 최상의 근사 결과에 도달할 수 있습니다.
| 근사 등호 옵션이 활성화되어 있지 않으면 –10-307에서 +10-307 사이의 숫자가 0으로 간주되고 숫자의 배정밀도 부동소수점 표현을 사용하여 비교가 엄격하게 계산됩니다. |
4. 2단계로 이동하고 TOL을 TOL2로 설정합니다. Newt가 20번의 반복으로 정확한 결과에 도달합니다.
5. 2단계로 이동하고 TOL을 다시 TOL1로 설정합니다.
6. 계산 탭의 워크시트 설정 그룹에서 계산 옵션을 클릭한 다음 근사 등호를 선택합니다.
Newton's Method에서 반환되는 값이 -0.152137970680457에서 -0.152137970680580으로 변경되며 19번의 반복으로 이 값에 도달합니다.
| 근사 등호 옵션이 활성화되어 있으면 두 숫자의 차에 대한 절대값을 그 평균으로 나눈 값이 10-12보다 작아야 두 숫자가 같은 값으로 간주됩니다. |
7. 반환된 값이 등호 테스트를 통과하는지 확인합니다.
8. 2단계로 이동하고 TOL을 TOL2로 설정합니다. root에서 반환되는 값이 -0.152137970680456에서 -0.152137970680457로 변경되며 19번의 반복으로 이 값에 도달합니다.
9. 반환된 값이 등호 테스트를 통과하는지 확인합니다.