小数点以下 16 桁から 400 桁の精度であらゆる計算をします。
SetPrecision (式 ; 桁数)
式
- 任意の数値式
桁数
- 小数点以下の桁数の任意の数値または数値式
数字
FileMaker Pro 7.0
拡張精度は、三角関数以外のすべての関数でサポートされています。この関数は切り捨てを行わず、定数の数値は入力された桁のまま残ります。
SetPrecision (5 / 9 ; 30)
は、「0.555555555555555555555555555556」を返します。
SetPrecision (1.321321321321321321321321321 ; 0)
は、「1.3213213213213213」を返します。
SetPrecision (If (フィールド 1 > 5 ; Exp (50) ; Average (5 / 9 ; 1 / 7 ; 5 / 7)) ; 25)
は、次のいずれかの値を返します。
フィールド 1 > 5 の場合、「5184705528587072464087.4533229334853848274691006」
フィールド 1 <= 5 の場合、「0.4708994708994708994708995」