Display-Calculate-Precision
最終更新日: 2019/1/3
NLFitレポートシートのフィットパラメータを使ってフィット曲線を計算するとき、計算されたフィット曲線がOriginが作成したフィット曲線と異なる場合があります。これは、Originが近似曲線を内部的に計算するために完全精度を使用するのに対し、レポートの近似パラメータはデフォルトで5桁の精度しか表示しないためです。
解析結果シートのパラメータ表内での表示は、NLFitダイアログのパラメータタブにある、有効桁数により制御されます。つまり、桁数を変更して、レポート内に表示されるフィットパラメータの精度を向上させることができます。
Note:結果ログ(表示:結果ログ) は、フル精度14桁で表示します。デフォルトの表示桁数を変更する場合、メニューの環境設定:オプションと選択して開くオプションダイアログで、数値の表現形式タブを開き、編集可能です。
キーワード: 誤り, 違い, 精度, 桁数, 数値形式, 有効桁数
必要なOriginのバージョン: 9.0SR0 以降