打切り誤差

(2016/08/21)
  • コンピュータにおける数値計算で発生する誤差

  • ニュートン法で近似根を求めた差異、真の値に近づく前に打ち切られて発生する
  • 要するに無限小数や大量の演算を有限回数で打ち切り、誤差が発生する
  • 応用情報技術者試験

general(396)