誤差

(2016/08/19〜2016/08/21)
  • 測定値、理論的推定値また近似計算によって得られた値と、真の値の差

  • 国語辞典より
  • コンピュータの数値表現における誤差

  • Pythonの3で1 / float(3)して小数点以下見たりするとめちゃくちゃになってて面白い
  • 最新版では大丈夫そう…?
  • 丸め誤差
  • 情報落ち
  • けた落ち
  • 打切り誤差

general(396)