丸め誤差 — CAE用語解説
丸め誤差
定義
有限桁の浮動小数点演算による誤差。倍精度(64bit)で約15-16桁の有効数字。
CAEにおける位置づけ
CAE（Computer-Aided Engineering）の文脈において、丸め誤差は数値シミュレーションの精度、効率、信頼性に関連する概念である。
関連用語
- 打ち切り誤差
- 条件数
- 数値安定性
Project NovaSolver — Practitioner-Driven R&D
We are working to address the everyday challenges CAE engineers face. Share your experiences to help shape better tools.
Subscribe to Updates →