HI,欢迎来到学术之家,发表咨询:400-888-7501  订阅咨询:400-888-7502  股权代码  102064
0

工程数学中数值计算应注意的一些原则

作者:郭洪林; 汤志浩数值计算准确值误差有效数字

摘要:指出了工程问题的数值计算中出现误差的渠道及原因,分析了这些误差可能会引起的后果。通过具体例子说明要避免这些误差须遵循的原则。用数值稳定性好的计算方法;两个数量级相差很大的数进行加减运算时,防止小的那个数加减不到大的数中;避免两个相近的数相减,损失有效数字;防止出现机器零和溢出停机;在除法运算中,避免除数的绝对值远小于被除数的绝对值;简化计算步骤,减少运算次数。

注:因版权方要求,不能公开全文,如需全文,请咨询杂志社

泰州职业技术学院学报

《泰州职业技术学院学报》(CN:32-1599/G4)是一本有较高学术价值的双月刊,自创刊以来,选题新奇而不失报道广度,服务大众而不失理论高度。颇受业界和广大读者的关注和好评。 《泰州职业技术学院学报》致力于将本刊办成传播理论,沟通信息,开拓视野的窗口和阵地。

杂志详情