HI,欢迎来到学术之家,发表咨询:400-888-7501  订阅咨询:400-888-7502  股权代码  102064
0

核心运算隔离分段式处理的数学函数可靠性优化

作者:道路数学函数可靠性优化核心运算隔离分段式处理量法函数误差优化

摘要:针对基础数学函数在高性能计算中可靠性较差的问题,本文提出了一种核心运算隔离分段式处理的数学函数可靠性优化方法。首先采用寄存器运算对浮点异常情况进行编码优化,然后在浮点函数运算过程中,以集中运算的方式对核心运算进行隔离,并对运算异常阶段进行分段式处理,最后结合基础数学函数算法特点,以低误差的幂运算和求和运算为主体实现一种适用于基础数学函数的低误差计算方法。仿真实验结果表明,本文提出的方法对于以计算密集型存在的众多高性能计算,能够降低其计算误差。

注:因版权方要求,不能公开全文,如需全文,请咨询杂志社

科技通报

《科技通报》(CN:33-1079/N)是一本有较高学术价值的大型月刊,自创刊以来,选题新奇而不失报道广度,服务大众而不失理论高度。颇受业界和广大读者的关注和好评。 《科技通报》多次评为“浙江省优秀期刊”、“华东地区优秀期刊”,是《中国科技论文统计源期刊》、《中国科学引文数据库来源期刊》,中国科技优秀期刊。2000年后先后被《中文优秀期刊要目总览》、《中国优秀期刊(遴选)数据库》、《中国学术期刊文摘》、《中国生物学文摘》、《中国生学文献数据库》等收录。获奖情况:浙江省优秀科技期刊一等奖。

杂志详情