中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
鲲鹏小智

介绍

众所周知,计算机执行的数值计算都会有精度损失,不能做到像数学理论公式计算那样完美准确。工业软件对一定范围的精度损失是可控且可以接受的,但如果超过了允许范围就需要软硬件工程师逐步排查损失精度的计算环节,此过程非常复杂且效率低下。本文结合鲲鹏计算平台系统化阐述了数值计算精度误差产生的原因、改进措施和计算方法,并推出了一种可以提升效率的自动化分析工具,对相关领域开发者和科研人员会大有裨益。需要明确的是,计算误差和精度损失是由数据计算方法和计算机数据表示等方面决定的,各种计算平台(如x86、ARM等)都会存在,并不能说明孰优孰劣,计算结果往往是性能和精度权衡的结果。

本书系统化阐述了数值计算差异产生的原理和分析方法,并介绍了相关工具的原理和实现,可适用于软件开发、数值计算分析等对此方向感兴趣的工程师和研究人员。

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词