谈计算机数值运算的精度问题 |
| |
引用本文: | 羊四清.谈计算机数值运算的精度问题[J].湖南人文科技学院学报,1994(4). |
| |
作者姓名: | 羊四清 |
| |
摘 要: | 本文以调和级数求和问题为背景,根据计算的精度要求,对求和算法不断进行改进,逐步推导出计算机中数值运算的高精度算法和程序,解决了由于计算机受机器字长的限制,不能进行多位(16位以上)数的精确计算问题.程序采用pascal语言的过程和函数书写,结构清晰,过程功能比较独立,能移植到需要进行高精度精确计算的程序中去。
|
关 键 词: | 调和级数,数值计算,精度,误差 |
本文献已被 CNKI 等数据库收录! |
|