首页
在浮点数尾数下溢处理时,最大误差最大,但下溢处理不需要时间,平均误差又趋于0的方法是
2024-08-04 01:51:54
计算机系统结构(02325)
在浮点数尾数下溢处理时,最大误差最大,但下溢处理不需要时间,平均误差又趋于0的方法是
A、截断法
B、舍入法
C、ROM查表法
D、恒置“l”法
【正确答案】:D
【题目解析】:
由下图很清晰看到,误差最大的是D截断法
舍入法
恒置“1”法
查表舍入法
上一篇:
在IBM370系统中,支持操作系统实现多进程公用区管理最有效的指令是
下一篇:
系列机软件应做到