最新最全数字修约

2022-05-20 16:36:24   第一文档网     [ 字体: ] [ 阅读: ] [ 文档下载 ]
说明:文章内容仅供预览,部分内容可能不全。下载后的文档,内容与下面显示的完全一致。下载之前请确认下面内容是否您想要的,是否完整无缺。下载word有问题请添加QQ:admin处理,感谢您的支持与谅解。点击这里给我发消息

#第一文档网# 导语】以下是®第一文档网的小编为您整理的《最新最全数字修约》,欢迎阅读!
最全,数字,最新

●有效数字——检验工作中实际能测量到得数字。其最后一位是可疑数! ▲万分之一的太平称得坩埚 21.3542(±0.0001)——6位有效数字 ▲百分表测得某零件内径 7.65 mm (±0.01 —— 3位有效数字

这是由于测试方法,计量器具精度、人的感官限制,观测数据只能到达一定的位数。计算出的试验结果也有确定的位数。它们统称有效数字位数。如: 2.0001 71007 五位有效数字 0.4000 34.12% 四位有效数字

0.0210 6.72% 三位有效数字 0.081 0.60% 两位有效数字

5

0.003 2×10 一位有效数字

6500 25000 有效数字位数含糊! (应科学表示,位数好定了) ●有效位数认定:

▲非整数:从非零数字最左一位向右数得的位数。

▲整数:从非零数字最左向右数得的位数减去无效0的个数。

:25000若无效0(仅为定位用的0)2个——3位; 无效03个——2位。

●有效数字运作规则:

记录测量数据或计算检验结果,应只保留一位可疑数字; 若数据首位≥8,有效位数可多保留一位; 当有效位数确定后,其后数字应一律舍去

+\-:和、差有效位数按小数点后位数最少的那个; 2.74+0.0093+43.213=45.96 (45.9623) ×\÷法:积、商有效位数按有效位数最少的那个;

3.58×120.1225×0.07812=33.6 (33.59461) 对数有效位数与其真数有效位数相等;

Ln(7.65)=2.03 (2.034706)

常数(如1/2,√2πe..,)有效位数随意; 表示准确度、精密度时,一般取1位,最多2位。

●数值修约规则: 当有效位数确定后,其后数字应一律舍去

口诀:465要看,5后有数就进15后无数看其前,奇数进1偶数舍。 如:将以下测量值修约为3位有效数字:


4.53424.53; 4.53614.54; 4.535014.54; 4.53504.54; 4.5254.52


本文来源:https://www.dywdw.cn/fab637d55bcfa1c7aa00b52acfc789eb162d9ef2.html

相关推荐
推荐阅读