新闻资讯
NEWS CENTER
数值修约的规则、极限数值的判定
分类: 行业资讯    作者: 节化所    来源: 江西赣腾    发布时间: 2022-04-28    
【概要描述】数值修约的规则、极限数值的判定

数值修约

将表示带有误差的测量或计算结果的数字,通过省略数值的最后若干位数字,调整所保留的末位数字,使最后所得到的近似值尽可能接近原数值的过程。(所谓“修约”就是“舍入”或“进舍”

经数值修约后的数值称为(原数值的)修约值。

 

修约间隔

修约值的最小数值单位称为修约间隔。

修约间隔的数值一经确定,修约值即为该数值的整数倍。

 

有效数字

从一个数的左边第一个非0数字起,到末位数字止,所有的数字都是这个数的有效数字。

整体遵循四舍五入”的方法。

 

极限数值

标准(或技术规范)中规定考核的以数据形式给出且符合该标准(或技术规范)要求的指标数值范围的界限值。

 

全数值比较法

将测试所得的测定或计算值不经修约处理(或虽经修约处理,但应标明它是经舍、进或未进未舍而得),用该数值与规定的极限数值作比较,只要超出极限数值规定的范围(不论超出程度大小),都判定为不符合要求。

修约值比较法

将修约后的数值与规定的极限数值进行比较,只要超出极限数值规定的范围(不论超出程度大小),都判定为不符合要求。

将测定值或其计算值进行修约,修约数位应与规定的极限数值数位一致。

当测试或计算精度允许时,应先将获得的数值按指定的修约数位多一位或几位报出,修约至规定的数位。

 

四舍五入

数学运算中一种取近似值的计算方法。省略数值的最后若干位数字,如被舍部分的头一位数满5进一,即保留数字的末位数字1,不满5舍去,保留其余各位数字不变

例: 将下列数值修约,修约间隔0.1

15.449→15.4(

15.550→15.6(

在对数值进行修约时,习惯上,通常使用“四舍五入”。但理论与实际表明“四舍五入”并不完美,因为逢五必进,使得“舍入”不平衡,总的说来是“入的多,舍的少”。

 

有效数字

例:

0.015   →两位有效数字为:1、5

0.0105  →三位有效数字为:1、0、5

0.01050 →四位有效数字为:1、0、5、0

对数的有效数字为小数点后的全部数字

例:

log x=1.23  两位有效数字为23

log a=2.045 三位有效数字为0、45

pH=2.35     两位有效数字为35

 

进舍规则“四舍六进,五单双法”(GB/T 8170-2008

拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变

拟舍弃数字的最左一位数字大于5,则进一,即保留数字的末位数字1

拟舍弃数字的最左一位数字等于5,且其后跟有0数字时进一,即保留数字的末位数字1;

拟舍弃数字的最左一位数字等于5,且其后无数字或皆0时,若所保留负数修约的末位数字为奇数(1,3,5,7,9)则进一,即保留数字的末位数字1;若所保留的末位数字为偶数(0,2,4,6,8),则舍弃。

巧记口诀:

四舍六进五考虑;

五后非零则进一;

五后皆零视奇偶;

五前为奇则进一;

五前为偶应舍去。

负数的绝对值进舍规则进去修约,最后在所得值前面加上负号。

 

规则

正数

修约间隔0.1

负数

修约间隔0.1

四舍

15.549→15.5(

-15.549→15.549→15.5(-15.5

六进

15.560→15.6(

-15.560→15.560→15.6(-15.6

五后非零

15.551→15.6(

-15.551→15.551→15.6(-15.6

五后皆零,五前为奇

15.550→15.6(

-15.550→15.550→15.6(-15.6

五后皆零,五前为偶

15.650→15.6(

-15.650→15.650→15.6(-15.6

 

不允许连续修约

拟修约数值应在确定修约间隔或指定修约数位后一次修约获得结果,,不得多次按上述规则连续修约。

例: 

正确的做法:15.549→15.5

错误的做法:15.549→15.55(→15.6

0.5单位修约

将拟修约数值X乘以2按指定修约间隔对2X依进舍规则修约,所得数值(2X修约值)再除以2。

例: 将下列数值修约到“个”数位的0.5单位修约

15.251→15.251×2=30.502→31→15.5

15.749→15.749×2=31.498→31→15.5

15.750→15.750×2=31.500→32→16.0

15.250→16.250×2=30.500→30→15.0

0.2单位修约

将拟修约数值X乘以5按指定修约间隔对5X依进舍规则修约,所得数值(5X修约值)再除以5。

例: 将下列数值修约到“个”数位的0.2单位修约

6.101→6.101×5=30.505→31→6.2

6.299→6.299×5=31.495→31→6.2

6.300→6.300×5=31.500→32→6.4

6.100→6.100×5=30.500→30→6.0


江西赣腾工程技术研究有限公司

微信公众号

首页  公司简介  新闻资讯  检测科室  业务办理  查询中心  联系我们 
地址:江西省南昌市南昌经济技术开发区龙潭路88号 邮编:330200 邮箱: 150190765@qq.com

多场所(赣州)地址:赣州经济技术开发区黄金大道31号 
多场所(南丰)地址:抚州市南丰县交通北路

多场所(上饶)地址:江西省上饶市广信区三清山西大道坑口村56号 邮编:334000
版权所有:江西赣腾工程技术研究有限公司 赣ICP备xxxxxxxx号-1 网站建设: 江西恒信云科技

全国服务热线

0791-86713712/86713265