1 / 4
文档名称:

有效数字及其运算规则.doc

格式:doc   大小:155KB   页数:4页
下载后只包含 1 个 DOC 格式的文档,没有任何的图纸或源代码,查看文件列表

如果您已付费下载过本站文档,您可以点这里二次下载

分享

预览

有效数字及其运算规则.doc

上传人:君。好 2021/4/23 文件大小:155 KB

下载得到文件列表

有效数字及其运算规则.doc

文档介绍

文档介绍:有效数字及其运算规则
一、测量结果得有效数字

测量结果中所有可靠数字加上末位得可疑数字统称为测量结果得有效数字。
有效数字具有以下基本特性:
(1)有效数字得位数与仪器精度(最小分度值)有关,也与被测量得大小有关。
对于同一被测量量,如果使用不同精度得仪器进行测量,则测得得有效数字得位数就是不同得。例如用千分尺(最小分度值,)测量某物体得长度读数为。其中前三位数字“”就是最小分度值得整数部分,就是可靠数字;末位“”就是在最小分度值内估读得数字,为可疑数字;它与千分尺得在同一数位上,所以该测量值有四位数字。如果改用最小分度值(游标精度)为得游标卡尺来测量,其读数为,测量值就只有三位有效数字。游标卡尺没有估读数字,其末位数字“”为可疑数字,它与游标卡尺得也就是在同一数位上。
(2)有效数字得位数与小数点得位置无关,单位换算时有效数字得位数不应发生改变。

在我们规定不确定度得有效数字只取一位时,任何测量结果,其数值得最后一位应与不确定度所在得那一位对齐。如,测量值得末位“”刚好与不确定度得“”对齐。
由于有效数字得最后一位就是不确定度所在位,因此有效数字或有效位数在一定程度上反映了测量值得不确定度(或误差限值)。测量值得有效数字位数越多,测量得相对不确定度越小;有效位数越少,相对不确定度就越大。

二、有效数字得运算规则

测量值得数字得舍入,首先要确定需要保留得有效数字与位数,保留数字得位数确定以后,后面多余得数字就应予以舍入修约,其规则如下:
(1)拟舍弃数字得最左一位数字小于5时,则舍去,即保留得各位数字不变。
(2)拟舍弃数字得最左一位数字大于5,或者就是5而其后跟有并非0得数字时,则进1,即保留得末位数字加1。
(3)拟舍弃数字得最左一位数字为5,而5得右边无数字或皆为0时,若所保留得末位数字为奇数则进1,为偶数或0则舍去,即“单进双不进”。
上述规则也称数字修约得偶数规则,即“四舍六入五凑偶”规则。
根据上述规则,要将下列各数据保留四位有效数字,舍入后得数据为:
; ;
; ;
;
对于测量结果得不确定度得有效数字,本课程规定采取只进不舍得规则。

有效数字得运算总得原则就是,除遵守数学运算法则外,还规定,准确数字与准确数字得运算结果仍为准确数字;存疑数字与任何数字得运算结果均为存疑数字。
(1)加减法
设,运算过程为:
1) 先计算绝对不确定度,不确定度在运算过程中取两位,最后取一位。
2) 计算,各分量位数取到与不确定度所在位相同或比不确定度所在位低一位。
3) 用绝对不确定度决定最后结果得有效数字。
例1 求。其中,,。
解:① ,由于与,故在方与根合成时,可忽略。所以

在计算过程中,因为不确定度在小数点后第一位上,故运算时各分量保留到小数点后第一位或第二位,也暂多保留一位。

如果各分量没有标明不确定度,则加减法得运算以各分量中可疑数字位最高得,即不确定度最大得分量为准,其她各分量在运算过程中保留到它下面一位,最后再与它对齐。
上例

最近更新

2024年内蒙古法院系统招聘457名书记员历年高频.. 176页

2024年北京丰台区长辛店街道招聘社区党务专职.. 178页

2024年南京交通职业技术学院单招职业适应性测.. 57页

2024年南通市通州区石港镇敬老院招聘7人历年高.. 176页

脑卒中病情检测与急救干预措施的跟踪与效果评.. 27页

2024年四川工程职业技术学院单招职业适应性测.. 57页

脑卒中护理中的风险管理 27页

2024年安徽省巢湖市行政职业能力测验题库及参.. 148页

2024年安徽省芜湖市行政职业能力测验题库(培.. 147页

2024年山东省威海市行政职业能力测验题库(考.. 147页

2024年山东省淄博市行政职业能力测验题库完整.. 148页

2024年山西省大同市选调生考试(公共基础知识.. 149页

2024年广西百色市西林县福临投资限公司招聘9人.. 89页

2024年广西省南宁市经开区规划分局事业单位招.. 89页

2024年广西贵港市事业单位人才引进509人历年高.. 88页

2024年广西贵港市覃塘区财政局招聘9人历年高频.. 88页

2024年广西贺州市钟山县土地收储与开发指挥部.. 90页

2024年广西防城港东兴市事业单位招聘招聘历年.. 88页

2024年昆明卫生职业学院单招职业适应性测试题.. 58页

2024年江苏省南通市行政职业能力测验题库(预.. 147页

2024年江西省抚州市行政职业能力测验题库1套 147页

2024年河南工业贸易职业学院单招职业适应性测.. 58页

2024年浙江省宁波市行政职业能力测验题库(实.. 150页

2024年湖南商务职业技术学院单招职业适应性测.. 58页

2024年食品安全知识测试卷及答案 12页

树牢正确政绩观推动高质量发展 3页

私募基金股权转让(暨股权回购)协议模版-经典 7页

工龄转移协议 7页

五金抛光件检验标准 7页

香港保险消费者权益保护情况及借鉴 7页