文档介绍：该【GB 17378[1].2-1998海洋监测规范 第2部分 数据处理与分析质量控制 】是由【1781111****】上传分享，文档一共【33】页，该文档可以免费在线阅读，需要了解更多关于【GB 17378[1].2-1998海洋监测规范 第2部分 数据处理与分析质量控制 】的内容，可以使用淘豆网的站内搜索功能，选择自己适合的文档，以下文字是截取该文章内的部分文字，如需要获得完整电子版，请下载此文档到您的设备，方便您编辑和打印。:..-1998前言 本标准是《海洋监测规范》的第2部分,是在HY -91行业标准的基础上修订而成的。本标准是海洋监测的数据处理与分析质量控制的技术规定。 《海洋监测规范》包括下列部分: GB 17378. 1-1998海洋监测规范第1部分:总则 GB -1998海洋监测规范第2部分:数据处理与分析质量控制 GB -1998海洋监测规范第3部分:样品采集、贮存与运输 GB -1998海洋监测规范第4部分:海水分析 GB -1998海洋监测规范第5部分:沉积物分析 GB -1998海洋监测规范第6部分:生物体分析 GB -1998海洋监测规范第7部分:近海污染生态调查和生物监测 本标准附录A是提示的附录。 本标准由国家海洋局提出。 本标准由国家海洋标准计量中心归口。 本标准由国家海洋环境监测中心负责起草。 本标准主要起草人:张春明、陈邦龙、汪惠昌、李乃兰、徐维龙。:..中华人民共和国国家标准 海洋监测规范GB 17378. 2一1998第2部分:数据处理与分析质量控制 The specification for marine monitoringPart 2:Data processing and quality control of analysis1范围 本标准规定了海洋监测的术语及符号,离群数据的统计检验,两均数差异的显著性检验,分析方法验证,内控样的配制与应用,分析质量控制图等。 本标准适用于海洋环境监测中海水分析、沉积物分析、生物体分析、近海污染生态调查和生物监测的数据处理及实验室内部分析质量控制。海洋大气,污染物入海通量调查、海洋倾废和疏浚物调查等也可参照使用。2引用标准 下列标准所包含的条文,通过在本标准中引用而构成为本标准的条文,本标准出版时,所示版本均为有效。所有标准都会被修订,使用本标准的各方应探讨使用下列标准最新版本的可能性。 GB 8170-87数值修约规则3定义 本标准采用下列定义。 sample 可送达实验室进行分析、测试的样品,分为原始样、分析样、测定样。 sample 现场采集的初始样品。 sample 需要经过预处理,才能进人测定的样品。 sample 能够直接送交测定的待测物质的样品。 若分析样不需任何处理,分析样与测定样是一致的。3. 5平行样parallel sample 取自同一个样本互相独立的样品。 blank 标准系列中零浓度的响应值。3. 7分析空白analysis blank 在与样品分析全程一致的条件下,空白样品的测定结果。 curve国家质f技术监督局1998一06一22批准1999一01一01实施:..GB 17378. 2一1998 样品中待测项目的量值(X)与仪表给出的信号值(Y)之间的相关曲线。校准曲线分为标准曲线和工作曲线。 curve 标准系列的测定步骤与样品完全相同的校准曲线。 curve 标准系列的测定步骤比样品有所简化的校准曲线。 sensibility 某方法对单位浓度或单位量待测物质变化所致的响应量变化的程度。(Xrv) detection limit 分析方法的检出限是指95%概率,能定性区别于零的最低浓度或量。(Xa) limit of determination 是具有给定的概率(如9500),在定量上可检出非零的最低浓度或量。(a错误)type I error (a error) 原假设为真而被拒绝,又称弃真。例如,被测物为零的假设原本是正确的,却被错误地拒绝,而误判为检出,反之亦然。(A错误)type 1e rror Q3 error) 原假设不真,但被接受,又称存伪。例如,被测物为零的假设,本是错误的,却被错误地接受,而判成未检出,反之亦然。 低于检出限XH的测定结果。 在规定条件下,相互独立的测试结果之间的一致程度。 注:精密度仅依赖干随机误差,而与被测量的真值或其他约定值无关。 极差(R) 。 偏差(D) 。 相对偏差(RD) relative deviation样本分量与样本均值之差再与样本均值之比。 标准偏差standard deviation样本分量与样本均值之差的平方和除以样本量减1的平方根n-11 } }-,(XS=一X)z式中:S—标准偏差;X一一各次测定值;X—平均值; n重复测定次数;1 n },_-,(X,-Xy e当n妻20时:S=(RSD) relative standard deviation 样本标准偏差与样本均值之比。:..GB 17378. 2一1998 在重复性条件下,相互独立的测试结果之间的一致程度。 condition 在同一实验室,由同一操作者使用相同的设备,按相同的测试程序在短时间内,对同一被测对象相互独立进行的测试条件。 在再现性条件下, conditions 在进行测试的实验室,操作者,测试设备,测试程序(方法),测试时间有本质变化的情况下,对同一被测对象相互独立进行的测试条件。 测试结果与被测量真值或约定真值间的一致程度。 R」试误差error of a test 测试结果与被测量的真值(或约定真值)之差。 测试误差包括系统误差和随机误差。 error 在对同一被测量的多次测量中,它保持不变或按某种规律而变化 注:系统误差及其引起的原因可以是已知的, error 在对同一被测量的多次测试中,它受偶然因素影响而以不可预知的方式变化。 注:偶然误差是不可能被修正的。 样本的函数,它不依赖于未知参数。、字迹端正,不得涂抹。需要改正错记时,在错的数字上划一横线,将正确数字补写在其上方。,按5. 1给出的方法记取,不得任意增减数字的位数,以保证数据的精确度。,应按其保存价值,分类规定出归档要求。,应参照该分析方法中具体规定填报。若无此规定时,一般J性原则是:一个数据中只准许末尾一个数字是估计(可疑)值,其他各数字都是有效(可信)的,依此决定整数及小数的有效位数。因量纲的变化不作小数取位的硬性规定,有关计算方法的细节,见第5章。、的测试结果,应报“未检出”,但在区域性监测检出率占样品频数的1/2以上(包括1/2)或不足1/2时,未检出部分可分别取x、的1/2和1/4量参加统计运算。,视为可疑数据,。原则规定,不与内控样同步测定的项目,一律测试双平行分析样,只有个别测项如溶解氧、水中油类等须测原始样双平行(此类不必测分析样双平行)。海水双样的相对偏差允许值,若原方法无此规定,则按表1执行。 沉积物和生物体双样相对偏差表见GB 17378-6}:..GB 17378. 2一1998表1海水平行双样相对偏差表分析结果所在数量级10-0t1o lo-`一汁t3o0 -' to5击A+B一 X 100%相对偏差容许限,%4. 8天然样品加标回收率,不得越出方法给出范围值。若无此规定,参照表2,表2回收率容许值表浓度或含量范围"F'H/,%<10060-110>10080-110> 1 00090--110容量及重量法95-,若采用本规范以外的分析方法,必须按规定做方法对比验证工作,报请业务主管部门批准备案。 0,1,2,3,4,5,6,7,8,9这些数码叫数字,一个以上的数字组合构成一个数值。在一个数值中每个数字所占位置叫数位,小数点后的第一位叫十分位,以下依次为百分位、干分位……;小数点前的第一位叫个位,其前位依次为十位、百位、千位…。 一个数值中每个数位上的数字都应是有效的,只有末位数字允许是估计数字,但其波动辐度不得大于士1。例如末位数字为5时可能是4或6,而其余的各个数字都是可信的数字(定位。例外)。 表达一个数值中由几个数字组成的,叫有效数字位数。位数的多少,除了反映量值的大小之外,在分析领域中还反映该数值的准确程度。例如。.67058草酸钠,这一数值在量值上为。.6-,在准确程度上,可信数字截取在千分位上的。,在万分位的数字5是可疑的,但其波动范围小于。. 000 2 g. 数码“。”的作用变化较多,一个数值中“0"是否为有效数字,要根据“0"的位置及其前后的数字状况而定。常见的有以下四种情况:“0""数字之间的“o",,“。”都是有效数字。“o;数字后面的一切“0^都是有效数字(全整数尾部“。”例外)。 0,。。“o^,如。002 5中的三个“0”都不是有效数字,只起定位作用。5.,.“o^,可以是有效数字,也可以不是。,若必须用mg表示,则要写成1 500 mg,此数值中最后两个“o'^从表观上是有效数字,但实际上不是,因为粗天平不能达到如此高的准确程度。为了避免误解,可用指数形式表示,上例可记为1. 5 X 10' mg,或记为1 500 mg士100 mg这便明白地表示出只有两位有效数字。 数值的有效数字的位数是反映其准确程度的主要标志。为了确保数据应有的准确度,从正确地记录原始数据开始,对任何一个有计算意义的数据都要审慎地估量,正确地记载有效数值的位数。例如50 ml滴定管的最小分度值为。1 mL,又因为允许增加一位估计数字,可以记录到两位小数,如12. 34 ml。记下这一数值表明十分位上的3是刻度指示值,确切可信;百分位上的4则是估计判读的,是可疑数字,并知其波动范围为0. 02 mL,其相对误差为(()X100%=。若在原始记录中仅记为12. 3 ml,%的相对误差。由于原始记录不合理致使数据的准确度下降一个数量级。但也不可任意增加有效数字的位数。,因为不可能估计出:..GB 17378. 2一1998两位数字。原始记录的有效数字位数,既不可少,也不可多。记取的原则是根据仪器、仪表指示的最小分度值如实记录并允许增记一位估计数字。 实验室通用的计量仪表可记取的位数如下: 万分之一天平小数点后第四位即万分位。 上皿天平小数点后第二位即百分位。 分光光度计吸光值记到小数点后第三位即千分位 玻璃量器记取的有效数字位数须根据量器的允许误差和读数误差决定。 常见的一等量器准确容量的记录按表3和表40 表3一等无分度移液管准确容量的表示MI容量示值允许差准确容量2士0. 0062. 003士0. 0063. . 0010士0. 0210. 0015士0. 0315. . 0025士0. 0425. 0050士0. 0550. . 0050士0. 0550. 00100士0. . . 0500士0. 1 s500. 01 000士0. 301 000. 02 000士0. 502 000. 05门3近似计算规则 为了确保最终结果的数值中只包含有效数字(定位“。”例外),在运算中要遵守下列规则:,应与参加运算的数值中小数位数最少者相例: + 25=17. 052 25￣ . 912 25=5. 227 75￣5. 23上例最终结果只能保留两位小数,因为11. 14的末位数字4本身就不可信,其后的数字则更不可 书1一1一门门 ,保留的有效数字位数应与参加运算的几个数值中有效数字位数最 :..GB 17378. 2一1998少者‘臼同下日乐不八3对数运算对数的有效数字位数应和原数(真数)的相同。j乐卞l4平方、立方、开方运算计算结果的有效数字位数应和原数的相同砚J!、·和万、厅、告等的有效位数,须参照与之相关的数据决定保留的位数。5t?5J乐lC6来自一个正态总体的一组数据,多于4个时,其平均值的有效数字位数可比原数的增加一位。JJJJ乐下q7用于表示方法或分析结果精密度的标准差,其有效数字的位数一般只取一位;当测定次数很J多时可取两位,且最多只能取两位。。通常可取四分之一个标准差的首数所在数位,定为分析结果的尾数。例如某一测定结果为25. 352,标准差为1. 4,四分之一标准差为。. 35,其首位数字所在数位是十分位,即定为该结果的末位,可报为25. 数值修约详见GB 8170-87有关规定。,若左边第一个数字小于5(不包括5)时则舍去,即拟保留的末位数字不变。 例如将14. 2432修约到保留一位小数 修约前修约后 ,若左边第一个数字大于5(不包括5)时,则进一,即所拟保留的末位数字加一“ 例如将26. 4843修约到只保留一位小数: 修约前修约后 ,若左边第一个数字等于5,其右边的数字并非全部为“。”时·则进一;若5的右边皆为“0?,拟保留的末位数字若为奇数则进一,若为偶数(包括“。,’)则不进。 例如将下列数值修约到只保留一位小数 修约前修约后 0. 3500 0. 4 0. 4 ,若为两位以上数字时,不得连续进行多次修约,。 例如将15. 4546修约成整数。 正确的做法是: 修约前修约后(结果):..GB 17378. 2一1998 修约前一次修约二次修约 三次修约四次修约(结果) 15. 5 16 在修约计算过程中对中间结果不必修约将最终结果修约到预期位数。5. 2异常值的统计检验 一组(群)正常的测定数据,应是来自具有一定分布的同一总体;若分析条件发生显著变化,或在实验操作中出现过失,将产生与正常数据有显著性差别的数据,此类数据称为离群数据或异常值 仅怀疑某一数据可能会歪曲测定结果,但尚未经过检验判定为异常值时,称此数据为可疑数据〔 ;若仅从良好愿望出发,任意删去一些表观差异较大并非离群数据,虽由此得到认为满意的数据,但并不符合客观实际。因此,对可疑数据的取舍,,如果是过失误差,,则要按统计程序检验,决定是否舍弃。. =0. 05的临界值,则可疑数据为正常数据,应保留。5. 2. -0. 05的临界值但又不大于a= 0. 01的临界值,此可疑数据为偏离数据,可以保留,取中位数代替平均数值。-。=0. 01的临界值,此可疑值为异常值,应予剔除,并对剩余数据继续检验,直到数据中无异常值为止。 常用的检验方法如下。. 3. 1 Dixon检验法 用于一组测定数据的一致性检验和剔除异常值检验。 步骤: :.将重复,次的测定值从小到大排列为X,.,...... X.; ,求算Q值; 。,查表6得临界值Q; d按5. 2. 2条的判别准则,决定取舍。若Q>Qa. of,则可疑值为异常值,舍弃。 若Qo. o, <Q-<Q. m ,则可疑值为偏离值,可以保留,取中位数代替平均数值 若Q毛Qa. o,,则可疑值为正常值,保留。 例:一组测定值按从小到大的顺序排列为14. 56,14. 90,14. 90,14. 92,14. 95,14. 96,15. 00,15. 00,,15-02 检验最小值14. 56是否为异常值。 可疑值为最小值X时,按下式计算统计量Q:X,一X,14. =0. 755X-,. 56当n=1},显著性水平a= 0. 01 ,查表6临界值为。.597, 0. 755>>Q.。:..GB 17378. 2一1998判定最小值X,为异常值,应予剔除。 表5 Dixon检验统计量(Q)计算公式,值范围可疑数值为最小值X:时可疑数值为最大值X时Qo纂:聋Q,一X,-X1X_X,3-7Q?一萦井头_X--X_-8-106hi=-花;,--下夕- J、旅一碑、2Q,一X禹,Qzl一冬毅兰11^-13Qzc一XX.-,-Xz-X},Qn一XX.-X.-X.-,,14^-25表6 Dixon检验临界值(Q.)表一显著性水平(a)显著性水平(a). 988150. 4720. 5250. 61640. 6790. . 4540. 5070. 59550. 5570. 6420. . 57760. . . 4750. . 5070. 637190. 4120. 4620. . 5540. . 4500. . 635210. . . 3820. 4300. . . . 5460. 642240. . 497130. 4670. 5210. 615250. 3600. 4060. 489140. 4920. 5460. Grubbs检验法 用于多组测定均值的一致性检验和剔除离群值的检验。也适用于实验室内一系列单个测定值的一致性检验。 步骤: 设有L组数据,各组平均值分别为X? X, ,...... XL 1)将L个均值按大小顺序排列,最大均值记为X??,,最小均值记为7-m; 2)由L个均值(又‘)计算总均值灭和标准偏差::.、_{(X;三艺一X一XX=:X;—代表各组均值 3)根据可疑值又￣或虱分别按下式计算统计量t,或:2;t,=X一三t,一X立Xm, 4)根据给定的显著性水平a和组数L查表7得临界值; 5)按5. 2. 2条的判别准则,决定取舍; 6)若本法用于实验室内一组数据检验时,将组数L改为测定次数n,将各组平均值又,改为单次测定值X。342:..Gs 17378. 2一1998例有10个实验室分析同一样品,,,,,,,,,,检验最大值5. 39是否为离群值。?乙 -X -X X一瑞=4. 746=4. 75||艺(X一X )}|||J月今1 万-一0. 3051= 一N10一1 X5. =2. 11 t, 0. 31 当L=10, a=0. 05,查表7临界值( T,)为2. 18,判定:,t,GT?最大值5. 39为正常值。 表7 Grubbs检验临界值(Te)表}”著性水平(a) 显著性水平(a)L }L。·05。025。·01 0. 0053 1. 463 1. 496一5 - Cochran最大方差检验法 用于多组测定值的方差一致性检验和剔除离群方差检验。 步骤: 设有L组数据,每组测定,次,标准差分别为SIIS2'S7f ....SL;343:..GB 17378. 2一19981)将L个标准差((s,)按大小顺序排列,最大者记为5。,;2)计算统计量C;c一二势乙 艺S,'之钾1若n=2,即每组只有两次测定时,各组内差值分别为R?R2,R,...... RL,则要按下式计算统计量C;RC= ax一-L -?R-3)根据选定的显著性水平a、组数L,测定次数n查表8得临界值Co; 4)按5. 2. 2条异常值的判别准则,决定取舍。 例1 6个实验室分析同一样品,各实验室5次测定的标准差分别为。. 84,1. 30,1. 48,1. 67,。检验6个实验室是否为等精度。 其中:Sm..=2. 17c一SLm'一而王0. 842 布2+ 1. 30' . + 17'^"""份7V一。·308艺S} 根据选定水平a=0. 05,L=6,,一5,查表8得临界C。为。.480; 判定:<,C<? 6个实验室的测定数据为等精度,2. 17`为正常方差,应予保留 例2 7个实验室分析同一样品,各实验室两次测定的差值分别为。.0,,,,,.。9。检验极差。.9的实验室与其他实验室的测定是否为等精度。-0. 91=+0. 1z++……+0. 91艺R?官‘1选定显著性水平a=0. 01,L=7,n=2,查表8得临界值C。;0. 850>0. 838,C>Co. o, , 0. 9}属于离群方差,。.9与其他实验室的测定精度不等,应予剔除。 表8 Cochran最大方差检验临界值(Ca)表砚=2”二3月=4n=5刀=6L-0. 01a= 0. 05a=0. 01- =0. 01a= 0. 05-0. 01a=0. 05--0. 05 20. 9950. 9750. 9790. . 9060. 30. 9930. 9670. . 7980. 8340. 7460. 7930. 707 40. 9680. . . 7210. 6290. 6760. 590 . 6840. 6960. 5980. 6330. 5440. 5880. 506 . 7810. . 6260. 5320. . 5200. . 7270. 6640. 5610. . . 39780. . . 5210. 4380. . 4230. 36090. 7540. 6380. . 3580. 3870. 329100. . 4450. . 3310. 3570. 303110. 6840. . 3480. . 3320. 281120. 6530. 5410. . . 3430. 2880. 3100. 262130. . 3710. . 2710. 2910. 246140. 5990. 4920. 4270. 3520. 3490. 2910. 3040. 2550. 2740. 232150. 5750. 4710. 4070. . 2880. 2420. 2590. 220160. . 3190. . . . . 2340. 198180. 5140. 4180. . 189344:..GB 17378. 2一1998表8(完)刀=2刀=3n=4n=5n=---0. 05-0. 01-0. 05a= 0. 01-0. 05a= 0. 01a =0. 05-= 0. 05190. . 3430. 2810. 2760. 2300. 2380. 2000. 2140. . 3890. 3300. . 2200. 2290. 1920