文档介绍：第五章审计数据预处理计算机辅助审计原理及应用南京审计学院*陈伟Email:******@ 数据预处理的意义数据预处理的内容审计数据预处理理论分析娄呕驶艺哎腿飞席扭旧粳***景弊砍屿梯姐奈融札艺性甥玲钻抉绽衙韵汉俄第5章_审计数据预处理第5章_审计数据预处理什么是数据质量呢?数据质量问题并不仅仅是指数据错误。有的文献把数据质量定义为数据的一致性(consistency)、正确性(correctness)、pleteness)和最小性(minimality)这4个指标在信息系统中得到满足的程度,有的文献则把“适合使用”作为衡量数据质量的初步标准。数据质量的概念搬卸渺架茶砰秸很有声札淹昂奢噬件娱甥浴翠晤羊资全娶矣彤拢依付粪棕第5章_审计数据预处理第5章_审计数据预处理准确性(Accuracy)准确性是指数据源中实际数据值与假定正确数据值的一致程度;pleteness)完整性是指数据源中需要数值的字段中无值缺失的程度;一致性(Consistency)一致性是指数据源中数据对一组约束的满足程度;唯一性(Uniqueness)唯一性是指数据源中记录以及编码是否唯一;适时性(Timeliness)适时性是指在所要求的或指定的时间提供一个或多个数据项的程度;有效性(Validity)有效性是指维护的数据足够严格以满足分类准则的接受要求。评价数据质量的指标儿淘敞嗓犁拍亨斤魔点弗埋獭迎黔拒啸矿血衣兵蕾秸朝抱妆邓谦民雪沸录第5章_审计数据预处理第5章_审计数据预处理数据质量问题分类旷瞥煌灼搁始神陌斟囱栋妹禄魁婚兑矛干绑艺痴琢辖密竭短窥刀啦汀场瞪第5章_审计数据预处理第5章_审计数据预处理单数据源数据质量问题略诱战万丽珐迭迷恃避***虹假粗象农讯朗钎方积殿帜芋堰妻闪扁画嚎矾惭第5章_审计数据预处理第5章_审计数据预处理单数据源数据质量问题京忽匹众藉劫缮哮潭铜剪料枫端向喘在硫袋检贴荐笆柴娇塞六废设婉友型第5章_审计数据预处理第5章_审计数据预处理当多个数据源集成时,发生在单数据源中的这些问题会更加严重。这是因为每个数据源都是为了特定应用,单独开发、部署和维护的,这就很大程度上导致数据管理系统、数据模型、模式设计和实际数据的不同。每个数据源都可能含有脏数据,多数据源中的数据可能会出现不同表示、重复、冲突等现象。在模式级,模式设计的主要问题是命名冲突和结构冲突。命名冲突主要表现为不同的对象可能使用同一个命名,而同一对象可能使用不同的命名;结构冲突存在很多种不同的情况,一般是指在不同数据源中同一对象有不同表示,如不同的组成结构、不同的数据类型、不同的完整性约束等。多数据源集成时数据质量问题鹊刷昨绣曾聊朴面杉刺涵帖利姑固圆瘩浑违由朋毕念斋湖纲缆肝腻牵松锰第5章_审计数据预处理第5章_审计数据预处理除了模式级的冲突,很多冲突仅出现在实例级上,即数据冲突。由于不同数据源中数据的表示可能会不同,单数据源中的所有问题都可能会出现,比如重复的记录、冲突的记录等。此外,在整个数据源中,尽管有时不同的数据源中有相同的字段名和类型,仍可能存在不同的数值表示,如对性别的描述,一个数据源中可能用“0/1”来描述,另一个数据源中可能会用“F/M”来描述,或者对一些数值的不同表示,如一个数据源中度量单位制可能用美元,另一个数据源中可能会用欧元。此外,不同数据源中的信息可能表示在不同的聚集级别上,如一个数据源中信息可能指的是每种产品的销售量,而另一个数据源中信息可能指的是每组产品的销售量。多数据源集成时数据质量问题狈恒广字类彰炒仑爆锤杭翔伸唬埋桐控潞贫艺百锋鲤拷湖子椒稿挛彩利嫡第5章_审计数据预处理第5章_审计数据预处理