文档介绍：国防科学技术大学
博士学位论文
基于粗糙集理论的不确定性度量和属性约简方法研究
姓名:滕书华
申请学位级别:博士
专业:电子科学与技术
指导教师:孙即祥
2010-10
国防科学技术大学研究生院博士学位论文
摘要
随着数据获取手段的快速发展,数据库数量和规模的增长速度远远超出了人
类分析和应用的能力。如何从杂乱无章的、强干扰的海量数据中挖掘出潜在的、
新颖的、正确的、有利用价值的知识,来改变“数据丰富,知识贫乏”这种局面,
已成为智能信息处理领域研究的一个重要课题。
粗糙集理论作为一种新的知识发现方法,在很多领域获得了广泛的应用,其
中属性约简是其最重要的应用之一。经过近 30 年的发展,基于粗糙集的属性约简
理论和方法得到了迅速的发展和完善,但也存在着一些问题。如,不确定性度量
在属性约简中有着重要的应用,而现有度量方法并不能精确描述集合的不确定性,
故探讨更加合理的度量方法是一个基础性问题;此外,缺乏普遍适用的高效约简
算法,这是制约粗糙集理论实用化的重要方面。据此,本文对粗糙集理论的不确
定性度量和属性约简两方面进行了系统研究,主要工作及创新如下:
(1)从知识区分能力角度在一般二元关系下提出了多种知识不确定性度量,
通过直观的文氏图表示给出了新的不确定性度量明确的粗糙集理论含义,从而使
得粗糙集理论中的不确定性度量的本质易于理解,丰富了粗糙集理论的内涵,并
为后续的属性约简算法打下了理论基础。
(2)考虑到数据对象具有不同重要性的情况,基于一般二元关系提出了新的
知识加权不确定性度量—α熵、α条件熵和α互信息。通过调整参数α分析了现有
多种不确定性度量的异同,进而将现有的多种不确定性度量统一在一般二元关系
的粗糙集模型中。新的加权不确定性度量方便地融入了主观偏好、先验知识等因
素,从而更加符合实际。
(3)在一般二元关系下提出了一种适用性更广、更加有效的加权集成不确定
性度量。理论分析和实例表明新的集成不确定性度量弥补了现有不确定性度量的
缺陷,更符合人类的认知规律,更精确的反映了粗糙集的两种不确定性。
(4)为了提高算法效率,把属性的区分能力作为启发函数,首先利用不可区
分度在一般信息系统中提出了一种能够处理噪声的、高效的完备约简算法;其次,
在决策信息系统中利用相对可区分度提出了一种高效的启发式约简算法,并给出
了该算法与代数观点和信息观点下约简算法间的关系。通过对仿真数据和 UCI 数
据集的实验结果表明,两种基于区分能力观点的约简算法不仅能有效的处理海量
数据,而且在大多数情况下能够得到紧凑约简。
(5)针对不协调决策系统,首先讨论了基于区分能力观点的约简定义和现有
的不协调决策表多种约简定义之间的关系,给出了多种简化协调决策表的概念,
进而提出了一种基于区分能力观点的高效不协调决策表约简算法。实验结果表明,
第 I 页
国防科学技术大学研究生院博士学位论文
新算法不仅可以求得现有多种方法的属性约简,而且具有较好的约简质量和较高
约简效率,适合处理具有大量冗余属性的不协调数据集。
(6)考虑到决策信息系统中的噪声,在一般二元关系下提出了两种能够抑制
噪声的近似属性约简算法,即 AAR-DV 算法和 AAR-WαA 算法,两种算法适用于
多种粗糙集扩展模型,摆脱了现有约简算法对特定二元关系的依赖。特别是
AAR-WαA 算法还将数据的先验知识引入到了约简算法中。实验表明两种近似约简
算法可有效增强抗噪性,在有效降低约简属性集规模的同时,还提高了约简结果
的分类性能。
(7)考虑到进行分类时组合多个约简将产生互补信息,在一般二元关系下提
出了一种基于加权α精度的多约简组合分类算法。通过对 UCI 数据的实验表明,
多约简组合分类算法对于存在大量约简的数据集是可行的,在不增加算法时间复
杂度基础上,不仅有效降低了特征数量,还大大提高了分类精度。
综上所述,本文提出的不确定性度量和高效属性约简算法具有明确的粗糙集
理论含义,简单易于理解,适用范围广,具有重要的理论意义和潜在的应用价值。
关键词:粗糙集;不确定性度量;属性约简;区分矩阵;不协调决策表;一
般二元关系
第 II 页
国防科学技术大学研究生院博士学位论文
Abstract
With the rapid development of technology of acquiring data, humans are difficult
to deal with this rapidly expanding amount of data. In order to solve the