文档介绍：第３４卷 第８期 计 算 机 学 报 Ｖｏｌ．３４Ｎｏ．８
２０１１年８月 ＣＨＩＮＥＳＥＪＯＵＲＮＡＬＯＦＣＯＭＰＵＴＥＲＳ Ａｕｇ．２０１１
选择性集成学****算法综述
张春霞 张讲社
（西安交通大学理学院 西安 ７１００４９）
（西安交通大学机械制造系统工程国家重点实验室 西安 ７１００４９）
摘 要 集成学****因其能显著提高一个学****系统的泛化能力而得到了机器学****界的广泛关注，但随着基学****机数
目的增多，集成学****机的预测速度明显下降，其所需的存储空间也迅速增加．选择性集成学****的主要目的是进一步
改善集成学****机的预测效果，提高集成学****机的预测速度，并降低其存储需求．该文对现有的选择性集成学****算法
进行了详细综述，按照算法采用的选择策略对其进行了分类，并分析了各种算法的主要特点，最后对选择性集成学<br****在将来的可能研究方向进行了探讨．
关键词 选择性集成学****基学****机；集成学****机；多样性；泛化能力
中图法分类号ＴＰ１８１ 犇犗犐号：１０．３７２４／ＳＰ．Ｊ．１０１６．２０１１．０１３９９
犃犛狌狉狏犲狔狅犳犛犲犾犲犮狋犻狏犲犈狀狊犲犿犫犾犲犔犲犪狉狀犻狀犵犃犾犵狅狉犻狋犺犿狊
ＺＨＡＮＧＣｈｕｎＸｉａ ＺＨＡＮＧＪｉａｎｇＳｈｅ
（犉犪犮狌犾狋狔狅犳犛犮犻犲狀犮犲，犡犻′犪狀犑犻犪狅狋狅狀犵犝狀犻狏犲狉狊犻狋狔，犡犻′犪狀 ７１００４９）
（犛狋犪狋犲犓犲狔犔犪犫狅狉犪狋狅狉狔犳狅狉犕犪狀狌犳犪犮狋狌狉犻狀犵犛狔狊狋犲犿狊犈狀犵犻狀犲犲狉犻狀犵，犡犻′犪狀犑犻犪狅狋狅狀犵犝狀犻狏犲狉狊犻狋狔，犡犻′犪狀 ７１００４９）
犃犫狊狋狉犪犮狋 Ｉｎｒｅｃｅｎｔｙｅａｒｓ，ｅｎｓｅｍｂｌｅｌｅａｒｎｉｎｇｈａｓｒｅｃｅｉｖｅｄｌｏｔｓｏｆａｔｔｅｎｔｉｏｎｉｎｍａｃｈｉｎｅｌｅａｒｎｉｎｇ
ｄｕｅｔｏｉｔｓｐｏｔｅｎｔｉａｌｔｏｓｉｇｎｉｆｉｃａｎｔｌｙｉｍｐｒｏｖｅｔｈｅｇｅｎｅｒａｌｉｚａｔｉｏｎｃａｐａｂｉｌｉｔｙｏｆａｌｅａｒｎｉｎｇｓｙｓｔｅｍ．
Ｗｉｔｈｉｎｃｒｅａｓｉｎｇｎｕｍｂｅｒｏｆｅｎｓｅｍｂｌｅｍｅｍｂｅｒｓ，ｈｏｗｅｖｅｒ，ｔｈｅｐｒｅｄｉｃｔｉｏｎｓｐｅｅｄｏｆａｎｅｎｓｅｍｂｌｅｍａ
ｃｈｉｎｅｄｅｃｒｅａｓｅｓｓｉｇｎｉｆｉｃａｎｔｌｙａｎｄｉｔｓｓｔｏｒａｇｅｎｅｅｄｉｎｃｒｅａｓｅｓｑｕｉｃｋｌｙ．Ｔｈｅａｉｍｏｆｓｅｌｅｃｔｉｖｅｅｎｓｅｍｂｌｅ
ｌｅａｒｎｉｎｇｉｓｔｏｆｕｒｔｈｅｒｉｍｐｒｏｖｅｔｈｅｐｒｅｄｉｃｔｉｏｎａｃｃｕｒａｃｙｏｆａｎｅｎｓｅｍｂｌｅｍａｃｈｉｎｅ，ｔｏｅｎｈａｎｃｅｉｔｓｐｒｅ
ｄｉｃｔｉｏｎｓｐｅｅｄａｓｗｅｌｌａｓｔｏｄｅｃｒｅａｓｅｉｔｓｓｔｏｒａｇｅｎｅｅｄ．Ｔｈｉｓｐａｐｅｒｐｒｅｓｅｎｔｓａｄｅｔａｉｌｅｄｒｅｖｉｅｗｏｆｔｈｅ
ｃｕｒｒｅｎｔｓｅｌｅｃｔｉｖｅｅｎｓｅｍｂｌｅｌｅａｒｎｉｎｇａｌｇｏｒｉｔｈｍｓａｎｄｃａｔｅｇｏｒｉｚｅｓｔｈｅｍｉｎｔｏｄｉｆｆｅｒｅｎｔｃｌａｓｓｅｓａｃｃｏｒｄｉｎｇｔｏ
ｔｈｅｉｒｕｔｉｌｉｚｅｄｓｅｌｅｃｔｉｏｎｓｔｒａｔｅｇｙ．Ｍｅａｎｗｈｉｌｅ，ｔｈｅｍａｉｎｃｈａｒａｃｔｅｒｉｓｔｉｃｓｏｆｅａｃｈｒｅｐｒｅｓｅｎｔａｔｉｖｅａｌｇｏｒｉｔｈｍ
ａｒｅｓｔｕｄｉｅｄ．Ｆｉｎａｌｌｙ，ｔｈｅｆｕｔｕｒｅｒｅｓｅａｒｃｈｄｉｒｅｃｔｉｏｎｓｏｆｓｅｌｅｃｔｉｖｅｅｎｓｅｍｂｌｅｌｅａｒｎｉｎｇａｒｅｄｉｓｃｕｓｓｅｄ．
犓犲狔狑狅狉犱狊 ｓｅｌｅｃｔｉｖｅｅｎｓｅｍｂｌｅｌｅａｒｎｉｎｇ；ｂａｓｅｌｅａｒｎｅｒ；ｅｎｓｅｍｂｌｅｍａｃｈｉｎｅ；ｄｉｖｅｒｓｉｔｙ；ｇｅｎｅｒａｌｉｚａ
ｔｉｏｎｃａｐａｂｉｌｉｔｙ
的预测模型（学****机），使我们可以对新的未知对象
１ 引 言 给出尽可能精确的估计．因此，人们关注的一个根本
问题是如何提高学****系统的泛化能力．由于集成学
模式分类与回归问题是机器学****和模式识别等****ｅｎｓｅｍｂｌｅｌｅａｒｎｉｎｇ）在该方面的显著优势，近年
研究领域中常遇到的最基本任务之一，该任务的主 来对集成学****理论和