文档介绍：合肥工业大学
博士学位论文
机器学习及其神经网络分类器优化设计
姓名:胡静
申请学位级别:博士
专业:计算机应用技术
指导教师:高隽
20070501
摘要机器学习以知识的自动获取和产生为研究目标,、自然语言处理、,讨论了机器学习的最新发展方向及面俚木咛逦侍猓⒍越研究了主动学习的分类器样本优化选择准则:针对模糊神经网络分类器设计过程中所遇非刻度一多维度收缩法对输入的所有样本进行了摊序,然后获得样本间的相似性测度值,并利类器的优化设计一直是机器学习、模式识别和数据挖掘等领域研究的核心问题,它在图像识别、器对环境的适应能力,,是机器学习和人工智能界的一个重要研究课题。本文以机器学习及其在神经网络分类器设计中的应用为研究内容,重点研究了机器学习在如下:,针对利用神经网络对同一对象的非线性结构样本集进行分类和识别时,如何合理地设计网络结构的问题,提出了一个新颖的基于低维参数空间估计的神经网络结构设计的方法。该方法以流形学习为基础,结合凳效估计出低维参数空间大小,并将此对应到神经网络结构分组设计的隐节点分组数目上,、代价大的问题,提出了一个新颖的模糊神经网络样本主动选择准则,以最小一最大边界法以及确定样本的不确定性阈值两个新概念来定义样本的选择标准,确保选择其中信息量尽可能大的样本进行标记,;针对已标记和未标记样本的混合分类问题,提出了一种基于非刻度一多维度收缩的、新的排序一模糊神经网络分类器模型。该模型首先利用用该相似性测度值指导随后的分类器超盒扩张与压缩过程。从而使得该模型不仅提高了对未标记样本进行有效分类的性能,而且无论是在网络结构方面,还是在训练时间方面都有所改进。关键词:机器学习,分类器结构优化设计,样本优化选择准则,流形学习,主动学习
.∞,甀鹠鴋...∞..’甌:.瓸辤∞.甌.∞..:.
插图清单图输出误差随次数变化的曲线,其中训练集是过训练图依据设计准则构造的网络结构⋯⋯⋯⋯⋯⋯...⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯..煌≈档囊晃餍巍惴ǘ匀肆惩枷竦慕滴图三个实验对象的凳媪谟蛑祂和嵌入维数母谋涠浠图不确定阈值法⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯.图籰协强系数随着维数增加而递减⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯.图超盒间的相似性测度⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯.图协强系数在迭代过程中的递减情况⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯.图籰神经网络分类器设计流程图用心电图特征对心脏状态进行分类的例子圈图像信息的层次特征生成示意图图流形那锌占洹图主动学习算法流程图⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯。图不同对象与同一对象样本集⋯⋯⋯⋯⋯⋯⋯...⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯..图三角形交通标识符的训练样本图流形的剩余方差与维数间的关系图三个不同的实验对象图人脸捌渚劾嘀行牡⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯图超盒并集构造的两类模式的分类空间⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯图模糊最小最大神经网络结构图图同一类别中三个不同样本的最大隶属度值排列⋯⋯图实验设计图⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯。图两个策略并用时主动学习与被动学习的比较实验图最小~最大边界法⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯个样地的肌图修改后的结构示意图⋯⋯⋯硎疽馔图模型的结构图⋯⋯⋯⋯⋯⋯⋯⋯⋯与的未标识样本分类性能比较⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯..........⋯⋯..⋯........................................
表格清单刀灾鞫八惴ǖ挠跋P陀隖P偷氖笛楸冉辖峁表各种类型神经网络的学习准则⋯⋯⋯⋯⋯⋯⋯⋯⋯。表神经网络错误率估计表机器学习方法⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯。表籰隐节点分组与不分组比较实验⋯⋯⋯⋯⋯⋯表样本集大小与低维参数空间估计⋯⋯.表籰不确定性阈值口的影响⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯.表
:≯癌迹签字日期:孤,金目跣┨本学位论文作者完全了解金目§王些塞堂有关保留、使