文档介绍：国内图书分类号:TP183
国际图书分类号:

理学硕士学位论文

BP 神经网络改进及其
在手写数字识别中的应用

硕士研究生: 李望晨
导师: 张池平副教授
申请学位: 理学硕士
学科、专业: 计算数学
所在单位: 数学系
答辩日期: 2006 年 6 月
授予学位单位: 哈尔滨工业大学
Classified Index: TP183
:

Dissertation for the Master Degree in Science

THE IMPROVEMENT OF BP NEURAL
NETWORK AND ITS APPLICATION IN
HANDWRITTEN RECOGNITION

Candidate: Li Wangchen
Supervisor: Associate Prof. Zhang Chiping
Academic Degree Applied for: Master of Science
Specialty: Computational Mathematics
Affiliation: Department of Mathematics
Date of Defence: June, 2006
Degree-Conferring-Institution: Harbin Institute of Technology
哈尔滨工业大学理学硕士学位论文
摘要

手写数字识别技术是近年来研究的热点。传统数字识别方法中,模版法只
能适用于印刷体数字;统计决策法很难反映模式的精细结构特征;句法结构法
抗干扰能力太弱等。本文中采用BP神经网络进行手写体数字识别,应用网络极
强的非线性数据处理能力和容错能力,仅需要把经过预处理和特征提取的大量
样本数据矩阵输入给网络就可以得到数字类别输出。但是传统BP神经网络有缺
陷无法直接使用,各种网络参数的选择和确定非常复杂而且关键,文中分别对
基于梯度下降方式的改进和数值优化思想的改进两大方面进行了分析探讨,通
过一个故障模式识别仿真实验来研究不同改进算法的训练和识别性能,基于梯
度方式的动量项自适应学稳易于控制训练,识别性能较好,
但对于大规模网络训练较慢。基于数值优化的LM-BP算法训练快而且识别性能
最好,但训练不易控制且需要较大计算机内存。
本文在256M计算机内存环境下使用不同隐节点选取和几种改进方式进行
改进BP神经网络手写数字识别实验。由于手写体数字样本的特殊性,文中详细
探讨了细化预处理方法和结构特征提取方式。接下来从样本集中选取600组较规
范手写体数字样本,经过样本预处理和特征提取后建立网络,选用一种13维样
本结构特征向量来反映样本信息。,经过训练和识别测试,
隐节点数目采用经验公式选27个节点时性能最好。梯度改进方式中的动量项自
适应学习率算法和基于数值优化的LM-BP算法各种性能非常好,训练很快而且
识别率最高,识别率能达到90%。文中以图表的形式作了比较。

关键词人工神经网络;BP 算法改进;手写数字识别;预处理;特征提取
I
哈尔滨工业大学理学硕士学位论文
Abstract

Nowadays, handwritten digit recognition technique is researched importantly. In
traditional digit recognition, prototype method is only adaptive to print digit
recognition; statistics decision method is difficult reflect structure feature elaborately;
word structure has weak resisting other disturbance information. In this article, I use
BP work to recognize handwritten digit samples. According work’s
strong nonlinear digit treatment ability,