文档介绍:《人工神经网》课程论文
SHANGHAI JIAO TONG UNIVERSITY
论文题目:基于卷积神经网络的自然图像分类技术研究
基于卷积神经网络的自然图像分类技术研究
摘要:卷积神经网络已在图像分类领域取得了很好的效果,但其网络结构及 参数的选择对图像分类的效果和效率有较大的影响。为改善卷积网络的图像分类 性能,本文对卷积神经网络模型进行了详细的理论分析,并通过大量的对比实验, 得出了影响卷积网络性能的因素。结合理论分析及对比实验,本文设计了一个卷 积层数为8层的深度卷积网络,并结合Batch Normalization> dropout等方法,在 CIFAR-10数据集上取得了 %的分类精度,有效地提高了卷积神经网络的分 类效果。
关键词:卷积神经网络,图像分类,Batch Normalization, Dropout
Research on Natural Image Classification Based on
Convolution Neural Network
Abstract: Convolution neural network has achieved very good results in image classification, but its network structure and the choice of parameters have a greater impact on image classification efficiency and efficiency. In order to improve the image classification performance of the convolution network, a convolutional neural network model is analyzed in detail, and a large number of contrastive experiments are conducted to get the factors that influence the performance of the convolution network. Combining the theory analysis and contrast experiment, a convolution layer depth convolution network with 8 layers is designed. Combined with Batch Normalization and dropout, % classification accuracy is achieved on CIFAR-10 dataset. Which improves the classification effect of convolution neural network.
Key Words:Convolution neural network(CNN), image classification, Batch Normalization,Dropout
目录
基于卷积神经网络的自然图像分类技术研究 -2 -
1弓I言 -4-
2卷积神经网络的模型分析 -5-
-5-
-6-
-7-
Softmax分类器与代价函数 -8 -
-9-
Dropout - 11 -
Batch Normalization - 12 -
3模型设计与实验分析 -13-
CIFAR-10 数据集 -13 -
-14-
-16-
4结论 -23 -
参考文献 -24 -
1引言
1986年,Rumelhart等提出人工神经网络的反向传播算法(Back propagation, BP),掀起了神经网络在机器学习中的研究热潮。但是由于BP神经 网络存在容易发生过拟合、训练时间长的缺陷,90年代兴起的基于统计学习理论 的支持向量机具有很强的小样本学习能力。学习效果也优于BP神经网络,导致 了神经网络的研究再次跌入低估。
2006年, 观点是:1)多隐层的人工神经网络具有优异的特征学习能力,学习到的数据更 能反映数据的本质特征,有利于可视化或分类;2)深度神经网络在训练上的难度, 可以通过逐层无监督训练有效克服。理论研究表明为了学习到可表示高层抽象特 征的复杂函数,需要设计深度网络