文档介绍：第八章 神经网络模型
前面所介绍的分析方法，都是利用统计方法的推论原理。以逻辑推算数量资料是统计方法的特色，也是它的限制，因为人类对事情的判断并不只是依靠逻辑数量分析，绝大多数都要参照各方面的信息，包括文字的、画面的、抽象的信息，，得到系统最后的结果，并将结果输出。
精选ppt
同一层内的节点相互没有联结，相邻层的节点则完全联结。每一个联结都有一个权值，以权值的大小代表传来信息的重要程度。事实上，权值正代表了网络中的知识，是经过许多次的训练过程所要学到的结果。
精选ppt
图18—1 人工神经网络结构
精选ppt
3．学****模式
人工神经网络借助调整处理单元间的权值来学****输入/输出间的关系，使网络结构能接近真实。但是有一点必须强调，人工神经网络的设计，基本上是模仿人类右脑辨认型态的功能，如果是属于精确逻辑的演算，人工神经网络并不在行，例如要计算3+3，人类可以利用左脑很精确地算出答案是6，
精选ppt
然而，人工神经网络却不具有这样的能力，。换言之，如果属于定义清楚的数学问题，却利用人工神经网络来解决，并不妥当。人工神经网络最擅长之处，在于复杂关系的辨认或是型态的对比。
精选ppt
人工神经网络的学****模式，若按照网络神经间的联结强弱来划分类，大致可分成三类：
（1）固定权重型：不需要任何学****法则。
（2）监督式学****supervised learning）：在训练过程中，直接将网络结果与实际（正确）结果比较，再不断调整联结强度，来降低实际输出资料与目标输出资料之间的差距，一直到此一差距小于一定的临界值为止。
精选ppt
此种学****模式称为监督式学****在监督式学****模式中，又可因解码方式的不同而分为前向传播式与反向传播式两种监督学****方法。
（3）无监督式学****unsupervised learning）：在训练过程中，只有输入值，没有目标输出资料，让网络自行学****及调整，又称为自组织（self-organization）学****br/> 运用在信用风险管理方面，以监督式中的反向传播式为主，以下就对此一方法作一简要说明。
精选ppt
既然是“监督式”学****模式，就要将各样本的实际结果输入人工神经网络系统中，作为每次学****修正的标杆。在反向传播算法中，以反馈方式修正权重，先由输出层开始预先计算各节点的实际输出值与目标输出值的均方误差，在求取最小误差的目的下，以梯度下降方式，逐次减低实际输出与目标输出的均方误差，据以调整权值与阀值。
精选ppt
每次权值的调整幅度与均方差的大小成正比，均方差愈大，表示目前的权值结构偏离实际愈远，所需调整幅度愈大。当所有的样本被送入网络完成学****称为一期（epoch）。经过多期学****误差不断降低，直到收敛至一稳定极小值为止。
精选ppt
在各种转换函数中以Sigmoid函数最常见，以下即以Sigmoid转换函数例示说明。
以Hk表示隐藏层第k节点的输出值：
其中：表示隐藏层的第k节点的阀值；Wik表示输入层第i节点对隐藏层第k节点的权重。
精选ppt
在运用人工神经网络的过程中，由干网络本身错综复杂，中间的程序难以找到可资依循的脉络，因此，所有的“经验”都经由学****过程以权重的方式储存在网络联结中，但是整个训练与执行的详细过程，完全是黑箱操作，外界无从了解。这和一般统计模型或是决策树模式中，规则是由专家所制定，恰好相反。
精选ppt
二、实际应用中需要考虑的几个问题
1、应用范围。神经网络模型是通过样本的学****来构建的因此，应用范围受到一定限制，尤其是难以适用于训练样本不清楚或者训练集和测试集之间存在较大偏差或者精度要求很高的系统。
2、模型选取。目前人们已推出上百种类型神经网络，原则上都可以用于信用风险估计，但常用的是BP(Back Propagation ) 神经网络。
精选ppt
3、训练样本特征提取。这是神经网络建模时最关键、最困难的事情。其困难在于样本本身含有不确定性和噪声。
4、结构设计。包括网络层数、节点数等，其核心问题是隐含层要取几层，每层节点数应取多少。隐含层具有抽象的作用，即它能从输入提取特征。要精确地确定隐含层的节点数是困难的，一般要求尽可能地减少隐含层节点数目，这样有利于提高网络泛化能力（反映的是网络对噪声和失真的处理能力）。
精选ppt
5、激励函数设计。激励函数是神经元核心所在，它决定了神经元的运动功能。目前常用的是Sigmoid函数。
6、收敛稳定问题。网络的训练最终要求收敛到给定的精度，其收敛速度、精度等都和训练算法有关。BP(Back Propagation ) 神经网络算法问题，归根到