文档介绍：深度学习发展现状王宇航(北京交通大学计算机与信息技术学院,北京,100044)摘要:深度学习是机器学习研究中的一个新的领域,其动机在于建立、模拟人脑进行分析学习的神经网络,它模仿人脑的机制来解释数据。近年来,随着深度学习逐渐收到各界的广泛关注,其在各个尖端领域的作用也越来越大,深度学习已经在诸多领域取得客观的成就。本文简要介绍深度学习的基本理论及思想,:深度学习;机器学习;人工智能;无监督学习引言2011年,斯坦福人工智能实验室主任吴恩达领导Google的科学家们,用16000台电脑模拟了一个模拟人脑神经网络出来,并向这个网络展示了1000万段随机从YouTube上选取的视频,,,这种机器学习与我们通常意义上说的“机器识别”,需要人工输入一些用于对比的数据,或者一些已经进行初步分类、打好标签的数据,机器通过学习这些数据的共同点,得出规律,,这是一种“有监督的学习”,需要人工输入初始数据,有时候还要对识别结果进行判断,“无监督的学习”.它基于一种学术假设:即人类对外界环境的了解过程最终可以归结为一种单一算法,而人脑的神经元可以通过这种算法,:吴恩达给神经网络输入了一个单词“cat”,这个神经网络中并没有辞典,,它最终确定,,与一个不懂英语的人,在没任何人教他的时候,通过独立观察学会“cat”,,其动机在于建立、模拟人脑进行分析学习的神经网络,它模仿人脑的机制来解释数据。深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征,以发现数据的分布式特征表示。核心思想把学习结构看作一个网络,则深度学习的核心思路如下:①无监督学习用于每一层网络;②每次用无监督学习只训练一层,将其训练结果作为其高一层的输入;③用监督学习去调整所有层历史发展图灵在1950年的论文里,提出图灵试验的设想,即,隔墙对话,你将不知道与你谈话的,是人还是电脑。这无疑给计算机,尤其是人工智能,预设了一个很高的期望值。但是半个世纪过去了,人工智能的进展,远远没有达到图灵试验的标准。2006年前,尝试训练深度架构都失败了:训练一个深度有监督前馈神经网络趋向于产生坏的结果(同时在训练和测试误差中),然后将其变浅为1(1或者2个隐层)。2006年,加拿大多伦多大学教授、机器学习领域的泰斗GeoffreyHinton和他的学生RuslanSalakhutdinov在《科学》上发表了一篇文章,开启了深度学习在学术界和工业界的浪潮。这篇文章有两个主要观点:1