1 / 6
文档名称:

理解机器学习算法的一点心得.doc

格式:doc   大小:184KB   页数:6页
下载后只包含 1 个 DOC 格式的文档,没有任何的图纸或源代码,查看文件列表

如果您已付费下载过本站文档,您可以点这里二次下载

分享

预览

理解机器学习算法的一点心得.doc

上传人:feng1964101 2018/9/15 文件大小:184 KB

下载得到文件列表

理解机器学习算法的一点心得.doc

相关文档

文档介绍

文档介绍:理解机器学习算法的一点心得从Andrewng的公开课开始,机器学习的算法我接触到的也越来越多,我觉得机器学习算法和传统算法的最大不同就是:不会要求一个问题被100%求解,也就意味着不会有完美的解法,这也是著名的“Essentially,allmodelsarewrong,butsomeareuseful.”所表达的意思。正因为如此,机器学习算法往往不会有一个固定的算法流程,取而代之的把问题转化为最优化的问题,无论是ML(maximumlikelihood),MAP(MaximumaPosterior)和EM(ExpectationMaximization),都是这样的。   然后用不同的方法来优化这个问题,得到尽量好的结果,给人的感觉就像是一个黑盒,实际使用中需要不断地调参实验,但倘若你能理解好算法,至少能让这个盒子透明一点,这也是机器学习算法确实需要使用者去理解算法的原因,举个例子:传统算法比如一些高效的数据结构,我只需要知道一些接口就可以使用,不需要进行太多的理解,了解传统算法更多的是理解算法的思想,开阔思路,增强能力;而机器学习算法,你即使知道接口,也至少要调一些参数来达到实际使用的目的。   这样一来,阅读各类书籍和paper也就在所难免了,甚至去阅读代码以至于实现加深理解,对于实际使用还是有很大的好处的,因为不是100%求解问题,所以面对不同的应用场景,想要达到最好的效果都需要加以变化。本文记录了一点自己学习的心得,私以为只要你能对算法有一种说得通的解释,就是OK的,不一定要去深挖其数学上的证明(表示完全挖不动啊…………>_<)=====================================================================O. 目的   之前说到机器学习算法常常把问题转化为一个最优化问题,理解这个最优化问题的目的能很好地帮助我们理解算法,比如最简单的最小二乘法(Least-squares):        (这里的x是参数,和一些机器学习的常用表示里面有出入)   好多机器学习入门书都是从最小二乘开始引入的,其实这是线性代数(还是概率统计?囧rz)的课本内容嘛。   理解上式应该非常简单呐,括号内的就是目标值和与测试的差,取平方之后抹掉正负,而该式是要最小化这个东西,那么这个优化问题的“目的”就是最小化预测函数在训练集上的误差。   当然这是最简单的一个例子了,我们接着看朴素贝叶斯分类器的优化目标:                            (这里xi,yi是训练集,π和θ是参数)    无论他后面怎么变化,用了什么优化方式,该算法的目的就是在训练集上最大化这个东西,只不过对于朴素贝叶斯来说,它加入了非常强的假设来简化问题而已。                 然后朴素贝叶斯用了一系列的参数来描述这个需要优化的概率值,为了达到目的还是用了log来变换一下,但对于你来说,只需要记住他的“目的”,就可以很容易地理解算法了。一. 趋势    接下来要讲的是"趋势",广义上来说和目的是一回事,但算法的优化目标的一些部分是与算法总体目的相对分割的,比如一些正则化(regularization)的项,这些项对于算法实际使用效果往往有着重大影响,但并不绝对大的方向(目的),所以“趋势”我们单独开一章来

最近更新

体验式教学在生物化学教学中的应用探索 2页

低碳钢退火板中粗大晶粒成因探讨 2页

低渗透油藏超前注水理论及其应用 2页

低压网络短路电流计算及应用问题思考 2页

传统活性污泥法新增脱氮除磷功能的成功改造实.. 2页

优化资源配置是货币政策目标之一 2页

优势·劣势·突破口——商业部门发展外向型经.. 2页

企业视角看技术标准实施作用的实证初探 2页

企业搞不活的原因分析及根治建议 2页

灵活用工劳动合同示例 6页

滩涂开发承包合同 6页

以有限尺寸的感温元件测取瞬态温度的方法 2页

渔业合作发展承包合同书 5页

从蛋白质效价决定大豆制品的最佳工艺条件 2页

深圳房屋租赁规范合同 6页

从模拟实验结果讨论石油地球化学中几个重要问.. 2页

从市场角度探索解决新能源发展中的问题 2页

从卫星影像上分析海南岛第四纪玄武岩的分期 2页

从《资本论》中探索提高社会主义经济效益的途.. 2页

消防安全工程劳务分包合同模板集 6页

人造大理石树脂中试通过技术鉴定 2页

人民币汇率变动对我国就业影响的滞后效应分析.. 2页

人小细胞肺癌放射免疫治疗的实验研究 2页

济南市二手房买卖居间合同模板 6页

活动宣传推广合同范本 6页

交联法在分子生物学研究中的应用 2页

沿街商铺租赁合同典范 6页

井楼油田浅丛式试验井组的钻井工艺技术 2页

汽车零部件年度供应合同 6页

汽车购销合同协议 6页