文档介绍：深度剖析云计算背后采用的具体技术来源:计算机世界报2008年05M12I3第17期38-40作者:淸华大学陈康郑纬民发表于:2008-08-20云计算作为一种新型的计算模式,述处于早期发展阶段。众多大小不一、类型各异的提供商提供了各自基于云计算的应用服务。本文通过介绍亚马逊、Google、IBM这三种典型的云计算实现,为读者剖析在“云计算”背后所采用的具体技术,解析当前云计算的平台建设方法以及应川构建方式。云计算作为一种新型的计算模式,还处于早期发展阶段。众多大小不一、类型各异的提供商提供了各自基于云计算的应用服务。本文通过介绍亚马逊、Google、IBM这三种典型的云计算实现,为读者剖析在“云计算”背后所采用的具体技术,解析当前云计算的平台建设方法以及应用构建方式。■清华大学陈康郑纬民实例1:Google的云计算平台与应用Google的云计算技术实际上是针对Google特定的网络应用程序而定制的。针对内部网络数据规模超大的特点,Google提出了一整套基于分布式并行集群方式的基础架构,利用软件的能力来处理集群中经常发牛的节点失效问题。从2003年开始,Google连续几年在计算机系统研究领域的最顶级会议为杂志上发表论文,揭示其内部的分布式数据处理方法,向外界展示其使用的云计算核心技术。从其近儿年发表的论文来看,Google使用的云计算基础架构模式包括四个相互独立乂紧密结合在一起的系统。包括Google建立在集群Z上的文件系统GoogleFileSystem,针对Google应用程序的特点提出的Map/Reduce编程模式,分布式的锁机制Chubby以及Google开发的模型简化的大规模分布式数据库BigTable。GoogleFileSystem文件系统为了满足Google迅速增长的数据处理需求,Google设计并实现了Google文件系统(GFS,GoogleFileSystem)oGFS与过去的分布式文件系统拥有许多相同的目标,例如性能、可伸缩性、可靠性以及可用性。然而,它的设计还受到Google应用负载和技术环境的影响。主要体现在以下四个方面:集群中的节点失效是一种常态,而不是一种界常。由于参与运算与处理的节点数冃非常庞大,通常会使用上千个节点进行共同计算,因此,每时每刻总会冇节点处在火效状态。需要通过软件程序模块,监视系统的动态运行状况,侦测错误,并口将容错以及自动恢复系统集成在系统中。Google系统中的文件大小为通常文件系统中的文件大小概念不一样,文件大小通常以G字节计。另外文件系统中的文件含义与通常文件不同,一个大文件可能包含大量数目的通常意义上的小文件。所以,设计预期和参数,例如I/O操作和块尺寸都要重新考虑。Google文件系统屮的文件读写模式和传统的文件系统不同。在Google应用(如搜索)中对大部分文件的修改,不是覆盖原有数据,而是在文件尾追加新数据。对文件的随机写是儿乎不存在的。对于这类巨犬文件的访问模式,客户端对数据块缓存失去了意义,追加操作成为性能优化和原了性(把一个事务看做是一个程序。它要么被完整地执行,要么完全不执行)保证的焦点。文件系统的某些具体操作不再透明,而且需要应用程序的协助完成,应用程序和文件系统API的协同设计提高了整个系统的灵活性。例如,放松了対GFS—致性模型的要求,这样不用加重应用程序的负担,就大大简化了文件系统的设计。还引入了原子性的追加操作,这样多个客户端同时进行追加的吋候,就不需要额外的同步操作了。总Z,GFS是为Google应用程序本身而设计的。据称,Google己经部署了许多GFS集群。冇的集群拥冇超过1000个存储节点,超过300T的便盘空间,被不同机器上的数百个客户端连续不断地频繁访问着。下图1给出了GoogleFileSystem的系统架构,一个GFS集群包含一个主服务器和多个块服务器,被多个客户端访问。文件被分割成固定尺寸的块。在每个块创建的时候,服务器分配给它一个不变的、全球惟一的64位块句柄对它进行标识。块服务器把块作为linux文件保存在木地硬盘上,并根据指定的块句柄和字节范围来读写块数据。为了保证可靠性,每个块都会复制到多个块服务器上,缺省保存三个备份。主服务器管理文件系统所有的元数据,包括名字空间、访问控制信息和文件到块的映射信息,以及块当前所在的位置。GFS客户端代码被嵌入到每个程序里,它实现了Google文件系统API,帮助应用程序与主服务器和块服务器通信,对数据进行读写。客户端跟主服务器交互进行元数据操作,但是所冇的数据操作的通信都是直接和块服务器进行的。客户端提供的访问接口类似于POSIX接口,但有一定的修改,并不完全兼容POSIX标准。通过服务器端和客户端的联合设计,GoogleFileSystem能够针对它木身的应用获得最人的性能以及可