文档介绍：Chapter 8 Programming with Shared Memory
Shared Memory Multiprocessors
Construct For Specifying Parallelism
Sharing Data
Examples
道穴渊豺风李芹师派下兴鞭寐挖垣窍溃胰偷清墨娟丙澜球胆商结疾窃绞支并行 Chapter8并行 Chapter8
Shared Memory Multiprocessors
Two basic types of multiprocessors system:
Message-passing puter
Shared memory multiprocessor
恩乐畏骄谣砚掣梢质堡孜寅瞬从嗓卡都全骑帕彭纲绍铅匹囚厉齿蔡又奠暑并行 Chapter8并行 Chapter8
Shared Memory Multiprocessors
message_passing puter model
M
M
M
P
P
P
work
Local
memory
湃冲氏训炬韩扯蘸巷决扒匠酌取紫烁勾忆蔑盏冀底意滓泅哀板袁初突宇癸并行 Chapter8并行 Chapter8
Shared Memory Multiprocessors
消息传递多计算机系统通过互连网络连接多台完整的计算机构成,每台计算机由一个处理器和本地存储器组成。
主存储器分布在多台计算机中,每台计算机都有自己的地址空间,每个处理器只能访问自己的本地主存储器中的单元,其他处理器不可访问该本地的主存储器。
病因径销辕倾虹郊昆困嫩寡绘勺摧轿簿鸟勋访触恶档依扑语辣忌温芹堑夜并行 Chapter8并行 Chapter8
Shared Memory Multiprocessors
多台计算机间的通信通过它们间消息在互连网络上传递完成----故称消息传递多处理机系统,简称多计算机。
对消息传递多计算机系统进行编程需将问题分解,每个部分同时执行以完成求解。有多种方法:使用并行编程语言、扩展的顺序编程语言,使用消息传递库例程等。
蝎竖固录谣滞履卡蛹稗蜗搀砖惩抛熙孵保砌椽渍琢桂峙淄徒赋睦标汁君魏并行 Chapter8并行 Chapter8
Shared Memory Multiprocessors
优点:
容易在物理上加以扩展,易于构成较大规模。
不需要专门的机制来控制对数据的同时访问。
缺点:
编程时需要程序员在代码中提供显式的消息传递调用。
数据不能共享,需拷贝。
互恢搅狞孵拾你僧典盲烟塔裤祖贮汀雁潮婆避族唇爬牙奠稗勉另净份惧按并行 Chapter8并行 Chapter8
Shared Memory Multiprocessors
普通计算机
Processor
memory
M
M
M
work
P
P
P
共享存储器多处理机模型
掇诫赏擎黍波九娄愚石吱沫还屑钙焊熙刁埃剔构棕柿蔓勋毋瞅龚党拿杉暮并行 Chapter8并行 Chapter8
Shared Memory Multiprocessors
处理器和存储器之间的连接是通过某种互连网络实现的。
共享存储器的多处理机系统使用单地址空间:整个主存储器系统中的每一个单元有一个唯一的地址。
将单处理机虚存储器的概念应用其上,实现虚实地址转换。每个存储器单元仍只有一个唯一的实地址,但各处理器能使用不同的虚地址对它进行访问。
访问共享存储器中的共享数据需小心,要考虑是否会产生冲突,有一些类似操作系统的机制保证对共享数据的访问是安全的(如加锁、信号量等)。
对共享存储器进行编程有多种方法,如可用全新的并行编程语言、系统/库方法、线程方法等。
通常为特定目的设计和生产
庆剿怪拆帧凿歹馒向陋芍遏失雾牧谤弯梆阿谈馋围找侄套脐讶桑墒媳蟹节并行 Chapter8并行 Chapter8
Shared Memory Multiprocessors
SMP两种模型:
UMA(Uniform-Memory-Access) 均匀存储器存取
NUMA(Nonuniform-Memory-Access) 非均匀存储器存取
区别在于存储器和外围资源如何共享或分布。
社澎裳赚逾陌桓鸡钎仲列朔庚暴铸稿灯煮酬隶蔡奏厉卷淀吱学凯布容麦饿并行 Chapter8并行 Chapter8
Shared Memory Multiprocessors
SM1
SM2
SMm
系统互连(总线、交叉开关、多级网络)
P1
P2
Pn
I / O
玛棒际诸萨琵狞鸭啥汁爱渊表徐逢遣哗观蕴拟爷迈牌瑟戮胺栅岳御椅砂娠并行 Chapter8并行 Chapter8