OpenMP编译原理及实现技术.pdf

发布时间：2022-06-15 发布人：admin 分类：说明书资料大小：4.28M 资料格式：pdf 举报版权申诉

a469af95-fa7e-421a-9d11-5522fa7feebe.pdf-第1页.png

第1页 / 共250页

a469af95-fa7e-421a-9d11-5522fa7feebe.pdf-第2页.png

第2页 / 共250页

a469af95-fa7e-421a-9d11-5522fa7feebe.pdf-第3页.png

第3页 / 共250页

a469af95-fa7e-421a-9d11-5522fa7feebe.pdf-第4页.png

第4页 / 共250页

a469af95-fa7e-421a-9d11-5522fa7feebe.pdf-第5页.png

第5页 / 共250页

a469af95-fa7e-421a-9d11-5522fa7feebe.pdf-第6页.png

第6页 / 共250页

a469af95-fa7e-421a-9d11-5522fa7feebe.pdf-第7页.png

第7页 / 共250页

a469af95-fa7e-421a-9d11-5522fa7feebe.pdf-第8页.png

第8页 / 共250页

前言

第一篇基础

第2章 OpenMP编程基础

2.1 OpenMP基本概念

2.1.1 执行模式

2.1.2 OpenMP编程要素

2.2 OpenMP编程

2.2.1 并行域管理

2.2.2 任务分担

for 制导指令

for 调度

schedule子句用法

static静态调度

dynamic动态调度

guided调度

runtime调度

sections 制导指令

single制导指令

2.2.3 同步

critical临界区

atomic原子操作

barrier同步路障

nowait

master主线程执行

ordered顺序制导指令

互斥锁函数

2.2.4 数据环境控制

共享与私有化

shared子句

default子句

private子句

firstprivate子句

lastprivate 子句

flush

线程专有数据

threadprivate子句

copyin子句

copyprivate子句

归约操作

2.3 小结

第二篇OpenMP编译

第3章 OpenMP编译

3.1 OpenMP编译系统

3.1.1 编译系统

3.1.2 目标语言

3.2 OpenMP编译器结构

3.2.1 功能模块

词法分析程序

语法分析程序

语义分析程序

中间代码生成

代码优化程序

目标代码生成

信息表管理程序

错误处理

3.2.2 工作流程

3.3 编译优化

3.4 小结

第4章词法与语法分析

4.1 Lex工具

4.1.1 Lex 的正则表达式

4.1.2 Lex 使用方法

C 和 Lex 的全局声明

Lex 的模式匹配规则

辅助C 代码

4.2 OpenMP/C的词法分析

4.2.1 C语言单词

4.2.2 OpenMP单词

4.2.3 OpenMP与C语言公用单词

4.3 scanner.l

4.3.1 全局声明段

4.3.2 模式匹配规则段

OpenMP关键字

C关键字

标识符、类型说明符、常量和字符串

操作符

分割符

4.3.3 补充函数段

4.3.4 scanner.c

4.3.5 scanner.h

4.4 Yacc工具

4.4.1 Yacc

Yacc文件格式

使用方法

4.4.2 Yacc文件实例

C与Yacc的声明

语法规则

附加 C 代码

结合 Lex 与 Yacc

4.5 OpenMP/C语法分析

4.6 小结

第5章 AST的创建

5.1 中间表示

5.1.1 两种中间表示形式

语法树

三地址码

5.1.2 中间表示的选择

5.2 AST节点数据结构

5.2.1 语句节点

5.2.2 类型说明节点

5.2.3 声明节点

5.2.4 表达式节点

5.2.5 OpenMP制导节点

ompcon

ompdir

ompclause

5.3 AST节点维护函数

节点创建

辅助函数

5.4 AST的创建

5.4.1 语法制导翻译

语法制导定义

语法制导翻译

翻译方案及语义动作

5.4.2 例1 OpenMP的for节点

5.4.3 例2 C语言while语句

5.4.4 Helloworld.c 的AST

5.5 符号表

5.5.1 字符串表

5.5.2 符号表

5.5.3 符号表操作

名字字串操作

符号表操作

5.5.4 作用域管理

5.6 小结

第6章并行域管理

6.1 并行域及其嵌套

6.2 并行域管理

6.2.1 线程无关接口

6.2.2 线程的供给

6.2.3 线程层次关系

6.2.4 并行域代码封装与标识

6.2.5 任务分担问题

6.3 目标代码形式

6.4 OMPi的并行域管理

6.4.1 ORT统一界面

6.4.2 并行域代码变换

6.4.3 线程管理与控制

线程池

EECB及层次

供给与指派

任务分担信息

6.4.4 总览

6.5 小结

第7章任务分担与线程同步

7.1 for制导指令

7.1.1 for任务分担

7.1.2 循环变量分解原则

7.1.3 目标代码功能

7.1.4 目标代码形式

7.1.5 OMPi的for制导指令

默认调度（无调度子句或schedule(staitc)）

静态调度（带chunksize）

动态调度及指导调度

运行时调度

7.2 sections制导指令

7.2.1 sections任务分担描述

7.2.2 section划分原则

7.2.3 目标代码功能

7.2.4 目标代码形式

7.2.5 OMPi的sections制导指令

7.3 single制导指令

7.4 nowait问题

7.5 归约操作

7.6 线程同步

7.6.1 atomic

7.6.2 critical

7.6.3 master

7.6.4 ordered

7.6.5 nowait

7.6.6 flush

7.6.7 barrier

7.7 小结

第8章数据环境控制

8.1 共享与私有

8.1.1 非全局变量的共享

8.1.2 变量的私有化

8.1.3 threadprivate子句

8.1.4 基于进程的问题

8.2 并行域边界处理

8.2.1 private变量

8.2.2 threadprivate变量

8.3 OMPi数据环境控制

8.3.1 共享变量

8.3.2 私有变量

私有化

firstprivate和lastprivate

8.3.3 线程专有变量

threadprivate

copyin和copyprivate

8.3.4 归约变量

8.4 小结

第9章产生目标代码

9.1 源代码变换

9.1.1 变换流程

9.1.2 支撑函数

9.2 AST变换

9.2.1 拼接及创建函数

节点创建函数集

拼接函数

9.2.2 变换函数集

9.2.3 OpenMP节点变换

atomic变换

其他简单变换

9.2.4 parallel变换

AST结构变换

任务函数

9.2.5 for变换

9.2.6 sections变换

9.2.7 数据环境的处理

数据子句变换

变量收集

变量作用域与类型

9.3 代码优化

9.4 AST输出

9.4.1 OMPi的AST输出

9.4.2 OpenMP节点输出

9.5 小结

第10章运行环境

10.1 重要数据结构

10.1.1 ORT

10.1.2 线程池与EECB

10.1.3 任务分担结构

10.1.4 共享变量结构

目标代码中的共享变量

EECB中的共享变量

10.2 初始化与退出

10.2.1 ORT初始化

10.2.2 EELIB初始化

10.3 并行支撑函数

10.3.1 线程状态管理

空闲状态

工作状态

10.3.2 并行域管理

EECB接口

并行域产生与撤销

EECB关系维护

10.3.3 任务分担

初始化准备

任务分担入口

退出任务分担

for任务划分

section任务划分

single任务划分

10.3.4 同步

10.3.5 变量的数据环境

10.4 OpenMP的API

10.4.1 API函数

10.4.2 ICV变量

10.4.3 引用与链接

10.5 环境变量

10.6 小结

第三篇实践篇

第11章编译器及测试工具

11.1 常见OpenMP编译器

11.1.2 OMPi编译器

OMPi简介

OMPi安装

OMPi使用

11.3 小结

第12章 OMPi框架分析

12.1 工作流程

12.2 OMPi的处理步骤

12.3 代码转换

12.4 进程问题

12.4.1 全局变量

12.4.2 非全局共享变量

12.5 运行环境

12.5.1 初始化

12.5.2 并行域的处理

12.5.3 任务分担

12.5.4 同步

12.5.5 线程专有变量

12.5.6 与EELIB的接口

12.6 源代码文档结构

12.7 后续阅读建议

12.8 小结

第13章 ompicc.c 源码分析

13.1 ompicc工作流程

13.2 变量声明及参数处理

13.3 编译部分

13.3.1 文件名处理

13.3.2 预处理

13.3.3 代码变换

13.3.4 C编译

13.4 链接部分

内容简介本书是一本学习 OpenMP 编译原理和实现技术的入门级教材。内容分成三篇，第一篇是并行计算及 OpenMP 编程的基础内容，第二篇是 OpenMP 编译及其运行环境，第三篇是实践内容。在第二篇中，以一般编译器常见结构为主线，通过结合详细的 OMPi 源代码分析向读者介绍 OpenMP 编译器的工作原理及其实现技术，具体包括词法分析、语法分析、AST 树的结构、 AST 树的生成及相关操作、OpenMP 编译制导指令的代码变换、OpenMP 线程与 OS 线程库的接口、运行环境等细节。OpenMP 编译制导指令的变换是 OpenMP 编译的核心内容，需要将 OpenMP 制导指令的语义功能利用操作系统的线程库来实现，分成并行域管理问题、任务分担和同步问题、变量数据环境问题三个核心内容。第三篇的四章给出了常见编译器、性能测试工具以及 OMPi 源代码的框架分析。本书是国内第一本关于 OpenMP 编译器工作原理和实现细节的尝试。读者对象是研究 OpenMP 编译技术的研究人员和高校师生，作为入门的初步阅读材料，也可以作为研究生和高年级本科生学习并行语言编译技术相关课程的辅助参考书。由于作者才疏学浅，书中难免不少错漏，欢迎读者指正。联系邮件：lqm@szu.edu.cn。 1

前言编写《OpenMP 编译原理及实现技术》教材是深圳大学“计算机科学与技术国家特色专业建设点”的建设内容之一。该教材和相应课程的设计目的有三点：衔接本科《编译原理》课程、扩展 OpenMP 并行语言编译的知识、增强学生的动手实践和编程能力，书中以 OpenMP 的一个开源编译器——OMPi 作为分析对象，做到理论与实践紧密结合，为进一步学习和研究打下必要的基础。本书读者虽然不要求对编译原理有深入理解，但是还是需要先对编译有初步认识、具备基本概念。对于关心实现技术的读者，建议下载 OMPi 1.0.0 的源码并进行同步阅读。书中第一篇基础部分共两章，分别讲述并行平台和 OpenMP C 编程作为预备知识。对于没有接触过并行计算技术的读者可以作为一个补充阅读，第 2 章的 OpenMP 编程基本上将相关的语言要素作了全面的介绍，没有特殊需要一般不再需要去阅读 OpenMP 的标准。第二篇编译部分共八章，主要讲述 OpenMP 的编译器以及运行环境。第 3 章介绍 OpenMP 编译器基本框架。第 4 章介绍词法分析和语法分析，主要以 Lex 和 Yacc 工具实现 OpenMP 词法和语法分析为主要内容。第 5 章介绍 OpenMP 编译中使用的 AST 中间表示。第 6 章、第 7 章和第 8 章介绍 OpenMP 编译中的并行域管理、任务分担和同步、变量数据环境三大问题，这是 OpenMP 编译的核心所在。第 9 章讲述目标代码生成，主要是如何利用“框架”来实现 OpenMP 翻译的技术。第 10 章以 OMPi 运行环境为例讲述相应的运行环境，。第三篇实践部共有四章内容。第 11 章给出了几种常见的 OpenMP 编译器以及性能测试工具，用于读者测试自己设计的或修改的编译器性能。第 12 章、13 章和第 14 章是关于 OMPi 编译器工作流程和框架的内容，并有两个主要的上层源文件的代码分析，如果希望在 OMPi 的基础之上进行增强改进，那么这 3 章的内容将有所帮助。对学习或课程的安排可以分成不同流程，比如根据教学偏向于原理性还是实践性、是否具有并行计算基础等情况，选取书中部分章节作为参考材料，书中各章倾向性情况安排如下：预备知识第 1 章第 2 章并行计算基础 OpenMP 编程第 9 章目标代码第 10 章运行环境原理性内容 OpenMP 专有内容第 3 章第 4 章 OpenMP 编译词法语法分析第 5 章 AST 第 6 章并行域第 7 章任务分担第 8 章数据环境实践性内容第 11 章编译器及工具第 12 章 OMPi 框架第 13 章 ompicc.c 第 14 章 ompi.c 虽然书中有大量的代码，但是读者在第一遍阅读时可以只作粗略浏览，第二遍阅读时再仔细阅读代码。由于源代码阅读往往需要参考不同章节的内容，因此书中有大量的交叉引用说明。 2

如果对 OpenMP 编译有一定了解，并希望掌握 OMPi 的具体编码实现技术，可以从第 12 章开始阅读，将整体框架看完，再根据需要返回第二篇阅读编译细节。限于作者的学识水平，书中难免有不少错误和不足，恳请读者批评指正。作者在编写本书时深感“抛砖引玉”一词不仅仅是场面上的客套话，更是作者的内心体会和期望。 3

致谢本书得以顺利完稿，是许多人的共同努力！在此首先要感谢陈国良院士的支持和帮助。陈院士于 2009 年到深圳大学主持计算机与软件学院的教学科研的全面工作，作者作为其高性能团队成员有幸参与了众多高性能计算的科研工作，包括参与全国产万亿次个人高性能计算机 KD-60 研制、作为核心人员研制了 SD-1 PHPC 以及正在进行基于龙芯处理器的 SD-30 十万亿次全国产化高性能计算机的研制等等。在这些工作中，作者萌发了编写 OpenMP 编译方面的书籍，陈院士表示认可和支持并给出了非常有价值的意见和建议，这就是本书得以编写并顺利完稿的最初原因。其次需要感谢明仲教授，在本书的最初构思、规划和资料整理的初期，明仲教授不仅阅读了初步的稿件材料并给出了大量的指导和修改意见，对后期稿件也提出了许多建设性意见。刘刚老师编写了第一章的部分内容和第二章的大部分内容，毛睿老师参与了多个章节的编写和订正工作，陆克中老师阅读了初期的稿件并给出了有益的意见。正因为有了这几位老师的贡献，使本书的编写质量和水平得以提高。另有两位研究生参与了本书的编写，孔畅同学完成了第 11 章的所有实验并编写了该章内容，刘成健同学是该书的第一位真正意义上的读者，并参与了稿件查错订正工作。对于深圳大学高性能计算团队中给本书编写工作提供了各种帮助的老师和同学，不能一一尽数，在此一并表示衷心的感谢！ 4

目录第一篇基础 ............................................................................................................................. 1 第 1 章并行计算基础 ............................................................................................................. 2 1.1 基本概念................................................................................................................... 2 1.2 并行计算平台 ........................................................................................................... 3 1.2.1 典型结构 ..................................................................................................... 3 1.2.2 SMP .............................................................................................................. 5 1.2.3 NUMA .......................................................................................................... 7 1.2.4 GPU .............................................................................................................. 9 1.2.5 Cluster ........................................................................................................10 1.3 并行程序设计技术 .................................................................................................13 1.3.1 并行程序设计 ...........................................................................................14 1.3.2 OpenMP .....................................................................................................16 1.3.3 MPI .............................................................................................................16 1.3.4 CUDA ..........................................................................................................17 1.3.5 HPF .............................................................................................................18 1.4 小结 ........................................................................................................................18 第 2 章 OpenMP 编程基础 ....................................................................................................19 2.1 OpenMP 基本概念 .................................................................................................19 2.1.1 执行模式 ...................................................................................................19 2.1.2 OpenMP 编程要素 ....................................................................................20 2.2 OpenMP 编程 .........................................................................................................22 2.2.1 并行域管理 ...............................................................................................23 2.2.2 任务分担 ...................................................................................................24 2.2.3 同步 ...........................................................................................................32 2.2.4 数据环境控制 ...........................................................................................38 2.3 小结 ........................................................................................................................44 第二篇 OpenMP 编译 .............................................................................................................46 第 3 章 OpenMP 编译 ............................................................................................................ 47 3.1 OpenMP 编译系统 ................................................................................................. 47 3.1.1 编译系统 ...................................................................................................47 3.1.2 目标语言 ...................................................................................................48 3.2 OpenMP 编译器结构 .............................................................................................50 3.2.1 功能模块 ...................................................................................................50 3.2.2 工作流程 ...................................................................................................54 5

3.3 编译优化.................................................................................................................54 3.4 小结 ........................................................................................................................54 第 4 章词法与语法分析 .......................................................................................................56 4.1 Lex 工具 ..................................................................................................................56 4.1.1 4.1.2 Lex 的正则表达式 ....................................................................................57 Lex 使用方法 ............................................................................................59 4.2 OpenMP/C 的词法分析 ..........................................................................................60 4.2.1 C 语言单词 ................................................................................................61 4.2.2 OpenMP 单词 ............................................................................................61 4.2.3 OpenMP 与 C 语言公用单词 ....................................................................62 4.3 scanner.l .................................................................................................................. 62 4.3.1 全局声明段 ...............................................................................................63 4.3.2 模式匹配规则段 .......................................................................................64 4.3.3 补充函数段 ...............................................................................................69 4.3.4 scanner.c ....................................................................................................72 4.3.5 scanner.h ...................................................................................................72 4.4 Yacc 工具................................................................................................................. 73 4.4.1 Yacc ............................................................................................................73 4.4.2 Yacc 文件实例 ...........................................................................................75 4.5 OpenMP/C 语法分析 .............................................................................................. 78 4.6 小结 ........................................................................................................................81 第 5 章 AST 的创建 ................................................................................................................ 82 5.1 中间表示................................................................................................................. 82 5.1.1 两种中间表示形式 ...................................................................................82 5.1.2 中间表示的选择 .......................................................................................83 5.2 AST 节点数据结构 ..................................................................................................84 5.2.1 语句节点 ...................................................................................................84 5.2.2 类型说明节点 ...........................................................................................87 5.2.3 声明节点 ...................................................................................................88 5.2.4 表达式节点 ...............................................................................................89 5.2.5 OpenMP 制导节点 ....................................................................................90 5.3 AST 节点维护函数 ..................................................................................................95 5.4 AST 的创建..............................................................................................................96 5.4.1 语法制导翻译 ...........................................................................................96 5.4.2 例 1 OpenMP 的 for 节点 .........................................................................99 5.4.3 例 2 C 语言 while 语句 ...........................................................................100 5.4.4 Helloworld.c 的 AST .................................................................................101 5.5 符号表 ..................................................................................................................103 6

5.5.1 字符串表 .................................................................................................104 5.5.2 符号表 .....................................................................................................105 5.5.3 符号表操作 .............................................................................................106 5.5.4 作用域管理 .............................................................................................107 5.6 小结 ...................................................................................................................... 107 第 6 章并行域管理 .............................................................................................................108 6.1 并行域及其嵌套 ...................................................................................................108 6.2 并行域管理...........................................................................................................110 6.2.1 线程无关接口 .........................................................................................110 6.2.2 线程的供给 .............................................................................................111 6.2.3 线程层次关系 .........................................................................................111 6.2.4 并行域代码封装与标识 .........................................................................113 6.2.5 任务分担问题 .........................................................................................113 6.3 目标代码形式 .......................................................................................................114 6.4 OMPi 的并行域管理 .............................................................................................115 6.4.1 ORT 统一界面 .........................................................................................115 6.4.2 并行域代码变换 .....................................................................................117 6.4.3 线程管理与控制 .....................................................................................118 6.4.4 总览 .........................................................................................................122 6.5 小结 ......................................................................................................................123 第 7 章任务分担与线程同步 .............................................................................................125 7.1 for 制导指令 .........................................................................................................125 7.1.1 for 任务分担 ...........................................................................................125 7.1.2 循环变量分解原则 .................................................................................126 7.1.3 目标代码功能 .........................................................................................127 7.1.4 目标代码形式 .........................................................................................128 7.1.5 OMPi 的 for 制导指令 ............................................................................129 7.2 sections 制导指令 ................................................................................................135 7.2.1 7.2.2 sections 任务分担描述 ...........................................................................135 section 划分原则 ....................................................................................136 7.2.3 目标代码功能 .........................................................................................136 7.2.4 目标代码形式 .........................................................................................136 7.2.5 OMPi 的 sections 制导指令 ....................................................................138 7.3 single 制导指令 ....................................................................................................139 7.4 nowait 问题 ..........................................................................................................140 7.5 归约操作...............................................................................................................141 7.6 线程同步...............................................................................................................143 7.6.1 atomic ......................................................................................................143 7

7.6.2 critical ......................................................................................................143 7.6.3 master ......................................................................................................144 7.6.4 ordered ....................................................................................................144 7.6.5 nowait ......................................................................................................145 7.6.6 flush .........................................................................................................145 7.6.7 barrier ......................................................................................................146 7.7 小结 ......................................................................................................................146 第 8 章数据环境控制 ......................................................................................................... 147 8.1 共享与私有........................................................................................................... 147 8.1.1 非全局变量的共享 .................................................................................148 8.1.2 变量的私有化 .........................................................................................150 8.1.3 threadprivate 子句 ..................................................................................150 8.1.4 基于进程的问题 .....................................................................................151 8.2 并行域边界处理 ...................................................................................................151 8.2.1 8.2.2 private 变量 .............................................................................................151 threadprivate 变量 ..................................................................................151 8.3 OMPi 数据环境控制 ............................................................................................. 152 8.3.1 共享变量 .................................................................................................152 8.3.2 私有变量 .................................................................................................153 8.3.3 线程专有变量 .........................................................................................156 8.3.4 归约变量 .................................................................................................159 8.4 小结 ......................................................................................................................160 第 9 章产生目标代码 ......................................................................................................... 162 9.1 源代码变换........................................................................................................... 162 9.1.1 变换流程 .................................................................................................162 9.1.2 支撑函数 .................................................................................................164 9.2 AST 变换 ...............................................................................................................164 9.2.1 拼接及创建函数 .....................................................................................164 9.2.2 变换函数集 .............................................................................................165 9.2.3 OpenMP 节点变换 ..................................................................................168 9.2.4 9.2.5 parallel 变换 ............................................................................................172 for 变换 ...................................................................................................175 9.2.6 sections 变换 ...........................................................................................177 9.2.7 数据环境的处理 .....................................................................................178 9.3 代码优化...............................................................................................................180 9.4 AST 输出 ...............................................................................................................181 9.4.1 OMPi 的 AST 输出 ...................................................................................181 9.4.2 OpenMP 节点输出 ..................................................................................182 8

分享到：

赞收藏

资料库

OpenMP编译原理及实现技术.pdf

相关推荐

后端

热门标签

最新资料