本书内容包括：并行编程概览；OpenACC概览；OpenACC计算构件；数据管理；计算区域内的过程调用；高级特性；与GPU生态环境互操作等。

HPC领域资深专家推荐，中国*大OpenACC技术社区创建者撰写，不可多得的OpenACC技术专著
全面讲解OpenACC编程规范、语法的行为机理与设计动机，160个完整示例覆盖众多并行编程场景

　前　　言 2010年以来，中国超级计算机建设突飞猛进，欣欣向荣。一个原因是国力强盛，大力投资高新科技；另一个原因是整体科技水平提高，需求旺盛。天气预报、石油物探、工程仿真、基因测序等传统应用对计算资源的需求持续增长，以深度学习为代表的人工智能大爆发，资金雄厚的互联网公司对计算能力极度渴求。超级计算机的建设、应用主战场正在从教育科研单位转向科技企业。
　　为什么要写这本书面对浩如烟海的数据，CPU已经力不从心，因此世界领先的超级计算机都装备大量的加速器或者众核处理器。
　　目前主流加速器产品是NVIDIA GPU、AMD GPU和Intel至强Phi协处理器。三种加速器使用的编程语言分别为CUDA C/CUDA Fortran、OpenCL和MIC导语。加速器计算有4个困难。
　　一是CUDA/OpenCL等低级语言编程难度大，且需要深入了解加速器的硬件结构。而大部分的用户不是专业编程人员，学习一门新的编程技术将耗费大量时间。
　　二是加速器的计算模型与CPU差别很大，移植旧程序需要几乎完全重写。大量的旧程序在性能优化上已经千锤百炼，稳定性上也久经考验，完全重写是不可完成的任务。
　　三是低级编程语言开发的程序与硬件结构密切相关，硬件升级时必须升级软件，否则将损失性能。而硬件每隔两三年就升级一次，频繁的软件升级将给用户带来巨大负担。
　　四是投资方向难以选择。三种加速器均有自己独特的编程语言，且互不兼容。用户在投资建设硬件平台、选择软件开发语言时就会陷入困境，不知三种设备中哪个会在竞争中胜出。如果所选加速器将来落败，将会带来巨大损失；而犹豫不决又将错过技术变革的历史机遇。
　　OpenACC应运而生，可以克服这4个困难。OpenACC的编程机制是，程序员只在原程序中添加少量编译标识，编译器根据作者的意图自动产生低级语言代码。无须学习新的编程语言和加速器硬件知识，便能迅速掌握。只添加少量编译标识，不破坏原代码，开发速度快，既可并行执行又可恢复串行执行。在硬件更新时，重新编译一次代码即可，不必手工修改代码。OpenACC标准制定时就考虑了目前及将来的多种加速器产品，同一份代码可以在多种加速器设备上编译、运行，无成本切换硬件平台。掌握OpenACC后，编写程序省时、省力、省心。
　　本书特色笔者学习超算技术时有过苦泪：教材一上来就讲技术细节，只能机械地学习，不清楚这些算法、语法要解决什么问题，花费巨大精力后却发现解决不了自己的难题；新技术的资料往往是英文的，而且零碎，还不一定准确，收集、学习成本很高，求助无门；科学计算领域的祖师语言Fortran现在有点小众，新技术资料更少。为节省读者时间，本书特别重视易读性、易用性，具体有如下特点。
　　第一本中文OpenACC技术书籍，方便国内读者系统阅读，快速掌握。
　　全面、准确：本书覆盖OpenACC的所有特性，重要特性结合例子详细讲解，不常用的特性列出标准定义，方便查找。对特性、功能的描述均来自OpenACC规范，并用实例验证，确保准确。
　　大量的例子：书中的示例代码超过160个，不是代码片断，而是完整代码，拿来即用。全部由笔者编写、测试，运行无报错。
　　兼顾C/C++和Fortran：以C/C++为主来讲解，但所有的例子都有Fortran版的代码，Fortran专用特性会详细讲解。物理、气象等领域积累的优秀Fortran代码可以借此移植到新硬件上，重焕生机。
　　阅读轻松：按照并行程序的编写、调优顺序，先交代各阶段面临的问题，然后自然引入OpenACC提供的解决办法，最后实测验证效果。一切顺理成章，读者不会有云里雾里的感觉。
　　读者对象科学家：迅速改造旧程序，快速编写新的原型程序验证算法、理论，将更多的时间投入到高价值的科研创新中去。
　　企业程序员：一套程序适配多种运行平台，维护简单；性能敏感的部分用CUDA等低层语言编写，性能不敏感部分用OpenACC编写，相互配合，兼得程序性能和开发效率。
　　本科生、研究生：花最少的时间掌握一门计算工具，省出时间学习更多的知识。
　　如何阅读本书第1章介绍超级计算技术的发展趋势和并行编程概况，可以从中了解OpenACC的作用。没有CUDA C基础的读者能够掌握基本概念，便于深入理解OpenACC的并行化技术。第2章介绍OpenACC语言的设计思路。第3～4章是本书的核心，将计算部分并行化，并将数据传递时间减到最少。至此，读者已经能够编写性能良好的OpenACC程序。第5～7章介绍高级并行技术，以进行极致性能优化，以及与CUDA C/CUDA Fortran和各类库的混合编程。第8章给出OpenACC规定的所有运行时例程，不用细读，用到时再参考。第9章指导部署开发环境，以便快速上手。
　　勘误和支持本人水平有限，错误与疏漏在所难免，恳请批评指正。联系笔者请发送电子邮件至hpcfan@foxmail.com。更多技术资源请访问www.gpujisuan.com。技术交流QQ群284876008（将满）、564520462，欢迎加入。
　　致谢感谢国家并行计算机工程技术研究中心漆锋滨老师撰写第10章，并为本书作序。感谢PGI美女工程师王珍、帅气工程师仰琎歆、Daniel Tian、资深专家Mathew Colgrove的技术支持。感谢机械工业出版社的策划编辑高婧雅尽心协力。

何沧平，华为高级工程师，NVIDIA认证 CUDA培训师。曾任中科曙光HPC事业部工程师，完成全球天气预报程序并行化项目（加速30倍）和国家气象局天气预报程序并行化项目等，实战经验丰富。精通OpenACC、CUDA Fortran、CUDA C，熟悉OpenMP、MPI编程。2012年初开始关注研究OpenACC，陆续翻译OpenACC 1.0/2.0/2.0a/2.5语言规范以及《CUDA Fortran高效编程实践》，撰写大量在线技术教程，并建立中国*大OpenACC QQ交流群和资源网站，持续推广。

序 
前言 
第1章　并行编程概览1 
1.1　加速器产品1 
1.1.1　英伟达GPU3 
1.1.2　英特尔至强融核处理器9 
1.2　并行编程语言12 
1.3　CUDA C14 
1.3.1　线程组织方式16 
1.3.2　运行过程18 
1.3.3　内存层级20 
1.3.4　性能优化技术21 
第2章　OpenACC概览22 
2.1　OpenACC规范的内容23 
2.1.1　抽象加速器模型25 
2.1.2　存储模型25 
2.1.3　计算执行模型26 
2.2　OpenACC 2.5规范29 
第3章　OpenACC计算构件36 
3.1　条件编译37 
3.2　导语格式38 
3.3　计算构件kernels40 
3.3.1　构件内有1个循环41 
3.3.2　构件内2个循环44 
3.3.3　构件内二重嵌套循环45 
3.3.4　kernels构件内三重嵌套循环48 
3.4　loop构件52 
3.4.1　independent子语53 
3.4.2　reduction归约子语57 
3.4.3　不常用的子语64 
3.5　计算构件parallel66 
3.5.1　gang单独模式68 
3.5.2　gang分裂模式70 
3.5.3　二重循环73 
3.5.4　三重循环75 
3.6　组合导语77 
3.7　案例研究：Jacobi迭代78 
3.7.1　CPU上并行化84 
3.7.2　GPU上并行化88 
3.8　原子操作：atomic导语91 
第4章　数据管理97 
4.1　数据属性、数据区域和数据生存期99 
4.2　计算构件的伴随数据区域100 
4.2.1　引用计数101 
4.2.2　present子语102 
4.2.3　copy子语104 
4.2.4　copyin子语105 
4.2.5　copyout子语107 
4.2.6　create子语108 
4.2.7　数据子语内的子数组111 
4.2.8　private私有子语112 
4.2.9　承上私有firstprivate子语115 
4.2.10　带有预置数据属性的变量116 
4.2.11　default默认子语117 
4.2.12　案例研究：Jacobi迭代优化数据传输117 
4.3　data构件119 
4.3.1　数据管理功能119 
4.3.2　deviceptr子语121 
4.3.3　案例研究：data构件迭代优化Jacobi数据传输122 
4.4　enter data导语和exit data导语128 
4.4.1　C++类的数据生存期129 
4.4.2　传递设备数据指针133 
4.5　update导语135 
4.6　declare导语138 
4.6.1　device_resident子语139 
4.6.2　create子语140 
4.6.3　link子语140 
4.6.4　用法举例141 
4.7　特定设备的子语146 
第5章　计算区域内的过程调用148 
5.1　routine导语150 
5.2　seq子语（C版）151 
5.3　seq子语（Fortran版）152 
5.4　routine（名字）154 
5.5　bind子语155 
5.6　用子语指定并行级别155 
5.6.1　vector级别并行156 
5.6.2　worker、worker级别并行159 
5.7　计算圆周率π160 
第6章　高级特性164 
6.1　异步操作164 
6.1.1　async子语165 
6.1.2　wait子语165 
6.1.3　wait导语166 
6.2　设备计算与主机计算重叠166 
6.3　设备上同时执行多个队列169 
6.4　重叠计算与数据传输172 
6.4.1　步骤0：串行代码174 
6.4.2　步骤1：计算并行化177 
6.4.3　步骤2：分块计算178 
6.4.4　步骤3：数据分块传输179 
6.4.5　步骤4：重叠计算与传输181 
6.5　双向传输183 
6.6　多个设备同时运算185 
6.6.1　环境变量186 
6.6.2　运行过程中选择设备186 
6.6.3　OpenMP调动多个设备195 
第7章　与GPU生态环境互操作202 
7.1　OpenACC调用CUDA C203 
7.2　OpenACC调用CUDA Fortran205 
7.3　CUDA C调用OpenACC207 
7.4　捆绑主机地址与设备地址208 
7.5　CUDA Fortran调用OpenACC210 
7.6　OpenACC（C）调用cuBLAS211 
7.7　OpenACC（Fortran）调用cuBLAS212 
第8章　运行时函数213 
8.1　运行时库的定义213 
8.2　运行时库例程215 
8.2.1　acc_get_num_devices215 
8.2.2　acc_set_device_type216 
8.2.3　acc_get_device_type217 
8.2.4　acc_set_device_num217 
8.2.5　acc_get_device_num218 
8.2.6　acc_init218 
8.2.7　acc_shutdown219 
8.2.8　acc_async_test219 
8.2.9　acc_async_test_all220 
8.2.10　acc_wait220 
8.2.11　acc_wait_async221 
8.2.12　acc_wait_all221 
8.2.13　acc_wait_all _async222 
8.2.14　acc_get_default_async222 
8.2.15　acc_set_default_async223 
8.2.16　acc_on_device223 
8.2.17　acc_malloc224 
8.2.18　acc_free224 
8.2.19　acc_copyin225 
8.2.20　acc_create226 
8.2.21　acc_copyout227 
8.2.22　acc_delete228 
8.2.23　acc_update_device229 
8.2.24　acc_update_self230 
8.2.25　acc_map_data231 
8.2.26　acc_unmap_data231 
8.2.27　acc_deviceptr231 
8.2.28　acc_hostptr232 
8.2.29　acc_is_present232 
8.2.30　acc_memcpy_to_device233 
8.2.31　acc_memcpy_from_device233 
8.2.32　acc_memcpy_device234 
第9章　开发环境搭建235 
9.1　Windows 7236 
9.2　Linux（rhel）244 
9.3　编译工具、特性支持度247 
第10章　在神威·太湖之光上使用OpenACC253 
10.1　SW26010众核处理器253 
10.2　存储模型254 
10.3　执行模型256 
10.4　数据管理256 
附录　著名超级计算机259 
后记　码农的悲喜264

对于想要掌握OpenACC使用技巧和编程精髓的读者来说，本书是一本非常具有参考价值的学习教程。与传统的技术书籍相比，本书更加注重内容的可读性和易读性，逻辑清晰，内容全面准确，且更加注重编程实践，有大量的C/C++/Fortran完整代码实例，便于读者学习和实践。作为*一本中文的OpenACC技术书籍，可谓为国内的编程学习者带来了福音。
——漆锋滨 CCF常务理事，国家并行计算机工程技术研究中心研究员