本书是一本构建大规模高效算法的综合性实用书籍，介绍各种并行技术，从R语言的并行版本lapply()的简单应用到基于Hadoop和ApacheSpark框架的高级AWS云。在本书的后，你将了解到影响并行效率的因素，包括：评估代码性能和实现负载平衡；要避免的陷阱，包括死锁和数值不稳定问题；对于你的项目，如何为适合的并行类型构建代码和数据；如何在各种计算机系统中运行R代码获取佳性能。本书针对那些想要超越单线程和内存限制的R程序员，使其从中学习如何实现高效大规模算法，这是对大数据高性能处理的必要条件。

　　并行计算是一种通过执行多条指令来解决大型复杂计算问题的有效算法，可以显著提高计算机系统的计算速度和处理能力。R语言是目前非常流行的一种开源程序语言，在统计学和生物学等学科中得到了广泛应用。本书成功地借助于R语言实现了并行计算的多种有效算法，并且通过案例分析了如何运用R语言执行并行计算。同时详细介绍了并行计算中的R程序包的使用，如SPRINT包提供了一套从R中调用并行计算的MPI函数。全书案例简单易懂，程序翔实，叙述清晰。本书4位作者都是计算机专业的资深专家和学者，从事并行计算多年，发表了众多成果。本书的引进有益于读者运用R语言进行并行计算的研究，读者可以结合实际应用来学习本书中讨论的算法和模型。
　　本书的翻译得到了国家自然科学基金（项目编号71461005）和广西高校数据分析与计算重点实验室的资助。特别感谢桂林电子科技大学研究生姚家进、郭梦菲、秦文哲在翻译本书中所做的出色工作。
　　由于时间和水平所限，难免会有不当之处，希望同行和读者多加指正和批评。
　　前言
　　我们正处于信息爆炸时代。从个人到全世界，生活中的一切都变得越来越与物联网实时关联。据预测，到2020年，世界上的数据将超过现在的10倍，达到惊人的44泽字节（1泽字节相当于2500亿张DVD）。为了解决大数据的规模和速度问题，我们需要巨大的计算、内存和磁盘资源，而为此就需要并行计算。
　　尽管使用的时间不长，但R作为一种开源统计编程语言，逐渐成为人们分析数据的关键基础技术之一。我敢说R现在是“数据科学家”的主流编程语言之一。
　　当然，数据科学家可能会部署许多其他工具来处理大数据的一些困难问题，如Python、SAS、SPSS或MATLAB。然而，自从1997年以来，随着开源语言的深入发展，R语言非常流行，在20年中开发了许多存放于CRAN镜像站点的R添加包，这些添加包适用于几乎所有形式的数据分析，从小型数值矩阵到庞大的符号数据集，如生物分子DNA。事实上，我认为R语言正成为“事实上”的数据科学脚本语言，它可以融合许多不同类型的高度复杂数据的分析方法。
　　R语言自身总是按照单线程来实现的，而且其原有的程序设计并没有应用并行机制。然而，为了达到某些功能的并行目的以及使用并行处理框架，R语言需要借助于某些特别开发的外部添加包。我们将重点关注一些目前技术范围内可用的好的并行算法。
　　在本书中，我们将介绍并行计算的各个方面，从单程序多数据（SPMD）到单指令多数据（SIMD）向量处理，包括用R添加包parallel来利用R内置的多核功能、用消息传递接口（MPI）进行消息传递、用OpenCL处理通用GPU（GPGPU）的并行性。我们还将探讨并行性的不同框架方法，从利用任务分配的负载均衡到网格空间处理。我们将通过Hadoop了解云计算中更通用的批量数据处理，以及集群计算中的热门新技术Apache Spark，它更适合大规模的实时数据处理。
　　我们甚至会探索如何使用真正的数百万英镑的超级计算机。是的，我知道你可能没有这样的计算机，但是在本书中，我们会告诉你如何使用它，以及并行计算的效果。说不定，随着知识的更新，你可以来到当地的超级计算机中心，并说服他们让你进行一些大规模的并行计算！
　　本书中展示的所有编码示例都具有原创性，选择这些示例的原因是为了不复制其他书中可能遇到的例子。亲爱的读者，选择这些代码的原因是希望能让你与普通读者有一点不同。作为作者，我们非常希望你享受这个过程。

　　西蒙R. 查普尔（Simon R. Chapple）是一位经验丰富的解决方案架构师和**软件工程师，从事数据分析和医疗信息系统解决方案和应用的开发超过25年。他也是超级计算机HPC和大数据处理方面的专家。
　　Simon是Datalytics科技有限公司的**技术官和管理合伙人，带领一个团队建设下一代大规模数据分析平台，该平台建立在一组由高性能工具、框架和系统所构成的可定制的工具集合基础上，可以使从数据采集、分析到呈现的整个实时处理周期，轻松地部署到任何已有的IT操作环境中。
　　此前，他在Aridhia信息公司担任产品创新总监，为苏格兰的医疗服务供应商建立了多个新系统，包括为苏格兰18周转诊治疗和癌症患者的管理而提供的一体化病人路径跟踪系统，该系统应用了10个单独数据系统的集成（减少病人等待时间，从而提供**的服务）。他还利用公共云托管监测系统，为实时化疗患者建立了专门的移动系统，该系统在澳大利亚进行了临床试验，受到护士和病人的高度赞扬，“**像在你的起居室里有一位护士……希望所有的化疗病人每天都有天使般的安全舒适的护理环境。”
　　Simon也是ROpenCL开源软件包的作者之一，该添加包使得用R编写的统计程序可以应用图形加速器芯片中的并行计算能力。
　　对于SPRINT这一章，我特别要感谢爱丁堡并行计算中心的同事以及本书审阅者Willem Ligtenberg、Joe McKavanagh和Steven Sanderson，谢谢他们的积极反馈。我还要感谢Packt出版社的编辑团队为本书的**终出版付出的辛勤劳动。感谢我的妻子和儿子的理解，他们给我珍贵的时间使我成为一名作者，谨以此书献给我爱的Heather和Adam。
　　伊丽·特鲁普（Eilidh Troup）是爱丁堡大学EPCC的应用顾问。她拥有Glasgow大学的遗传学学位，现在专注于为广大用户尤其是生物学家提供高性能计算。Eilidh致力于各种软件项目，包括为基于网络的科学数据存储库提供简单的并行R接口（SPRINT）和SEEK。
　　托斯顿·福斯特（Thorsten Forster）是爱丁堡大学的数据科学研究员。他具有统计学和计算机科学背景，并获得了生物医学科学博士学位，在这些交叉学科研究方面拥有超过10年的经验。
　　Thorsten利用统计学和机器学习（如微阵列和下一代测序）研究生物医学的大数据分析方法，他曾经是SPRINT项目的项目经理，该项目的目标是允许潜在用户使用R统计编程语言对大型生物数据集应用并行分析解决方案。他还是Fios Genomics公司的联合创始人，该公司是一家大学孵化的提供生物医学大数据研究的数据分析服务公司。
　　目前，Thorsten的工作是设计用于诊断新生儿细菌感染的基因转移分类器、分析巨噬细胞干扰素激活的转移谱、调查胆固醇对感染免疫的作用，以及研究导致儿童气喘的基因因素。
　　Thorsten的完整资料可以在http://tinyurl.com/ThorstenForsterUEDIN上获得。
　　特伦斯·斯隆（Terence Sloan）是爱丁堡大学高性能计算中心EPCC的软件开发小组经理。他在苏格兰中小企业、英国公司以及欧洲和全球合作方面拥有超过25年的管理和参与数据科学和高性能计算项目的经验。
　　Terry获得过Wellcome Trust（基金号086696/Z/08/Z）、BBSRC（基金号BB/J019283/1）研究基金，以及帮助开发R语言SPRINT添加包的3个EPSRC分布式计算科学基金。他在使用行为大数据进行客户行为分析方面获得过ESRC奖（获奖号RES-189-25-0066、RES-149-25-0005）。
　　Terry是爱丁堡大学HPC数据科学硕士项目的HPC数据分析、项目准备和论文课程的责任人。
　　我要感谢Alan Simpson博士，他是EPCC的技术总监、ARCHER超级计算机的计算科学和工程总监，感谢他支持SPRINT的开发及其在英国国家超级计算机上的应用。

目录  Contents
译者序
前言
关于作者
第1章　简单的R并行性1
1.1　亚里士多德数谜2
1.1.1　求解程序的实现2
1.1.2　改进求解程序6
1.1.3　将问题分解为多个任务10
1.2　R的并行包14
1.2.1　使用mclapply()15
1.2.2　使用parLapply()19
1.2.3　并行负载均衡21
1.3　segue包23
1.3.1　安装segue24
1.3.2　设置AWS账户25
1.3.3　运行segue27
1.3.4　求解亚里士多德数谜32
1.4　总结34
第2章　消息传递入门36
2.1　为MPI设置系统环境36
2.1.1　为MPI选择R包37
2.1.2　选择MPI子系统37
2.1.3　安装OpenMPI38
2.2　MPI标准39
2.2.1　MPI的世界39
2.2.2　安装Rmpi40
2.2.3　安装pbdMPI41
2.3　MPI API43
2.3.1　点对点阻塞通信44
2.3.2　点对点非阻塞通信56
2.3.3　集体通信60
2.4　总结65
第3章　高级消息传递66
3.1　网格并行性66
3.1.1　创建网格集群68
3.1.2　边界数据交换70
3.1.3　中值滤波73
3.1.4　平铺分配图像74
3.1.5　中值滤波网格程序76
3.2　检查和管理通信84
3.3　lapply()的函数变体87
3.4　总结89
第4章　开发SPRINT—超级计算机的基于MPI的R包90
4.1　关于ARCHER91
4.2　从R中调用MPI代码92
4.2.1　MPI Hello World92
4.2.2　从R中调用C94
4.3　建立一个MPI R包—SPRINT97
4.3.1　简单的并行R接口（SPRINT）包97
4.3.2　SPRINT包的体系结构99
4.4　将一个新函数添加到SPRINT包中100
4.4.1　下载SPRINT源代码101
4.4.2　在R中创建一个存根—phello.R102
4.4.3　添加接口函数—phello.c103
4.4.4　添加实现函数—hello.c105
4.4.5　连接存根、接口和实现106
4.4.6　编译并运行SPRINT代码110
4.5　基因组学分析案例研究112
4.5.1　基因组学113
4.5.2　基因组数据115
4.6　基因组学与超级计算机116
4.6.1　目标116
4.6.2　ARCHER超级计算机116
4.6.3　随机森林120
4.6.4　基因组分析案例研究的数据122
4.6.5　ARCHER中的随机森林性能122
4.6.6　排名产品127
4.6.7　ARCHER中的排名产品性能128
4.6.8　结论131
4.7　总结132
第5章　笔记本中的超级计算机133
5.1　OpenCL133
5.2　ROpenCL包142
5.2.1　ROpenCL编程模型142
5.2.2　距离矩阵示例153
5.3　总结161
第6章　并行程序设计的艺术162
6.1　理解并行效率163
6.1.1　加速比163
6.1.2　阿姆达尔定律164
6.1.3　并行或者不并行165
6.2　数值逼近167
6.3　随机数170
6.4　死锁172
6.5　减少并行开销175
6.6　自适应负载均衡178
6.6.1　任务场178
6.6.2　有效的网格处理179
6.6.3　成功并行化的3个步骤180
6.6.4　未来将会怎样181
6.6.5　混合并行性184
6.7　总结185