并行计算应用及实战

出版时间：2009-1  出版社：机械工业出版社  作者：王鹏，等 编  页数：170  
Tag标签：无  

前言

　　历史发展历程证明，人类总是在寻求最佳的问题解决方法。随着科学技术的发展，各科学及应用部门对计算机的依赖性越来越大，对计算机的性能也提出越来越高的要求，大规模的数值运算早已不再是科研部门的专利，银行、游戏娱乐行业等都成为大规模计算的重要客户。在这样的需求背景下，人们基于对下面两方面的认识，促成了并行计算技术的产生与发展。　　第一，芯片技术近几十年的发展逐渐达到物理极限，芯片的量子效应也开始出现，想大幅度提高单个芯片的计算能力面临很大的技术困难，而使用多台处理机以一定方式连接起来共同求解一个问题的并行计算机是解决大规模计算问题的一个有效途径。通过采用并行计算技术，可以使我们在现有芯片制造技术的情况下快速提升计算能力，满足日益发展的大规模计算需求。第二，同时性与并行性是客观物质世界普遍存在的属性，很多计算问题都可以划分为能够并行计算的多个子任务。　　并行计算是针对一个具体问题，利用它内在的并行性，设计并行算法，将其分解为相互独立、但彼此又有一定联系的若干个子问题，再分别交给各个处理机，由所有处理机按照并行算法完成初始应用问题的求解。这是一种达到高性能计算的手段，能够将计算能力从单个处理器扩展到多个处理器。在这里我们要和高性能计算这一概念相区别。高性能计算是指运算速度快、性能高、处理能力强的一类计算机，它提供当前最先进的计算能力，以支撑人们理解和解决复杂的计算问题。并行计算技术是实现高性能计算的一种主要方式。　　并行计算技术从产生到现在，经历了几十年的发展，其应用领域从科学及工程应用的计算模拟，到商业应用的数据挖掘及事务处理等，并对这些领域产生了巨大的影响。并行计算技术高效的处理能力极大地增强了人们进行科学研究的能力，加快了把科学技术转化为生产力的过程，推动着当代科学计算技术向纵深发展。并行计算技术现在已成为计算机科学领域的一个重要研究方向，为国防建设和国民经济发展做出了重大贡献。通过本书的学习，读者将能够亲身感受并行计算技术的魅力。　　从20世纪90年代开始，我国的并行计算专家先后出版了许多与并行计算相关的书籍，这些书籍介绍了并行机体系结构模型和并行算法设计，但很少对并行计算平台（例如机群）的具体搭建、测试和监控过程以及并行计算在其他先进技术领域的具体应用进行系统而详细的介绍。为此我们编写了本书。本书适合具备一定计算机技术基础知识、想在并行计算领域有所成就的读者，特别适合从事并行系统设计和开发的工程技术人员阅读。读者通过学习本书，不仅能够了解并行计算技术的基础知识，而且可以在有限的硬件条件下实现并行程序及并行系统的设计和开发。

内容概要

　　《并行计算应用及实战》全面讲述了从事并行技术研究及并行程序设计开发所需要的基本知识，包括并行系统的构建、并行程序的设计、并行系统的性能测试、机群监控系统的设计及并行算法设计。本书面向实际应用、贴近实战，使读者能够亲身感受并行计算技术的魅力。　　本书可以作为从事并行技术研究、设计和开发的教师、研究人员和开发人员的重要参考书，也可以作为高等院校计算机及相关专业的高年级本科生及研究生的并行技术课程的教材。

作者简介

　　王鹏，男，生于1975年，副教授、博士后、硕士研究生导师，中国计算机学会高级会员，高性能计算专委会委员，成都信息工程学院并行计算实验室主任。2004年于中国科学院获计算机软件与理论博士学位。2006年起在电子科技大学计算机科学与工程学院小波国际研究中心从事博士后研究工作，现作为项目负责人承担国家自然科学基金、中国博士后科学基金一等资助和四川省教育厅自然科学重点项目。主要研究方向为并行计算，量子计算，数据挖掘及移动搜索引擎。已发表论文50余篇，其中多篇被EI及SCI收录。

书籍目录

前言基础篇第1章 引言1.1 并行计算的概念1.2 并行计算的发展历程1.3 并行计算的应用1.4 并行计算面临的技术挑战1.5 人类对高速计算的探索第2章 并行计算机体系结构2.1 并行计算机体系结构模型2.2 Beowulf机群2.3 并行机群网络互联拓扑结构实例第3章 PC机群的搭建3.1 安装和配置基本Linux系统3.2 安装NFS文件系统3.3 配置用户环境文件3.4 配置ssh公钥认证3.5 安装和配置MPICH3,6 并行环境配置中的疑难解析3.7 SHELL技巧在并行环境中的运用3.8 采用VMware在单台PC机上建立并行环境第4章 并行程序开发——MPI编程4.1 MPI简介4.1.1 MPI的定义和特点4.1.2 MPI的发展过程4.1.3 MPI的语言绑定4.1.4 目前主要的MPI实现4.1.5 Linux的程序编辑器vi4.2 MPI并行编程知识4.2.1 MPI程序的基本结构4.2.2 MPI常用函数4.2.3 MPI的错误码4.2.4 MPI程序的一些惯例4.3 MPI消息4.3.1 MPI消息的概念4.3.2 一个简单的MPI消息传递例子4.4 MPI程序示例4.4.1 获取数据传输时间_4.4.2 计算兀值的MPI程序4.4.3 MPI的错误退出方式4.4.4 数据的循环传送4.4.5 非阻塞通信程序4.4.6 矩阵相乘的并行算法4.5 MPI中的组通信4.5.1 组通信概述4.5.2 广播4.5.3 收集4.5.4 散发4.6 MPI综合编程实例——快速排序算法的并行化4.6.1 串行程序的并行化方法4.6.2 快速排序算法原理4.6.3 快速排序法的并行化及MPI程序第5章 并行机群的性能测试5.1 机器级性能评测5.1.1 CPU5.1.2 存储器5.1.3 通信开销5.1.4 机群的规模可扩展性5.2 算法级性能评测5.2.1 机群加速比5.2.2 机群效率5.3 基准程序级性能评测5.3.1 基准测试程序的分类5.3.2 Linpack基准测试程序5.3.3 其他基准测试程序第6章 机群监控6.1 机群监控介绍6.1.1 本地化机群监控……应用篇第7章 并行数据挖掘第8章 并行遗传算法第9章 并行迭代算法第10章 并行计算前沿附录 PROC重要目录及文件细解参考文献

章节摘录

　　第1章　引言　　随着科学技术的发展与信息时代的到来，人们需要处理的数据量与日俱增，需要解决的问题也越来越复杂。人类对计算能力的需求远远快于摩尔定律所能提供的芯片发展速度，通过提高单个处理器的运算速度和采用传统的串行计算技术已难以胜任。因此，迫切需要功能更强大的计算机系统和计算技术来解决问题，并行计算机及并行计算技术应运而生，为我们提供了一种实现高速计算的方法。　　本章将介绍并行计算的概念、发展、应用和未来所面临的技术挑战。　　1.1　并行计算的概念　　计算机处理技术从数据和信息处理、知识处理发展到今天的智能处理，每前进一步，都要求增强计算机的处理能力。计算机的发展史也表明，为了达到高效而快速计算的目的，除了提高计算机系统的CPU等元器件的速度外，计算机的体系结构也必须不断改进，特别是当元器件的速度达到极限时，设计新的计算机系统结构就成为问题的焦点，量子计算、生物计算和并行计算成为人们解决高速计算新的方案，但只有并行计算技术才是目前最为现实的大幅提高计算速度的方法。另一方面，随着科学技术的发展，许多科研工作者越来越清楚地认识到“计算”已经成为与理论分析和实验并列的第三种科学研究手段，许多科研工作已无法离开高性能计算机的支持，并行处理与并行计算技术是实现高性能计算的有效途径。　　在详细讨论并行计算之前，我们先来了解几个重要概念。　　·并行处理技术是指在同一时间间隔内增加操作数量的技术。我们可以形象地把并行技术看作由多个计算机共同完成同一个任务，从而提高完成任务的效率，缩短完成任务的时间。　　·并行计算机（简称并行机）是为进行并行处理所设计的计算机系统。　　·并行计算（Parallel Computing）是相对于串行计算来说的，简单地说，就是在并行计算机上求解问题。现代大多数高性能计算机和超级计算机都离不开并行技术。本书的主要内容就是研究如何在并行机上完成指定的任务，求解指定的问题。　　并行算法可以分为数值并行算法和非数值并行算法。数值并行算法是研究基于代数关系运算的数值计算问题的并行算法，主要包括矩阵运算、方程组的求解和数字信号处理等；非数值并行算法是研究基于比较关系运算的符号处理问题的并行算法，主要包括图论问题、数据库操作和组合优化等问题。　　……　　……

编辑推荐

　　《并行计算应用及实战》特点：　　面向实际应用、贴近实战，使读者能够亲身感受并行计算技术的魅力，书中的许多内容来源于作者的科研和工作成果。　　为选择本书作为教材教师提供电子课件，需要的教师可登录华章网站（www.hzbook.com）下载。