17.2.203. MPI_Ialltoallw
MPI_Alltoallw, MPI_Ialltoallw, MPI_Alltoallw_init - 所有进程向其他所有进程发送不同类型的数据,并从所有进程接收不同类型的数据
17.2.203.1. 语法
17.2.203.1.1. C语法
#include <mpi.h>
int MPI_Alltoallw(const void *sendbuf, const int sendcounts[],
const int sdispls[], const MPI_Datatype sendtypes[],
void *recvbuf, const int recvcounts[], const int rdispls[],
const MPI_Datatype recvtypes[], MPI_Comm comm)
int MPI_Ialltoallw(const void *sendbuf, const int sendcounts[],
const int sdispls[], const MPI_Datatype sendtypes[],
void *recvbuf, const int recvcounts[], const int rdispls[],
const MPI_Datatype recvtypes[], MPI_Comm comm,
MPI_Request *request)
int MPI_Alltoallw_init(const void *sendbuf, const int sendcounts[],
const int sdispls[], const MPI_Datatype sendtypes[],
void *recvbuf, const int recvcounts[], const int rdispls[],
const MPI_Datatype recvtypes[], MPI_Comm comm, MPI_Info info,
MPI_Request *request)
17.2.203.1.2. Fortran语法
USE MPI
! or the older form: INCLUDE 'mpif.h'
MPI_ALLTOALLW(SENDBUF, SENDCOUNTS, SDISPLS, SENDTYPES,
RECVBUF, RECVCOUNTS, RDISPLS, RECVTYPES, COMM, IERROR)
<type> SENDBUF(*), RECVBUF(*)
INTEGER SENDCOUNTS(*), SDISPLS(*), SENDTYPES(*)
INTEGER RECVCOUNTS(*), RDISPLS(*), RECVTYPES(*)
INTEGER COMM, IERROR
MPI_IALLTOALLW(SENDBUF, SENDCOUNTS, SDISPLS, SENDTYPES,
RECVBUF, RECVCOUNTS, RDISPLS, RECVTYPES, COMM, REQUEST, IERROR)
<type> SENDBUF(*), RECVBUF(*)
INTEGER SENDCOUNTS(*), SDISPLS(*), SENDTYPES(*)
INTEGER RECVCOUNTS(*), RDISPLS(*), RECVTYPES(*)
INTEGER COMM, REQUEST, IERROR
MPI_ALLTOALLW_INIT(SENDBUF, SENDCOUNTS, SDISPLS, SENDTYPES,
RECVBUF, RECVCOUNTS, RDISPLS, RECVTYPES, COMM, INFO, REQUEST, IERROR)
<type> SENDBUF(*), RECVBUF(*)
INTEGER SENDCOUNTS(*), SDISPLS(*), SENDTYPES(*)
INTEGER RECVCOUNTS(*), RDISPLS(*), RECVTYPES(*)
INTEGER COMM, INFO, REQUEST, IERROR
17.2.203.1.3. Fortran 2008 语法
USE mpi_f08
MPI_Alltoallw(sendbuf, sendcounts, sdispls, sendtypes, recvbuf, recvcounts,
rdispls, recvtypes, comm, ierror)
TYPE(*), DIMENSION(..), INTENT(IN) :: sendbuf
TYPE(*), DIMENSION(..) :: recvbuf
INTEGER, INTENT(IN) :: sendcounts(*), sdispls(*), recvcounts(*),
rdispls(*)
TYPE(MPI_Datatype), INTENT(IN) :: sendtypes(*)
TYPE(MPI_Datatype), INTENT(IN) :: recvtypes(*)
TYPE(MPI_Comm), INTENT(IN) :: comm
INTEGER, OPTIONAL, INTENT(OUT) :: ierror
MPI_Ialltoallw(sendbuf, sendcounts, sdispls, sendtypes, recvbuf,
recvcounts, rdispls, recvtypes, comm, request, ierror)
TYPE(*), DIMENSION(..), INTENT(IN), ASYNCHRONOUS :: sendbuf
TYPE(*), DIMENSION(..), ASYNCHRONOUS :: recvbuf
INTEGER, INTENT(IN), ASYNCHRONOUS :: sendcounts(*), sdispls(*),
recvcounts(*), rdispls(*)
TYPE(MPI_Datatype), INTENT(IN), ASYNCHRONOUS :: sendtypes(*),
recvtypes(*)
TYPE(MPI_Comm), INTENT(IN) :: comm
TYPE(MPI_Request), INTENT(OUT) :: request
INTEGER, OPTIONAL, INTENT(OUT) :: ierror
MPI_Alltoallw_init(sendbuf, sendcounts, sdispls, sendtypes, recvbuf,
recvcounts, rdispls, recvtypes, comm, fIinfo, request, ierror)
TYPE(*), DIMENSION(..), INTENT(IN), ASYNCHRONOUS :: sendbuf
TYPE(*), DIMENSION(..), ASYNCHRONOUS :: recvbuf
INTEGER, INTENT(IN), ASYNCHRONOUS :: sendcounts(*), sdispls(*),
recvcounts(*), rdispls(*)
TYPE(MPI_Datatype), INTENT(IN), ASYNCHRONOUS :: sendtypes(*),
recvtypes(*)
TYPE(MPI_Comm), INTENT(IN) :: comm
TYPE(MPI_Info), INTENT(IN) :: info
TYPE(MPI_Request), INTENT(OUT) :: request
INTEGER, OPTIONAL, INTENT(OUT) :: ierror
17.2.203.2. 输入参数
sendbuf: 发送缓冲区的起始地址。sendcounts: 整型数组,其中第i个条目指定要发送给第i个排名的元素数量。sdispls: 整型数组,其中第i个元素指定了发送数据到进程i的位移量(以字节为单位,从sendbuf开始计算偏移量)。sendtypes: 数据类型数组,其中第i个条目指定了向排名i的进程发送数据时使用的数据类型。recvcounts: 整数数组,其中第j个条目指定了从等级j接收的元素数量。rdispls: 整型数组,其中条目j指定了从recvbuf开始的位移(以字节为单位,偏移量),用于写入来自等级j的数据。recvtypes: 数据类型数组,其中第j个元素指定了从等级j接收数据时使用的数据类型。comm: 用于交换数据的通信器。info: 信息(句柄,仅持久化)
17.2.203.3. 输出参数
recvbuf: 接收缓冲区的地址。request: 请求(句柄,仅限非阻塞模式)。ierror: 仅限Fortran:错误状态。
17.2.203.4. 描述
MPI_Alltoallw 是一个通用的集合操作,其中所有进程都向其他所有进程发送和接收数据。它在MPI_Alltoallv的基础上增加了灵活性,允许用户指定各个数据块的数据类型(除了位移和元素计数之外)。其操作可以理解为以下方式,其中每个进程执行2n次独立的点对点通信(n是通信器comm中的进程数,包括与自身的通信)。
MPI_Comm_size(comm, &n);
for (i = 0, i < n; i++)
MPI_Send(sendbuf + sdispls[i], sendcounts[i],
sendtypes[i], i, ..., comm);
for (i = 0, i < n; i++)
MPI_Recv(recvbuf + rdispls[i], recvcounts[i],
recvtypes[i], i, ..., comm);
进程j将其本地发送缓冲区(sendbuf)的第k个数据块发送给进程k,后者将该数据存入其本地接收缓冲区(recvbuf)的第j个块中。
当一对进程交换数据时,只要发送方指定的发送数据量(以字节为单位)与接收方预期的接收量相同,双方可以传递不同的元素计数和数据类型参数。
请注意,进程i发送给进程j的数据量可能与它从进程j接收的数据量不同。此外,一个进程可以向通信器中的不同进程发送完全不同的数据量和数据类型。
当通信器为跨通信器时
当通信器为跨通信器时,聚集操作分两个阶段进行。首先从第一组所有成员收集数据,并由第二组所有成员接收。随后从第二组所有成员收集数据,并由第一组所有成员接收。该操作呈现出对称的全双工行为。
第一组定义了根进程。根进程使用MPI_ROOT作为root的值。第一组中所有其他进程使用MPI_PROC_NULL作为root的值。第二组中的所有进程使用第一组中根进程的排名作为root的值。
当通信器为内部通信器时,这些组是相同的,操作将在单阶段完成。
17.2.203.5. 原地选项的使用
当通信器是内部通信器时,可以执行原地全对全操作(输出缓冲区同时用作输入缓冲区)。使用变量MPI_IN_PLACE作为sendbuf的值。在这种情况下,sendcounts、sdispls和sendtypes将被忽略。假定每个进程的输入数据位于该进程在接收缓冲区中存放自身贡献的位置。
17.2.203.6. 注意事项
计数、类型和位移的指定不应导致任何位置被多次写入。
所有进程上的所有参数都很重要。特别是comm参数,必须在所有进程上描述相同的通信器。
sdispls 和 rdispls 的偏移量以字节为单位计算。这与 MPI_Alltoallv 不同,后者的偏移量分别以 sendtype 和 recvtype 的单位计算。
17.2.203.7. 错误
几乎所有MPI例程都会返回一个错误值;C语言例程通过函数返回值返回,Fortran例程则通过最后一个参数返回。
在返回错误值之前,会调用与通信对象(如通信器、窗口、文件)关联的当前MPI错误处理程序。如果MPI调用未关联任何通信对象,则该调用被视为附加到MPI_COMM_SELF,并将调用关联的MPI错误处理程序。当MPI_COMM_SELF未初始化时(即在MPI_Init/MPI_Init_thread之前、MPI_Finalize之后,或仅使用会话模型时),错误会触发初始错误处理程序。初始错误处理程序可通过在使用世界模型时调用MPI_Comm_set_errhandler来修改MPI_COMM_SELF,或通过mpiexec的mpi_initial_errhandler命令行参数,或MPI_Comm_spawn/MPI_Comm_spawn_multiple的info键来设置。如果未设置其他适当的错误处理程序,则MPI I/O函数将调用MPI_ERRORS_RETURN错误处理程序,而其他所有MPI函数将调用MPI_ERRORS_ABORT错误处理程序。
Open MPI 包含三个可使用的预定义错误处理器:
MPI_ERRORS_ARE_FATAL导致程序中止所有连接的MPI进程。MPI_ERRORS_ABORT一个可在通信器、窗口、文件或会话上调用的错误处理程序。当在通信器上调用时,其行为类似于在该通信器上调用MPI_Abort。如果在窗口或文件上调用,则行为类似于在包含对应窗口或文件中进程组的通信器上调用MPI_Abort。如果在会话上调用,则仅中止本地进程。MPI_ERRORS_RETURN向应用程序返回一个错误代码。
MPI应用程序也可以通过调用以下方式实现自己的错误处理程序:
请注意,MPI不保证MPI程序在出现错误后能够继续运行。
有关更多信息,请参阅MPI-3.1标准中的错误处理部分。