17.2.16. MPI_Alltoall

MPI_Alltoall, MPI_Ialltoall, MPI_Alltoall_init - 所有进程向所有进程发送数据

17.2.16.1. 语法

17.2.16.1.1. C语言语法

#include <mpi.h>

int MPI_Alltoall(const void *sendbuf, int sendcount,
     MPI_Datatype sendtype, void *recvbuf, int recvcount,
     MPI_Datatype recvtype, MPI_Comm comm)

int MPI_Ialltoall(const void *sendbuf, int sendcount,
     MPI_Datatype sendtype, void *recvbuf, int recvcount,
     MPI_Datatype recvtype, MPI_Comm comm, MPI_Request *request)

int MPI_Alltoall_init(const void *sendbuf, int sendcount,
     MPI_Datatype sendtype, void *recvbuf, int recvcount,
     MPI_Datatype recvtype, MPI_Comm comm, MPI_Info info, MPI_Request *request)

17.2.16.1.2. Fortran 语法

USE MPI
! or the older form: INCLUDE 'mpif.h'
MPI_ALLTOALL(SENDBUF, SENDCOUNT, SENDTYPE, RECVBUF, RECVCOUNT,
     RECVTYPE, COMM, IERROR)

     <type>  SENDBUF(*), RECVBUF(*)
     INTEGER SENDCOUNT, SENDTYPE, RECVCOUNT, RECVTYPE
     INTEGER COMM, IERROR

MPI_IALLTOALL(SENDBUF, SENDCOUNT, SENDTYPE, RECVBUF, RECVCOUNT,
     RECVTYPE, COMM, REQUEST, IERROR)

     <type>  SENDBUF(*), RECVBUF(*)
     INTEGER SENDCOUNT, SENDTYPE, RECVCOUNT, RECVTYPE
     INTEGER COMM, REQUEST, IERROR

MPI_ALLTOALL_INIT(SENDBUF, SENDCOUNT, SENDTYPE, RECVBUF, RECVCOUNT,
     RECVTYPE, COMM, INFO, REQUEST, IERROR)

     <type>  SENDBUF(*), RECVBUF(*)
     INTEGER SENDCOUNT, SENDTYPE, RECVCOUNT, RECVTYPE
     INTEGER COMM, INFO, REQUEST, IERROR

17.2.16.1.3. Fortran 2008 语法

USE mpi_f08
MPI_Alltoall(sendbuf, sendcount, sendtype, recvbuf, recvcount, recvtype,
             comm, ierror)

     TYPE(*), DIMENSION(..), INTENT(IN) :: sendbuf
     TYPE(*), DIMENSION(..) :: recvbuf
     INTEGER, INTENT(IN) :: sendcount, recvcount
     TYPE(MPI_Datatype), INTENT(IN) :: sendtype, recvtype
     TYPE(MPI_Comm), INTENT(IN) :: comm
     INTEGER, OPTIONAL, INTENT(OUT) :: ierror

MPI_Ialltoall(sendbuf, sendcount, sendtype, recvbuf, recvcount, recvtype,
             comm, request, ierror)

     TYPE(*), DIMENSION(..), INTENT(IN), ASYNCHRONOUS :: sendbuf
     TYPE(*), DIMENSION(..), ASYNCHRONOUS :: recvbuf
     INTEGER, INTENT(IN) :: sendcount, recvcount
     TYPE(MPI_Datatype), INTENT(IN) :: sendtype, recvtype
     TYPE(MPI_Comm), INTENT(IN) :: comm
     TYPE(MPI_Request), INTENT(OUT) :: request
     INTEGER, OPTIONAL, INTENT(OUT) :: ierror

MPI_Alltoall_init(sendbuf, sendcount, sendtype, recvbuf, recvcount, recvtype,
                     comm, info, request, ierror)

     TYPE(*), DIMENSION(..), INTENT(IN), ASYNCHRONOUS :: sendbuf
     TYPE(*), DIMENSION(..), ASYNCHRONOUS :: recvbuf
     INTEGER, INTENT(IN) :: sendcount, recvcount
     TYPE(MPI_Datatype), INTENT(IN) :: sendtype, recvtype
     TYPE(MPI_Comm), INTENT(IN) :: comm
     TYPE(MPI_Info), INTENT(IN) :: info
     TYPE(MPI_Request), INTENT(OUT) :: request
     INTEGER, OPTIONAL, INTENT(OUT) :: ierror

17.2.16.2. 输入参数

• sendbuf: 发送缓冲区的起始地址（选项）。

• sendcount: 发送给每个进程的元素数量（整数）。

• sendtype: 发送缓冲区元素的数据类型（句柄）。

• recvcount: 从每个进程接收的元素数量（整数）。

• recvtype: 接收缓冲区元素的数据类型（句柄）。

• comm: 用于交换数据的通信器（句柄）。

• info: 信息（句柄，仅持久化）

17.2.16.3. 输出参数

• recvbuf: 接收缓冲区的起始地址（选项）。

• request: 请求（句柄，仅限非阻塞模式）。

• ierror: 仅限Fortran：错误状态（整数）。

17.2.16.4. 描述

MPI_Alltoall 是一个集体操作，其中所有进程相互发送相同数量的数据，并从彼此接收相同数量的数据。该例程的操作可以表示如下，其中每个进程执行2n次独立的点对点通信（n是通信器comm中的进程数，包括与自身的通信）。

MPI_Comm_size(comm, &n);
for (i = 0, i < n; i++)
    MPI_Send(sendbuf + i * sendcount * extent(sendtype),
        sendcount, sendtype, i, ..., comm);
for (i = 0, i < n; i++)
    MPI_Recv(recvbuf + i * recvcount * extent(recvtype),
        recvcount, recvtype, i, ..., comm);

每个进程将其本地的sendbuf分解为n个块 - 每个块包含sendcount个sendtype类型的元素 - 并根据recvcount和recvtype类似地划分其recvbuf。进程j将其本地sendbuf的第k个块发送给进程k，后者将这些数据放置在其本地recvbuf的第j个块中。每对进程之间发送的数据量必须与接收的数据量相等。

当通信器为跨通信器时

当通信器为跨通信器时，聚集操作分两个阶段进行。首先从第一组所有成员收集数据，并由第二组所有成员接收。随后从第二组所有成员收集数据，并由第一组所有成员接收。该操作呈现出对称的全双工行为。

第一组定义了根进程。根进程使用MPI_ROOT作为root的值。第一组中所有其他进程使用MPI_PROC_NULL作为root的值。第二组中的所有进程使用第一组中根进程的排名作为root的值。

当通信器为内部通信器时，这些组是相同的，操作将在单阶段完成。

17.2.16.5. 原地选项的使用

当通信器是内部通信器时，可以执行原地全对全操作（输出缓冲区同时用作输入缓冲区）。使用变量MPI_IN_PLACE作为sendbuf的值。在这种情况下，sendcount和sendtype将被忽略。假定每个进程的输入数据位于该进程在接收缓冲区中存放自身贡献的位置。

17.2.16.6. 注意事项

所有进程上的所有参数都很重要。特别是comm参数，必须在所有进程上描述相同的通信器。

有两个比MPI_Alltoall更通用的MPI库函数。MPI_Alltoallv允许在非连续缓冲区之间进行全对全通信；不同进程可以发送和接收不同数量的数据。MPI_Alltoallw扩展了MPI_Alltoallv的功能，允许交换具有不同数据类型的数据。

17.2.16.7. 错误

几乎所有MPI例程都会返回一个错误值；C语言例程通过函数返回值返回，Fortran例程则通过最后一个参数返回。

在返回错误值之前，会调用与通信对象（如通信器、窗口、文件）关联的当前MPI错误处理程序。如果MPI调用未关联任何通信对象，则该调用被视为附加到MPI_COMM_SELF，并将调用关联的MPI错误处理程序。当MPI_COMM_SELF未初始化时（即在MPI_Init/MPI_Init_thread之前、MPI_Finalize之后，或仅使用会话模型时），错误会触发初始错误处理程序。初始错误处理程序可通过在使用世界模型时调用MPI_Comm_set_errhandler来修改MPI_COMM_SELF，或通过mpiexec的mpi_initial_errhandler命令行参数，或MPI_Comm_spawn/MPI_Comm_spawn_multiple的info键来设置。如果未设置其他适当的错误处理程序，则MPI I/O函数将调用MPI_ERRORS_RETURN错误处理程序，而其他所有MPI函数将调用MPI_ERRORS_ABORT错误处理程序。

Open MPI 包含三个可使用的预定义错误处理器：

• MPI_ERRORS_ARE_FATAL 导致程序中止所有连接的MPI进程。

• MPI_ERRORS_ABORT 一个可在通信器、窗口、文件或会话上调用的错误处理程序。当在通信器上调用时，其行为类似于在该通信器上调用MPI_Abort。如果在窗口或文件上调用，则行为类似于在包含对应窗口或文件中进程组的通信器上调用MPI_Abort。如果在会话上调用，则仅中止本地进程。

• MPI_ERRORS_RETURN 向应用程序返回一个错误代码。

MPI应用程序也可以通过调用以下方式实现自己的错误处理程序：

• MPI_Comm_create_errhandler 然后 MPI_Comm_set_errhandler

• MPI_File_create_errhandler 然后 MPI_File_set_errhandler

• MPI_Session_create_errhandler 然后 MPI_Session_set_errhandler 或在 MPI_Session_init

• MPI_Win_create_errhandler 然后 MPI_Win_set_errhandler

请注意，MPI不保证MPI程序在出现错误后能够继续运行。

查看MPI手册页获取完整的MPI错误代码列表。

有关更多信息，请参阅MPI-3.1标准中的错误处理部分。

另请参阅

• MPI_Alltoallv

• MPI_Alltoallw