§24. Топология процессов

Топология процессов является одним из необязательных атрибутов коммуникатора. Такой атрибут может быть присвоен только intra коммуникатору. По умолчанию предполагается линейная топология, в которой процессы пронумерованы в диапазоне от 0 до n-1, где n - число процессов в группе. Однако для многих задач линейная топология неадекватно отражает логику коммуникационных связей между процессами. MPI предоставляет средства для создания достаточно сложных "виртуальных" топологий в виде графов, где узлы являются процессами, а грани - каналами связи между процессами. Конечно же, следует различать логическую топологию процессов, которую позволяет формировать MPI, и физическую топологию процессоров.

Рис. 53. Соотношение между идентификатором процесса (верхнее число) и координатами в двумерной сетке 2х3 (нижняя пара чисел)

В идеале логическая топология процессов должна учитывать как алгоритм решения задачи, так и физическую топологию процессоров. Для очень широкого круга задач наиболее адекватной топологией процессов является двумерная или трехмерная сетка. Такие структуры полностью определяются числом измерений и количеством процессов вдоль каждого координатного направления, а также способом раскладки процессов на координатную сетку. В MPI, как правило, используется row-major нумерация процессов, т.е. используется нумерация вдоль строки. На рис. 53 представлено соответствие между нумерациями 6 процессов в одномерной и двумерной (2х3) топологиях.

Декартова топология

Обобщением линейной и матричной топологий на произвольное число измерений является декартова топология. Для создания коммуникатора с декартовой топологией используется функция MPI_Cart_create. С помощью этой функции можно создавать топологии с произвольным числом измерений, причем по каждому измерению в отдельности можно накладывать периодические граничные условия. Таким образом, для одномерной топологии мы можем получить или линейную структуру, или кольцо - в зависимости от того, какие граничные условия будут наложены. Для двумерной топологии соответственно – либо прямоугольник, либо цилиндр, либо тор. Заметим, что не требуется специальной поддержки гиперкубовой структуры, поскольку она представляет собой n-мерный тор с двумя процессами вдоль каждого координатного направления.

Функция создания коммуникатора с декартовой топологией.

FORTRAN:

INTEGER COMM_OLD, NDIMS, DIMS(*), COMM_CART, IERR

LOGICAL PERIODS(*), REORDER

MPI_CART_CREATE(COMM_OLD, NDIMS, DIMS, PERIODS, REORDER, COMM_CART, IERR)

С:

MPI_Cart_create(MPI_Comm comm_old, int ndims, int *dims, int *periods, int reorder, MPI_Comm *comm_cart)

Входные параметры:

Выходные параметры:

Функция является коллективной, т.е. должна запускаться на всех процессах, входящих в группу коммуникатора comm_old. При этом, если какие-то процессы не попадают в новую группу, то для них возвращается результат MPI_COMM_NULL. В случае, когда размеры заказываемой сетки больше имеющегося в группе числа процессов, функция завершается аварийно. Значение параметра reorder=false означает, что идентификаторы всех процессов в новой группе будут такими же, как в старой группе. Если reorder=true, то MPI будет пытаться перенумеровать их с целью оптимизации коммуникаций.

Остальные функции, которые будут рассмотрены в этом разделе, имеют вспомогательный или информационный характер.

Функция определения оптимальной конфигурации сетки.

FORTRAN:

INTEGER NNODES, NDIMS, DIMS(*), IERR

MPI_DIMS_CREATE(NNODES, NDIMS, DIMS, IERR)

С:

MPI_Dims_create(int nnodes, int ndims, int *dims)

Входные параметры:

Выходные параметры:

На входе в процедуру в массив dims должны быть занесены целые неотрицательные числа. Если элементу массива dims[i] присвоено положительное число, то для этой размерности вычисление не производится (число процессов вдоль этого направления считается заданным). Вычисляются только те компоненты dims[i], для которых перед обращением к процедуре были присвоены значения 0. Функция стремится создать максимально равномерное распределение процессов вдоль направлений, выстраивая их по убыванию, т.е. для 12 процессов она построит трехмерную сетку 4 х 3 х 1. Результат работы этой процедуры может использоваться в качестве входного параметра для процедуры MPI_Cart_create.

Функция опроса числа измерений декартовой топологии MPI_Cartdim_get.

FORTRAN:

INTEGER COMM, NDIMS, IERR

MPI_CARTDIM_GET(COMM, NDIMS, IERR)

С:

MPI_Cartdim_get(MPI_Comm comm, int *ndims)

Входные параметры:

Выходные параметры:

Функция возвращает число измерений в декартовой топологии ndims для коммуникатора comm. Результат может быть использован в качестве параметра для вызова функции MPI_Cart_get, которая служит для получения более детальной информации.

FORTRAN:

INTEGER COMM, NDIMS, DIMS(*), COORDS(*), IERR

LOGICAL PERIODS(*)

MPI_CART_GET(COMM, NDIMS, DIMS, PERIODS, COORDS, IERR)

С:

MPI_Cart_get(MPI_Comm comm, int ndims, int *dims, int *periods, int *coords)

Входные параметры:

Выходные параметры:

Две следующие функции устанавливают соответствие между идентификатором процесса и его координатами в декартовой сетке. Под идентификатором процесса понимается его номер в исходной области связи, из которой была создана декартова топология.

Функция получения идентификатора процесса по его координатам MPI_Cart_rank.

FORTRAN:

INTEGER COMM, COORDS(*), RANK, IERR

MPI_CART_RANK(COMM, COORDS, RANK, IERR)

С:

MPI_Cart_rank(MPI_Comm comm, int *coords, int *rank)

Входные параметры:

Выходные параметры:

Для измерений с периодическими граничными условиями будет выполняться приведение к основной области определения 0 <= coords(i) < dims(i).

Функция определения координат процесса по его идентификатору MPI_Cart_coords.

FORTRAN:

INTEGER COMM, RANK, NDIMS, COORDS(*), IERROR

MPI_CART_COORDS(COMM, RANK, NDIMS, COORDS, IERROR)

С:

MPI_Cart_coords(MPI_Comm comm, int rank, int ndims, int *coords)

Входные параметры:

Выходные параметры:

Во многих численных алгоритмах используется операция сдвига данных вдоль каких-то направлений декартовой решетки. В MPI существует специальная функция MPI_Cart_shift, реализующая эту операцию. Точнее говоря, сдвиг данных осуществляется с помощью функции MPI_Sendrecv, а функция MPI_Cart_shift вычисляет для каждого процесса параметры для функции MPI_Sendrecv (source и dest).

Функция сдвига данных MPI_Cart_shift.

FORTRAN:

INTEGER COMM, DIRECTION, DISP, RANK_SOURCE, RANK_DEST, IERR

MPI_CART_SHIFT(COMM, DIRECTION, DISP, RANK_SOURCE, RANK_DEST, IERR)

С:

MPI_Cart_shift(MPI_Comm comm, int direction, int disp, int *rank_source, int *rank_dest)

Входные параметры:

Выходные параметры:

Номер измерения и величина сдвига не обязаны быть одинаковыми для всех процессов. В зависимости от граничных условий сдвиг может быть либо циклический, либо с учетом граничных процессов. В последнем случае для граничных процессов возвращается MPI_PROC_NULL либо для переменной rank_source, либо для rank_dest. Это значение также может быть использовано при обращении к функции MPI_sendrecv.

Другая, часто используемая операция - выделение в декартовой топологии подпространств меньшей размерности и связывание с ними отдельных коммуникаторов.

Функция выделения подпространства в декартовой топологии MPI_Cart_sub.

FORTRAN:

INTEGER COMM, NEWCOMM, IERR

LOGICAL REMAIN_DIMS(*)

MPI_CART_SUB(COMM, REMAIN_DIMS, NEWCOMM, IERR)

С:

MPI_Cart_sub(MPI_Comm comm, int *remain_dims, MPI_Comm *newcomm)

Входные параметры:

Выходные параметры:

Функция является коллективной. Действие функции проиллюстрируем следующим примером. Предположим, что имеется декартова решетка 2 х 3 х 4, тогда обращение к функции MPI_Cart_sub с массивом remain_dims (true, false, true) создаст три коммуникатора с топологией 2 х 4. Каждый из коммуникаторов будет описывать область связи, состоящую из 1/3 процессов, входивших в исходную область связи.

Для определения топологии коммуникатора служит функция MPI_Topo_test.

FORTRAN:

INTEGER COMM, STATUS, IERR

MPI_TOPO_TEST(COMM, STATUS, IERR)

С:

MPI_Topo_test(MPI_Comm comm, int *status)

Входные параметры:

Выходные параметры:

Функция MPI_Topo_test возвращает через переменную status топологию коммуникатора comm. Возможные значения: