AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / user-29907806

Subject303's questions

Martin Hope
Subject303
Asked: 2025-04-29 12:36:03 +0800 CST

Qual é a diferença entre uma gravação coletiva não bloqueante MPI, iwrite_all, e uma iwrite não coletiva "não bloqueante" combinada com uma sincronização de arquivo?

  • 5

Estou configurando IO para um código CFD de larga escala usando a biblioteca MPI e o IO do arquivo está começando a consumir tempo de computação à medida que meus problemas aumentam.

Até onde posso perceber, o que está "pronto" no contexto moderno é a utilização pesada de operações de E/S coletivas ( Desempenho de E/S paralelas no ARCHER - whitepaper de 2015).

Meu problema é que parece haver três maneiras de chamar uma gravação coletiva:

  • MPI_File_write_all, bloqueando

  • MPI_File_iwrite_all, não bloqueante

e um tanto especulativamente:

  • MPI_File_iwriteseguido por uma chamada para MPI_File_sync, não bloqueante e depois bloqueante?

    Digo especulativamente porque a primeira chamada é explicitamente não coletiva, mas a última (que, até onde sei, é o que realmente envia os dados para o armazenamento) é coletiva.

Minha pergunta é: múltiplos MPI_File_iwrites seguidos por a são MPI_File_syncequivalentes a um MPI_File_write_all, no sentido de que a sincronização de arquivo torna a gravação não coletiva efetivamente coletiva? Edit - para maior clareza, estou ciente de que sync é uma rotina coletiva. Estou perguntando se a E/S que ocorre quando sync é chamado é análoga à E/S coletiva de um write_all.

acompanhamento: uma MPI_File_iwrite_allchamada requer uma MPI_File_syncchamada e, se isso ocorrer, qual é o propósito de uma gravação coletiva não bloqueante se ela se torna apenas bloqueadora no futuro?

Estou focando bastante em bloqueio vs. não bloqueio aqui porque estou tentando remover completamente toda a sincronização do meu código para melhorar a utilização da CPU (ou seja, os processos só esperam se não tiverem as informações que precisam dos seus vizinhos, em vez de esperar que todos os processos sincronizem), mas obviamente isso se torna um pouco problemático quando se trata de saída.

parallel-processing
  • 2 respostas
  • 38 Views
Martin Hope
Subject303
Asked: 2025-03-07 01:02:55 +0800 CST

Erro waitall 6MPI "A solicitação fornecida no elemento 0 da matriz era inválida (tipo=0)"

  • 5

Estou tentando implementar paralelização em um código flowsolver para meu Phd, herdei uma subrotina que está enviando dados entre subdomínios predefinidos. A subrotina está enviando dados por meio do comando MPI_Isend e recebendo-os com o comando MPI_Irecv, chamando então um waitall.

(o código ofensivo abaixo:)

        ! -----------------------------------------------------------
        ! Definition of instant send/receive passings with barrier at the end
        ! -----------------------------------------------------------

        spos=1                          ! Position of the first element to send within send array
        do i=1,isize                    ! loop over the number of exchanging segments
            if (nsendseg(i).ne.0) then  ! choose only domains with something to send
                call MPI_ISend(send(spos),nsendseg(i),MPI_REAL8,i-1,1,MPI_COMM_WORLD,reqs(i),ierr)
                spos=spos+nsendseg(i)
            end if
        enddo
    
        rpos=1
        do i=1,isize
            if (nrecvseg(i).ne.0) then
                call MPI_IRecv(recv(rpos),nrecvseg(i),MPI_REAL8,i-1,MPI_ANY_TAG,MPI_COMM_WORLD,reqs(i+sum(nsendseg)),ierr)
                rpos=rpos+nrecvseg(i)
            end if
        end do
        
        if (irank .eq. 0) print *, reqs
        
        call MPI_Waitall(sum(nsendseg)+sum(nrecvseg),reqs,MPI_STATUSES_IGNORE,ierr)

EDIT ESCLARECENDO o sum(nsendseg)+sum(nrecvseg): Eu "acredito" (eu herdei esse código de um ex-aluno de doutorado que herdou de outro, então há alguns sussurros chineses circulando) que nsendseg representa o número de nós que o segmento (núcleo) vai enviar e para onde. Ou seja, rodando em 10 núcleos, eles são matrizes de 10 inteiros representando os nós compartilhados entre subdomínios em núcleos. De modo que se o segmento 3 compartilha 12 nós com o segmento 1 e 3 com o segmento 7 e nenhum com nenhum outro, nsendseg é (12,0,0,0,0,0,3,0,0,0). o número de nós que qualquer segmento recebe e envia é diferente porque muitos segmentos podem se conectar a um. A ideia aqui é que cada núcleo itere por uma lista de todos os outros núcleos e envie e receba apenas os dados relevantes de cada um.

Este trecho de código aborta com cópias do erro abaixo em alguns ou todos os nós.

Abort(336210451) on node 13 (rank 13 in comm 0): Fatal error in PMPI_Waitall: Request pending due to failure, error stack:
PMPI_Waitall(352): MPI_Waitall(count=28734, req_array=0x18ac060, status_array=0x1) failed
PMPI_Waitall(328): The supplied request in array element 2 was invalid (kind=0)

Minha ideia atual sobre o que está errado aqui é que o array reqs não está tendo identificadores de comunicação passados ​​corretamente. O bloco de texto abaixo é um exemplo do array reqs onde isso "parece" que as sub-rotinas isend ou irecv estão tentando colocar um tipo de dado estranho (reqs é um array de inteiros padrão).

           0 -1409286132           0           0 -1409286133 -1409286135
 -1409286134           0           0           0           0           0
           0           0           0           0           0           0
           0           0           0           0           0           0
           0           0           0           0           0           0
           0           0           0           0           0           0
           0           0           0           0           0           0
           0           0           0           0           0           0
           0           0           0           0           0           0
           0           0           0           0           0           0
           0           0           0           0           0 -1409286131
           0           0 -1409286130 -1409286129 -1409286128           0
           0           0           0           0           0           0
           0           0           0           0           0           0
           0           0           0           0           0           0
           0           0           0           0           0           0
           0           0           0           0           0           0
           0           0           0           0           0           0
           0           0           0           0           0           0
           0           0           0           0           0           0
           0           0           0           0           0           0
           0           0

Sei que isso é um pouco imprevisível, porque estou basicamente pedindo para pessoas aleatórias da internet adivinharem o significado de um pedaço de código que alguém que já seguiu em frente escreveu há muito tempo.

Alguém pode ver a origem do meu erro ou, alternativamente, me informar como deve ser um identificador de comunicação mpi ou qualquer outro conselho sábio? Seria muito apreciado. <3

fortran
  • 1 respostas
  • 89 Views

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    Reformatar números, inserindo separadores em posições fixas

    • 6 respostas
  • Marko Smith

    Por que os conceitos do C++20 causam erros de restrição cíclica, enquanto o SFINAE antigo não?

    • 2 respostas
  • Marko Smith

    Problema com extensão desinstalada automaticamente do VScode (tema Material)

    • 2 respostas
  • Marko Smith

    Vue 3: Erro na criação "Identificador esperado, mas encontrado 'import'" [duplicado]

    • 1 respostas
  • Marko Smith

    Qual é o propósito de `enum class` com um tipo subjacente especificado, mas sem enumeradores?

    • 1 respostas
  • Marko Smith

    Como faço para corrigir um erro MODULE_NOT_FOUND para um módulo que não importei manualmente?

    • 6 respostas
  • Marko Smith

    `(expression, lvalue) = rvalue` é uma atribuição válida em C ou C++? Por que alguns compiladores aceitam/rejeitam isso?

    • 3 respostas
  • Marko Smith

    Um programa vazio que não faz nada em C++ precisa de um heap de 204 KB, mas não em C

    • 1 respostas
  • Marko Smith

    PowerBI atualmente quebrado com BigQuery: problema de driver Simba com atualização do Windows

    • 2 respostas
  • Marko Smith

    AdMob: MobileAds.initialize() - "java.lang.Integer não pode ser convertido em java.lang.String" para alguns dispositivos

    • 1 respostas
  • Martin Hope
    Fantastic Mr Fox Somente o tipo copiável não é aceito na implementação std::vector do MSVC 2025-04-23 06:40:49 +0800 CST
  • Martin Hope
    Howard Hinnant Encontre o próximo dia da semana usando o cronógrafo 2025-04-21 08:30:25 +0800 CST
  • Martin Hope
    Fedor O inicializador de membro do construtor pode incluir a inicialização de outro membro? 2025-04-15 01:01:44 +0800 CST
  • Martin Hope
    Petr Filipský Por que os conceitos do C++20 causam erros de restrição cíclica, enquanto o SFINAE antigo não? 2025-03-23 21:39:40 +0800 CST
  • Martin Hope
    Catskul O C++20 mudou para permitir a conversão de `type(&)[N]` de matriz de limites conhecidos para `type(&)[]` de matriz de limites desconhecidos? 2025-03-04 06:57:53 +0800 CST
  • Martin Hope
    Stefan Pochmann Como/por que {2,3,10} e {x,3,10} com x=2 são ordenados de forma diferente? 2025-01-13 23:24:07 +0800 CST
  • Martin Hope
    Chad Feller O ponto e vírgula agora é opcional em condicionais bash com [[ .. ]] na versão 5.2? 2024-10-21 05:50:33 +0800 CST
  • Martin Hope
    Wrench Por que um traço duplo (--) faz com que esta cláusula MariaDB seja avaliada como verdadeira? 2024-05-05 13:37:20 +0800 CST
  • Martin Hope
    Waket Zheng Por que `dict(id=1, **{'id': 2})` às vezes gera `KeyError: 'id'` em vez de um TypeError? 2024-05-04 14:19:19 +0800 CST
  • Martin Hope
    user924 AdMob: MobileAds.initialize() - "java.lang.Integer não pode ser convertido em java.lang.String" para alguns dispositivos 2024-03-20 03:12:31 +0800 CST

Hot tag

python javascript c++ c# java typescript sql reactjs html

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve