AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 214690
Accepted
Damien Sawyer
Damien Sawyer
Asked: 2018-08-12 22:04:15 +0800 CST2018-08-12 22:04:15 +0800 CST 2018-08-12 22:04:15 +0800 CST

Preocupações de simultaneidade/transação com a cópia do PostgreSQL (inserção em massa)

  • 772

Estamos construindo um sistema CQRS apoiado pelo Postgres. Como parte disso, geramos 'readmodels' que são projeções pré-calculadas de dados originados de eventos. Precisamos regularmente criar novas tabelas, consultar dados originados de eventos, calcular uma projeção e inserir milhares de linhas (principalmente contendo dados jsonb) em novas tabelas.

Essas inserções precisam ser feitas dentro de uma transação que também inclui leituras e gravações em outras tabelas.

Nosso código inicial usava INSERT ... ON CONFLICT UPDATEcomandos padrão e alcançava cerca de 100 linhas por segundo(). Quando, no entanto, alterei para usar COPY ... FROM STDIN (FORMAT BINARY)a taxa de transferência melhorou por um fator de cerca de 100. Estou ciente de que não posso fazer 'upserts' da mesma maneira com o segundo método, mas estava planejando excluir registros antes da inserção COPY ( dentro de uma transação).

Estou pensando em usar o fluxo COPY da nossa aplicação. No entanto, recebi críticas do tipo "Duvido que funcione. COPY foi projetado para importação em massa. Você terá problemas de simultaneidade".

Minha intuição é que, com o MVCC e o DDL transacional do Postgres, provavelmente é robusto o suficiente para lidar com algo assim sem suar a camisa. Eu tive medo, incerteza e dúvida semeados em mim embora!

Minhas perguntas:

1/ Posso usar COPY em transações normais como faria em outras declarações?

2/ Os carregamentos de COPY em massa podem acontecer enquanto o banco de dados ainda está ativo com inserções de produção normais e seleções ainda em execução em outras tabelas?

3/ Várias conexões podem executar simultaneamente operações de CÓPIA? (em mesas diferentes)

4/ Estou louco por pensar em tratar isso como qualquer outro comando do PG? Ele foi projetado para ser usado em bancos de dados de produção ao vivo ou é mais uma ferramenta de manutenção.

Estamos usando NPGSQL como a biblioteca cliente do Postgres.

Obrigado!

postgresql npgsql
  • 1 1 respostas
  • 1145 Views

1 respostas

  • Voted
  1. Best Answer
    TheDataGuy
    2018-08-12T23:18:26+08:002018-08-12T23:18:26+08:00
    1. Posso usar COPY em transações normais como usaria em outras declarações?

    Sim você pode. Isso invocará o gatilho, verificará a restrição e outras restrições também. Mas não invocará as regras. Ele suporta MVCC e ACID.

    1. Os carregamentos de COPY em massa podem ocorrer enquanto o banco de dados ainda está ativo com inserções e seleções normais de produção ainda em execução em outras tabelas?

    Sim, mas é baseado em sua carga de trabalho. Faça um teste no Dev infra.

    1. Várias conexões podem executar simultaneamente operações de CÓPIA?

    Sim vai. Mas fique de olho na utilização dos recursos.

    1. Estou louco por pensar em tratar isso como qualquer outro comando PG? Ele foi projetado para ser usado em bancos de dados de produção ao vivo ou é mais uma ferramenta de manutenção.

    Você pode confiar e usá-lo na produção. Sem problemas.

    Referências:

    1. Leia a seção Notas da documentação do PG

    2. Alguém implementou o mesmo em Produção com arquivo de linhas de 10m

    • 2

relate perguntas

  • Posso ativar o PITR depois que o banco de dados foi usado

  • Práticas recomendadas para executar a replicação atrasada do deslocamento de tempo

  • Os procedimentos armazenados impedem a injeção de SQL?

  • Sequências Biológicas do UniProt no PostgreSQL

  • Qual é a diferença entre a replicação do PostgreSQL 9.0 e o Slony-I?

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host

    • 12 respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Jin conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host 2014-12-02 02:54:58 +0800 CST
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve