AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 331698
Accepted
Slim
Slim
Asked: 2023-09-29 16:40:38 +0800 CST2023-09-29 16:40:38 +0800 CST 2023-09-29 16:40:38 +0800 CST

Coluna pequena separada atualizada muito de colunas jsonb grandes para otimizar o desempenho?

  • 772

Uma tabela tem a seguinte estrutura:

  • ajuda
  • b: jsonb grande
  • c: jsonb grande
  • d: carimbo de data/hora

Olhando as estatísticas em 2 semanas, veja muitas atualizações:

  • 90 mil solicitações atualizam dapenas o campo (tempo total: 25 minutos medidos no aplicativo)
  • 90 mil solicitações atualizam os campos "jsonb grande" (tempo total: 6h30 medidos no aplicativo)

Como o Postgres segue o padrão MVCC que reescreve as linhas na atualização, é interessante alterar a estrutura da tabela para ter duma tabela separada?

postgresql
  • 2 2 respostas
  • 26 Views

2 respostas

  • Voted
  1. Best Answer
    Laurenz Albe
    2023-09-29T16:56:57+08:002023-09-29T16:56:57+08:00

    Não, isso não é necessário. Os grandes valores JSON parecem estar armazenados fora de linha em uma tabela TOAST. Então a atualização dsó precisa escrever uma nova linha na tabela principal, mas os valores do TOAST permanecem os mesmos.

    Se os valores JSON fossem pequenos o suficiente para serem armazenados na tabela principal, a modificação dseria muito mais cara, porque seria necessário gravar novamente a linha inteira com os JSONs. Então pode fazer sentido considerar tal separação.

    • 1
  2. Erwin Brandstetter
    2023-10-02T09:23:24+08:002023-10-02T09:23:24+08:00

    Como Laurenz aconselhou, os valores das colunas que são armazenados fora de linha em uma tabela TOAST e não são tocados na tabela UPDATEpodem permanecer como estão, economizando trabalho e armazenamento. (As versões de linha antiga e nova da relação principal apontam para a mesma entrada TOAST.)

    Mas há letras miúdas nisso.

    Você já está brindando?

    O tamanho da linha deve exceder TOAST_TUPLE_THRESHOLD(normalmente 2 KB) para ser considerado. Algumas colunas podem já estar compactadas. O mecanismo TOAST tentará então compactar mais colunas até que o tamanho caia abaixo TOAST_TUPLE_TARGET(normalmente os mesmos 2 kb). Somente se isso não acontecer, ele começará a mover os dados para a tabela TOAST, uma coluna por vez.

    O algoritmo de compactação padrão pglzcompacta jsonbos dados em torno do fator 3 a 4 em meu teste rápido. (Varia dependendo do conteúdo.) Portanto, o tamanho bruto da sua linha deve exceder cerca de 7 kb, antes que qualquer coisa seja TOAST. E então, possivelmente, apenas uma das suas duas colunas "grandes". Isso pode deixar você com tuplas de tamanho médio na relação principal de até 2 kb, o que nos traz de volta às suas considerações iniciais.

    Observe mais de perto o tamanho compactado (!) De seus jsonbvalores e o tamanho real da tupla na relação principal (mín, máximo, média, média) para chegar a uma decisão informada.

    Aqui está uma postagem no blog com perguntas úteis:

    • https://jongsma.wordpress.com/2022/06/17/postgresql-toast-tables-and-reference-rows/

    "Inalterado"

    Sobre:

    90 mil solicitações atualizam os campos "jsonb grande" ...

    Normalmente, uma atualização apenas altera uma ou outra coluna ou atualiza uma ou outra sem alterações reais. Os valores da coluna TOASTed permanecem os mesmos se a coluna estiver "inalterada". Para ser mais preciso: se a coluna não estiver segmentada no arquivo UPDATE. Se você substituir uma coluna por um valor inalterado, isso contará como "alterado". O Postgres não verificará se o valor realmente mudou e escreverá uma nova versão de linha, incluindo TOAST. Evite essas atualizações "vazias" com um design de consulta inteligente. Ver:

    • UPDATE grava uma nova versão de linha para valores TOASTed inalterados?
    • Como faço (ou posso) SELECT DISTINCT em várias colunas?

    Algoritmo de compressãolz4

    Se o que você divulgou é tudo o que acontece na sua tabela, considere o algoritmo de compactação LZ4 não padrão. (Disponível desde o Postgres 14. ) É muito mais rápido, mas compacta um pouco menos. (O tamanho resultante foi aproximadamente 15% maior em meu teste rápido de jsonbdados.) Aqui está a postagem do blog com uma comparação exaustiva de quando foi lançado pela primeira vez:

    • https://www.postgresql.fastware.com/blog/what-is-the-new-lz4-toast-compression-in-postgresql-14

    Ver:

    • UPDATE grava uma nova versão de linha para valores TOASTed inalterados?
    • Desative a compactação TOAST para todas as colunas

    Em resumo , use o algoritmo de compactação apropriado, depois use consultas inteligentes, reúna estatísticas válidas sobre seus dados e decida se a divisão de uma ou outra coluna pode fazer sentido. Deve haver um benefício claro para justificar a sobrecarga.

    • 1

relate perguntas

  • Posso ativar o PITR depois que o banco de dados foi usado

  • Práticas recomendadas para executar a replicação atrasada do deslocamento de tempo

  • Os procedimentos armazenados impedem a injeção de SQL?

  • Sequências Biológicas do UniProt no PostgreSQL

  • Qual é a diferença entre a replicação do PostgreSQL 9.0 e o Slony-I?

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host

    • 12 respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Jin conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host 2014-12-02 02:54:58 +0800 CST
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve