AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 60220
Accepted
JohnMerlino
JohnMerlino
Asked: 2014-03-06 10:37:53 +0800 CST2014-03-06 10:37:53 +0800 CST 2014-03-06 10:37:53 +0800 CST

Removendo registros do banco de dados periodicamente que ultrapassam a linha do tempo

  • 772

Eu tenho uma tabela de relatórios que tem literalmente milhões, senão centenas de milhões de registros de relatórios, que datam de 2011. Acho que está diminuindo exponencialmente minhas consultas. Eu só quero manter os relatórios dos últimos 6 meses. Eu tenho uma coluna de tempo na tabela de relatórios que fornece a hora atual para que eu possa usá-la para medir relatórios com mais de 6 meses. Então, estou pensando em executar algum tipo de trabalho cron no meu servidor ubuntu no qual o servidor postgresql está instalado. Mas estou procurando alguma orientação sobre como fazer isso.

postgresql
  • 1 1 respostas
  • 2242 Views

1 respostas

  • Voted
  1. Best Answer
    dezso
    2014-03-06T14:29:20+08:002014-03-06T14:29:20+08:00

    Recentemente, configurei uma solução de arquivamento semelhante. Os números e o destino são um pouco diferentes (este último movendo dados antigos para uma partição de arquivo), mas a ideia é a mesma.

    Primeiro, você precisará de um índice no carimbo de data/hora, para localizar rapidamente as linhas a serem excluídas. Para evitar travamentos excessivos e consequente bloqueio de outros processos, isso é feito preferencialmente com a CONCURRENTLYopção.

    Em segundo lugar, você deve manter sua tabela organizada limpando-a regularmente - se você tiver uma versão relativamente recente do PostgreSQL, há chances de que o banco de dados cuide disso com autovacuum.

    A DELETEdeclaração real será bastante simples. No meu caso, utilizo uma função para isso, para que possamos manter a lógica do banco de dados sob controle de versão. Isso pode parecer

    CREATE OR REPLACE FUNCTION delete_function()
    RETURNS void
    LANGUAGE sql
    AS $body$
    DELETE FROM big_table
    WHERE report_timestamp < now() - interval '6 months';
    $body$;
    

    Você precisará de um script (digamos, um script bash), que simplesmente chama a instrução, como

    #!/bin/bash
    
    psql {connection parameters} -c 'SELECT delete_function()'
    

    A única coisa que resta é configurar uma tarefa cron que chama esse script nos intervalos desejados.

    Ainda há uma coisa a considerar, ou seja, que a primeira exclusão seria enorme. Eu evitaria isso excluindo a grande quantidade de dados antigos em blocos de tamanho adequado, novamente para evitar o bloqueio de outros processos que desejam acessar a tabela. O tamanho desses pedaços pode ser muito diferente com base em suas circunstâncias. Observe que este é mais ou menos um processo manual, a menos que você já tenha um 'chunker' em uso (como nós).

    • 2

relate perguntas

  • Posso ativar o PITR depois que o banco de dados foi usado

  • Práticas recomendadas para executar a replicação atrasada do deslocamento de tempo

  • Os procedimentos armazenados impedem a injeção de SQL?

  • Sequências Biológicas do UniProt no PostgreSQL

  • Qual é a diferença entre a replicação do PostgreSQL 9.0 e o Slony-I?

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host

    • 12 respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Jin conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host 2014-12-02 02:54:58 +0800 CST
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve