AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 320399
Accepted
DBA Greg14
DBA Greg14
Asked: 2022-12-01 06:42:55 +0800 CST2022-12-01 06:42:55 +0800 CST 2022-12-01 06:42:55 +0800 CST

CTE vs. tabela temporária para exclusões em lote

  • 772

Pergunta de duas partes aqui.

Temos uma tabela grande (entre 1-2 milhões de linhas) com operações DML muito frequentes nela. Durante os períodos de baixo volume, temos um trabalho de agente para remover as linhas mais antigas para manter o tamanho das tabelas sob controle. ele usa o CTE abaixo, que está causando muito bloqueio quando roda:

;with agent_cte (queue_id) as 
(
   select top (3000) queue_id
   from Table_A with (updlock, readpast)
   where state in ('success','error','reject','failed','deleted')
   and modify_timestamp <= DATEADD(dd,- 5,getdate())
   order by modify_timestamp asc
)
   delete from agent_cte 
;

Plano de consulta CTE

Eu reescrevi isso para usar uma tabela temporária para acelerar a consulta e reduzir o bloqueio, mas estou encontrando uma grande diferença de desempenho entre usar INe EXISTSdeterminar quais linhas excluir.

INversão:

-- Create temp Table
create table #Table_AToDelete
    (Queue_id uniqueidentifier,
    PRIMARY KEY(Queue_id)
    );

-- grab top 3k queue_id's older than 5 days, insert into temp table
    Insert into #Table_AToDelete
        select top (3000) queue_id
        from Table_A with (nolock)
        where state in ('success','error','reject','failed','deleted')
        and modify_timestamp <= DATEADD(dd,- 5,getdate())

-- delete the rows from table_A based on rows in temp table
    delete 
        from Table_A
        where queue_id in (select queue_id from #Table_AToDelete)

Plano de mesa temporária

Esta versão é executada em 40 a 50 segundos, no entanto, quando substituo a última linha da instrução delete pela seguinte:

where exists(select queue_id from #Table_AToDelete)

Ainda está funcionando depois de 2 minutos, então cancelei.

Então, as perguntas:

  1. Já vi tabelas temporárias usadas para ajudar no bloqueio e no desempenho antes, mas não entendo completamente POR QUE isso funcionaria melhor do que usar um CTE? Nós temos um índice em Queue_id.
  2. Por que há uma grande diferença de desempenho entre INe EXISTSna exclusão?

Algum feedback sobre como ajustar isso para ter um desempenho melhor ou reduzir ainda mais o bloqueio?

Mais algumas notas:

  • Tanto o CTE quanto a tabela temporária estão disponíveis usando colar o plano (links acima).
  • Existem FKs para duas outras tabelas com atualização e exclusão em cascata, e o plano CTE gasta mais tempo na exclusão, enquanto a versão da tabela temporária gasta mais tempo na tabela principal.
  • De um modo geral, há benefícios de desempenho ao usar uma tabela temporária como esta em comparação com uma CTE?
  • Não tenho permissão para postar esquemas de tabelas, então peço desculpas se os planos não forem informações suficientes.

Também vou testar usando uma visão como neste artigo .

sql-server
  • 2 2 respostas
  • 149 Views

2 respostas

  • Voted
  1. Best Answer
    Erik Darling
    2022-12-02T04:40:17+08:002022-12-02T04:40:17+08:00

    esquisito

    O problema de desempenho em ambas as consultas não tem nada a ver com CTE vs. tabela temporária. Vejo que há uma diferença de tempo, mas me ouça um pouco.

    apenas apague

    Na exclusão direta, você gasta mais tempo excluindo tabelas, não selecionando-as.

    NOZES

    As esperas nesta consulta estão todas relacionadas à leitura e gravação no disco:

    NOZES

    #mesa temporária

    O plano de consulta para a exclusão da tabela #temp mostra o maior tempo gasto nos mesmos dois locais (apenas mais tempo):

    NOZES

    As esperas para esta consulta têm os mesmos gargalos de antes, apenas mais deles:

    NOZES

    diferenças

    Dadas as dificuldades de hardware que ambas as consultas enfrentam, eu meio que esperaria que as diferenças de tempo não fossem repetíveis ou confiáveis, mas mais uma questão de acaso.

    Como elas são repetíveis, você deve ter o cuidado de aplicar as mesmas dicas a ambas as consultas. Sua primeira consulta foi (updlock, readpast)especificada. Ignorar bloqueios de linha por meio da readpastdica pode ser o motivo da diferença pronunciada aqui.

    Dos documentos :

    Quando READPAST é especificado, os bloqueios em nível de linha são ignorados, mas os bloqueios em nível de página não são ignorados.

    Como essa dica de bloqueio não faz muito sentido aqui, tente usar uma dica paglockou tablockcom sua consulta para ignorar o bloqueio em nível de linha.

    Observe as estatísticas de espera novamente:

    NOZES

    Na consulta mais lenta, a contagem de espera é aproximadamente 2x da consulta mais rápida.

    Independentemente disso, o hardware em que você está é incompatível com uma carga de trabalho de banco de dados de produção.

    • 4
  2. Peter
    2022-12-01T09:57:41+08:002022-12-01T09:57:41+08:00
    1. O que é melhor depende do uso. Você pode ver este artigo para mais informações. https://www.brentozar.com/archive/2019/06/whats-better-ctes-or-temp-tables/
    2. Isso ocorre porque você tem um erro em sua consulta EXISTS, ele agora removerá tudo dessa tabela, desde que haja dados na tabela temporária. Você deve substituir essa linha por:

    onde existe (selecione 1 de #Table_AToDelete AS a WHERE a.queue_id = A.queue_id)

    Supondo que na tabela real exista também uma coluna chamada queue_id.

    • 2

relate perguntas

  • SQL Server - Como as páginas de dados são armazenadas ao usar um índice clusterizado

  • Preciso de índices separados para cada tipo de consulta ou um índice de várias colunas funcionará?

  • Quando devo usar uma restrição exclusiva em vez de um índice exclusivo?

  • Quais são as principais causas de deadlocks e podem ser evitadas?

  • Como determinar se um Índice é necessário ou necessário

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host

    • 12 respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Jin conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host 2014-12-02 02:54:58 +0800 CST
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve