AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 242187
Accepted
carlo.borreo
carlo.borreo
Asked: 2019-07-06 06:52:57 +0800 CST2019-07-06 06:52:57 +0800 CST 2019-07-06 06:52:57 +0800 CST

Declarações preparadas com muitos parâmetros são lentas

  • 772

Eu tenho um aplicativo escrito em PHP com Laravel que prepara e executa regularmente instruções como esta:

   -- All parameters are varchar(10)
   SELECT c1, c2, c3, c4
      from MyBigTable
     where is_active = 1
       and c1 in (@P1, @P2, @P3, @P4 ... @P250)
       AND c2 is not NULL

Os usuários têm uma grade de big data e podem selecionar muitas linhas (há até um botão para selecionar 'ALL'). Se eles selecionarem 250 linhas, essa instrução é o que acontece. Mas leva mais de um minuto para ser executado, o que é inaceitável.

Tabela MyBigTable tem cerca de 10 milhões de linhas. O plano de execução estimado mostra que 100% do tempo é gasto em uma "busca de índice, não clusterizada". A partir disso, deduzo que a situação não pode ser melhorada usando índices, e que o único problema está no uso de declarações preparadas. (Se você acha que estou errado, é só me avisar). Além disso, entendo que essas declarações preparadas são preparadas, usadas uma vez e descartadas, então não acho que sejam realmente benéficas.

Que recomendação devo dar aos desenvolvedores?

Devo apenas dizer a eles para parar de usar instruções preparadas e codificar os 250 valores na consulta?

Ou devo dar a eles alguma solução alternativa, como o uso de tabelas temporárias (crie uma tabela temporária, insira 250 valores e faça uma consulta em MyBigTable JOINed com temp)?

Ou alguma outra ideia?

EDIT: plano de execução https://www.brentozar.com/pastetheplan/?id=rJ-b2XalH

sql-server sql-server-2016
  • 3 3 respostas
  • 473 Views

3 respostas

  • Voted
  1. Tahir Riaz
    2019-07-06T11:01:04+08:002019-07-06T11:01:04+08:00

    1) As cláusulas IN são, durante a fase de otimização, expandidas para múltiplos OR. Exemplo: C1 = @P1 Ou C1 = @P2.

    2) Se a contagem de parâmetros for maior que 63 o processo de otimização irá construir uma tabela interna para ele. Dito isso, não tenho tanta certeza sobre as estatísticas sendo geradas na tabela temporária gerada dinamicamente.

    3) Colocar seus parâmetros em uma tabela #temp pode resultar em um plano de execução ligeiramente diferente, no entanto, isso também pode apresentar problemas de simultaneidade dependendo do design do seu aplicativo.

    4) Antes de introduzir uma tabela temporária, eu tentaria reescrever a consulta em pedaços lógicos menores. Por exemplo, isole o processo de filtro em relação a uma tabela externa menor otimizada e aplique isso com a tabela interna.

    5) Certifique-se de que suas estatísticas estejam atualizadas e que você esteja recebendo um plano de execução paralelo. Seria bom se você pudesse compartilhar seu plano para que possamos dar uma olhada no que está acontecendo.

    Blockquote O plano de execução estimado mostra que 100% do tempo é gasto em uma "busca de índice, não clusterizada". A partir disso deduzo que a situação não pode ser melhorada usando índices,

    6) "busca de índice" pode ser "ruim" se representar muitas leituras lógicas. Você deve verificar as estatísticas para ter certeza de que o ajuste de índice não produzirá melhores resultados.

    • 4
  2. Best Answer
    Erik Darling
    2019-07-06T12:11:05+08:002019-07-06T12:11:05+08:00

    Olhando para o plano de consulta (estimado), a única coisa que se destaca como algo que pode causar um problema se as estimativas estiverem incorretas é o predicado residual em c7.

    NOZES

    Você precisaria capturar um plano real para avaliar completamente se a mudança vale a pena, mas pode valer a pena mudar essa coluna de uma coluna incluída para uma coluna-chave.

    • 4
  3. David Spillett
    2019-07-09T02:05:33+08:002019-07-09T02:05:33+08:00

    Seria útil ver o plano de consulta real para uma das instâncias maiores e talvez os detalhes extras emitidos quando você o executa com SET STATISTICS IO ON. Suspeito que possa estar varrendo toda a tabela nesse ponto, ou todo esse índice grande de índice, pois vi um comportamento semelhante no passado com grandes INcláusulas estáticas. É aqui que a "varredura de salto de índice", conforme implementada pela Oracle, pode ser útil, mas o SQL Server não oferece suporte a isso. Como você está construindo a instrução SQL preparada no código de qualquer maneira, você pode tentar muitos UNIONs para emular o comportamento:

       SELECT [c2], [c1], [c5], [c4], [c3], [c6]
         FROM [MyBigTable]
        WHERE [c7] = 1
          AND [c3] IN = 'a'
          AND [c4] IS NOT NULL
    UNION ALL
       SELECT [c2], [c1], [c5], [c4], [c3], [c6]
         FROM [MyBigTable]
        WHERE [c7] = 1
          AND [c3] IN = 'b'
          AND [c4] IS NOT NULL
    UNION ALL
          ...
    

    (usando ALLcom UNIONpara evitar um tipo distinto desnecessário que pode ser caro)

    Se isso é melhor ou não depende muito do número de linhas que cada um SELECTretorna. No número de linhas...

    e eles podem selecionar muitas linhas (há até um botão para selecionar 'ALL'). Se eles selecionarem 250 linhas, essa instrução é o que acontece. Mas leva mais de um minuto para ser executado, o que é inaceitável.

    Quantas linhas isso implica que estão sendo consideradas? Se selecionar "todos" significa "olhar para todos aqueles 10s de milhões de linhas" (ou "olhar para a maioria deles"), então pode ser simplesmente que isso é rápido, pois seu subsistema de E/S pode fazer o trabalho, mesmo com uma verificação de salto em um índice ideal. E você pode ter um problema de design de aplicativo em vez de um de banco de dados: a opção "all" é realmente de algum uso real para o usuário neste momento?

    • 1

relate perguntas

  • SQL Server - Como as páginas de dados são armazenadas ao usar um índice clusterizado

  • Preciso de índices separados para cada tipo de consulta ou um índice de várias colunas funcionará?

  • Quando devo usar uma restrição exclusiva em vez de um índice exclusivo?

  • Quais são as principais causas de deadlocks e podem ser evitadas?

  • Como determinar se um Índice é necessário ou necessário

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host

    • 12 respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Jin conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host 2014-12-02 02:54:58 +0800 CST
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve