AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 289037
Accepted
D-K
D-K
Asked: 2021-04-01 07:10:57 +0800 CST2021-04-01 07:10:57 +0800 CST 2021-04-01 07:10:57 +0800 CST

Por que a consulta no ETL via SSIS é lenta, mas por meio de um procedimento armazenado local é rápida?

  • 772

Estou vendo o clássico problema 'executa rápido no gerenciador de estúdio, mas lento no aplicativo'. Parece que pode ser sniffing de parâmetros. No entanto, minha experiência com ETL e SSIS é zero.

Do DBA recebi a seguinte consulta e ela termina com um ? em vez de um parâmetro. Aqui está uma amostra ofuscada da consulta:

SELECT 
tablex.x_id, 
tablex.create_ts, 
tablex.update_ts, 
tablex.myStatus, 
tablex.x_type, 
tablex.ami_uploaded, 
tablex.work_id,
tablex_capture_ts,
[column1],
[column2],
[column3],
[column4] 
FROM     sqltable..tablex 
INNER JOIN 
sqltable..tableWork ON tablex.work_id = tableWork.work_id
WHERE  
(tablex.update_ts >= ?)
  • De acordo com o DBA, o ponto de interrogação é substituído por um argumento de 'hora/data' que está uma hora no passado.
  • Quando executo essa mesma consulta localmente a partir de um procedimento armazenado, passando um parâmetro que está há uma hora, ele retorna em menos de um segundo. (o que para mim significa que 'pode' usar o índice existente)
  • Observando esta execução a partir do ETL, leva alguns minutos e o plano de execução mostra as varreduras de tabela.
  • Existe um índice update_ts.

O mecanismo de consulta recomenda um segundo índice update_ts com várias colunas de inclusão. Eu gostaria de evitar isso, se possível, pois aumentará a pressão da memória e não estou convencido de que isso resolva o problema real. Pensamentos?

Isso parece um caso em que as estatísticas de consulta estão distorcidas e, quando o mecanismo de consulta detecta o parâmetro, ele evita usar o índice existente porque o número estimado de linhas está além do limite.

Minhas perguntas:

  1. Como o ? na consulta SSIS são tratadas pelo sql server? Eu sei que o sniffing de parâmetros é uma questão complexa. Eu tenho estudado isso: http://www.sommarskog.se/query-plan-mysteries.html
  2. Se for o mecanismo de consulta farejando o parâmetro (de uma hora no passado) e pensando que o número estimado de linhas está além do ponto de disparo, o que faço para corrigir isso? O DBA recusou a dica OPTIMIZE for RECOMPILE como uma opção e não posso dizer que discordo. (Ele tem um ponto em relação ao histórico de bugs) No entanto, essas consultas acontecem SOMENTE do ETL nos horários programados e talvez isso seja motivo suficiente para usar o HINT independente do possível bug??

Além disso, este é um longo problema com o qual tenho lutado. Todas essas postagens estão relacionadas a esse mesmo problema. Que viagem de descoberta:

Este é um tempo de 'Bloqueio' excessivamente grande e é indicativo de um problema?

SQL Server - Posso remover cirurgicamente um plano de consulta em cache incorreto ou estou perseguindo a ideia errada?

Qualquer conselho é muito apreciado.


Este deve ser o plano de execução real da versão do procedimento armazenado local. Esta versão retorna em 1 segundo e exibe o comportamento QUE EU DESEJO que o ETL tenha:

https://www.brentozar.com/pastetheplan/?id=ry4wy6dBO

Agora, esta é uma captura de tela da versão ETL que leva minutos para ser concluída. Desculpe, não posso fornecer mais detalhes sobre esta consulta específica: Um plano de execução estimado de ETL ruim


Esta é uma captura de tela de um rastreamento de perfil feito durante um período de uma hora. Acho que é assim que os comandos ETL estão sendo executados. Eu ainda não sei porque todos têm o mesmo tempo. Eu também preciso encontrar o preparar também. Olhe para essas colunas de CPU, leituras e duração!

Rastreamento do criador de perfil da consulta ETL

sql-server query-performance
  • 2 2 respostas
  • 820 Views

2 respostas

  • Voted
  1. Best Answer
    Vladislav Zalesak
    2021-04-07T03:05:20+08:002021-04-07T03:05:20+08:00

    Tivemos um problema semelhante com uma consulta que foi chamada de EntityFramework. Foi rápido no SSMS, mas lento na aplicação.

    Ocorreu um erro no mapeamento dos parâmetros, seu tipo, o que fez com que a consulta do aplicativo fizesse uma varredura, devido à consulta se tornar não SARGable.

    Depois de corrigir esse problema, a consulta foi rápida no aplicativo.

    • 1
  2. D-K
    2021-08-22T16:46:09+08:002021-08-22T16:46:09+08:00

    Eu queria compartilhar algumas das descobertas e histórias de sucesso relacionadas a essa longa saga.

    É incrível o que o SSIS e o ETL podem fazer se você gastar tempo para aprender.

    Acontece que OPTION (RECOMPILE) forçou o problema com força bruta e as consultas que costumavam levar 4 minutos, agora levam 800 ms.

    Também hacks mal pensados ​​para obter dados do banco de dados de origem fora do sistema ecológico SSIS... Desaparecido!

    Vale a pena ter as chaves do castelo e gastar tempo aprendendo o sistema.

    Só para dar um exemplo da diversão... um dos sistemas levou 18 minutos no total (o ETL completo) para fazer uma extração de janela de 30 minutos.

    Agora podemos fazer uma janela de 15 minutos e leva 90 segundos para tudo. Extração Transformar e carregar!

    Então a moral da história? Passe algum tempo aprendendo SSIS. Gaste tempo ajustando o sistema.

    • 1

relate perguntas

  • SQL Server - Como as páginas de dados são armazenadas ao usar um índice clusterizado

  • Preciso de índices separados para cada tipo de consulta ou um índice de várias colunas funcionará?

  • Quando devo usar uma restrição exclusiva em vez de um índice exclusivo?

  • Quais são as principais causas de deadlocks e podem ser evitadas?

  • Como determinar se um Índice é necessário ou necessário

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host

    • 12 respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Jin conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host 2014-12-02 02:54:58 +0800 CST
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve