AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 176279
Accepted
Thomas Franz
Thomas Franz
Asked: 2017-06-15 07:15:41 +0800 CST2017-06-15 07:15:41 +0800 CST 2017-06-15 07:15:41 +0800 CST

Limite para HASH JOINs

  • 772

Eu tenho uma consulta muito complexa (quem não tem :-)). Nesta consulta está um JOIN para uma tabela como esta (claro que a original tem mais algumas colunas):

CREATE TABLE dbo.tbl_detail (id bigint PRIMARY key, 
                   descr varchar(300), 
                   txt varchar(MAX),
                   descr_p varchar(300)
                  );

Há duas junções para esta tabela na consulta:

  • LEFT JOIN dbo.tbl_detail td1 ON td1.id = main.detail_id
  • LEFT JOIN dbo.tbl_detail td2 ON td2.id = main.second_id
  • A consulta retorna aproximadamente 200 mil linhas.
  • td1 gera todas as colunas
  • td2 gera todas as colunas, exceto [txt] ( varchar(max))

Problema:

  • td2 usa um HASH JOIN
  • mas td1 usa um NESTED LOOKUP (mais de 200k linhas; nenhum problema estatístico, pois as estimativas estão corretas)
  • quando eu removo a coluna [txt] da saída td1 ela usa um HASH JOIN também
  • quando eu altero a coluna para VARCHAR(5000) (ou menor) ela usa um HASH JOIN
  • quando eu altero a coluna para VARCHAR(8000) ela usa o NESTED LOOKUP novamente
  • OPTION (HASH JOIN)ou LEFT HASH JOINfuncionaria, mas produz um plano de consulta extremamente lento

Pergunta: Por que nem sempre usa o HASH JOIN? Existe um limite de comprimento (por coluna ou soma de todas as colunas de saída)?

PS: Microsoft SQL Server 2014 (SP2) Developer Edition

sql-server sql-server-2014
  • 1 1 respostas
  • 1024 Views

1 respostas

  • Voted
  1. Best Answer
    Joe Obbish
    2017-06-15T19:51:01+08:002017-06-15T19:51:01+08:00

    É importante lembrar que o otimizador de consulta não escolhe cada junção individualmente e independentemente de todo o resto da consulta. As junções têm propriedades diferentes, o que significa que um tipo de junção diferente pode ser melhor ou pior dependendo de outras junções ou operações no plano. Posso gerar dados de teste que apresentem comportamento semelhante ao que você vê aqui, mas a reprodução depende da memória disponível para o servidor.

    Coloque 10k linhas cada em duas tabelas:

    CREATE TABLE dbo.tbl_detail (
        id bigint PRIMARY key, 
        descr varchar(300), 
        descr_p varchar(300),
        txt_max varchar(MAX),
        txt_5k varchar(5000)
    );
    
    INSERT INTO dbo.tbl_detail WITH (TABLOCK)
    SELECT TOP (10000)
      ROW_NUMBER() OVER (ORDER BY (SELECT NULL))
    , REPLICATE('DESCR', 60)
    , REPLICATE('descr_p', 40)
    , NULL
    , NULL
    FROM master..spt_values t1
    CROSS JOIN master..spt_values t2;
    
    CREATE TABLE dbo.OUTER_TABLE (
        id bigint primary key,
        id2 bigint
    );
    
    INSERT INTO dbo.OUTER_TABLE WITH (TABLOCK)
    SELECT TOP (10000)
      ROW_NUMBER() OVER (ORDER BY (SELECT NULL))
    , ROW_NUMBER() OVER (ORDER BY (SELECT NULL))
    FROM master..spt_values t1
    CROSS JOIN master..spt_values t2;
    

    Aqui está a consulta para testar:

    SELECT o.*, d.id, d.descr, d.descr_p
    FROM OUTER_TABLE o
    LEFT OUTER JOIN tbl_detail d ON o.ID2 = d.ID
    ORDER BY o.ID;
    

    Se eu adicionar d.txt_5kà SELECTlista, naturalmente recebo uma junção de hash:

    haxixe natural

    No entanto, se eu adicionar d.txt_maxà SELECTlista, naturalmente recebo uma junção de loop:

    laço natural

    A chave aqui é que uma junção de loop preserva a ordem da tabela externa. Isso significa que uma junção de loop aninhado pode evitar uma classificação explícita para algumas consultas. As consultas com uma junção de hash podem precisar fazer a classificação. O custo da classificação depende (entre outras coisas) do tamanho estimado dos dados. O otimizador de consulta estima o tamanho dos dados com base no número estimado de linhas e nos tipos de dados. Com a VARCHAR(5000)coluna obtenho um tamanho estimado de 27 MB e com a VARCHAR(MAX)coluna obtenho um tamanho estimado de 42 MB. Na minha máquina, espera-se que a classificação de 42 MB seja derramada no disco, o que torna o plano de junção de hash muito mais caro do que o plano de loop para a VARCHAR(MAX)coluna.

    Podemos ver isso mais claramente usando dicas para forçar os diferentes planos para que possamos compará-los. Aqui está a comparação para a VARCHAR(5000)consulta:

    5k comparar

    E a comparação para a VARCHAR(MAX)consulta:

    comparação máxima

    Claro, pode não ser por isso que você está vendo o comportamento que está vendo para sua consulta específica. Eu só queria fornecer um exemplo de por que alterar um tipo de dados pode alterar o tipo de junção. Vou assumir que há um problema causado pela junção de loop e que você realmente precisa que seja uma junção de hash. A OPTION (HASH JOIN)dica pode não ser uma boa solução alternativa porque forçará cada junção a ser uma junção de hash na consulta. A LEFT HASH JOINdica pode não ser uma boa solução alternativa porque implica em uma FORCE ORDERdica que significa que o otimizador de consulta não poderá alterar a ordem de junção. Talvez você possa mover a parte problemática da consulta para uma tabela temporária e aplicar as dicas necessárias à consulta menor. É realmente difícil dizer muito sem mais informações.

    Você também pode tentar uma FORCESCANdica para incentivar a junção de hash, embora eu deteste recomendá-la. Certifique-se de testar cuidadosamente:

    SELECT o.*, d.id, d.descr, d.descr_p, d.txt_max
    FROM OUTER_TABLE o
    LEFT OUTER JOIN tbl_detail d WITH (FORCESCAN) ON o.ID2 = d.ID 
    ORDER BY o.ID
    OPTION (MAXDOP 1);
    
    • 3

relate perguntas

  • SQL Server - Como as páginas de dados são armazenadas ao usar um índice clusterizado

  • Preciso de índices separados para cada tipo de consulta ou um índice de várias colunas funcionará?

  • Quando devo usar uma restrição exclusiva em vez de um índice exclusivo?

  • Quais são as principais causas de deadlocks e podem ser evitadas?

  • Como determinar se um Índice é necessário ou necessário

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host

    • 12 respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Jin conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host 2014-12-02 02:54:58 +0800 CST
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve