AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 208822
Accepted
philomathic_life
philomathic_life
Asked: 2018-06-06 10:02:38 +0800 CST2018-06-06 10:02:38 +0800 CST 2018-06-06 10:02:38 +0800 CST

Acelerar a aplicação cruzada sem dica de índice

  • 772

Eu tenho uma tabela muito pequena com 12 linhas que podem ser criadas com a seguinte instrução:

CREATE TABLE dbo.SmallTable(ScoreMonth tinyint NOT NULL PRIMARY KEY,
                            ScoreGoal float NOT NULL
                           );

Eu tenho outra tabela com ≈100M de linhas que pode ser criada com as seguintes declarações:

CREATE TABLE dbo.SlowCrossApply(RecordKey nvarchar(12) NOT NULL,
                                Score1 decimal(3, 2) NOT NULL,
                                Score2 decimal(3, 2) NOT NULL,
                                Score3 decimal(3, 2) NOT NULL,
                                Score4 decimal(3, 2) NOT NULL,
                                Score5 decimal(3, 2) NOT NULL,
                                Score6 decimal(3, 2) NOT NULL,
                                FromToday bit NOT NULL
                               );

ALTER TABLE dbo.SlowCrossApply ADD CONSTRAINT i01PK PRIMARY KEY CLUSTERED(RecordKey ASC)
    WITH(FILLFACTOR = 90, ALLOW_ROW_LOCKS = ON, ALLOW_PAGE_LOCKS = ON,
         DATA_COMPRESSION = PAGE
        );

CREATE NONCLUSTERED INDEX i02TodayRecords ON dbo.SlowCrossApply(FromToday)
    INCLUDE (Score1, Score2, Score3, Score4, Score5, Score6)
    WHERE FromToday = 1
    WITH(FILLFACTOR = 100, ALLOW_ROW_LOCKS = ON, ALLOW_PAGE_LOCKS = ON,
         DATA_COMPRESSION = PAGE
        );

i02TodayRecordstem ≈1M linhas nele. Quando executo a seguinte consulta - tive dificuldade em formatá-la para parecer limpo e evitar uma barra de rolagem horizontal - leva mais de 5 minutos para terminar:

SELECT b.RecordKey,
       COALESCE(NULLIF(ROUND(((0.95 * (ROW_NUMBER() OVER(PARTITION BY a.Prefix
                                                         ORDER BY b.Score6 ASC
                                                        ) - 1
                                      )
                              )
                              / COALESCE(NULLIF(COUNT(*) OVER(PARTITION BY a.Prefix) - 1, 0
                                               ), 1
                                        )
                             ) + 0.005, 2
                            ), 0.96
                      ), 0.95
               ) AS NewScore
FROM (SELECT LEFT(s.RecordKey, 2) AS Prefix,
             CAST(ROUND(sm.ScoreGoal * COUNT(*), 0) AS int) AS Quant
      FROM dbo.SlowCrossApply AS s
      CROSS JOIN dbo.SmallTable AS sm
      WHERE s.FromToday = 1 AND sm.ScoreMonth = MONTH(GETDATE())
      GROUP BY LEFT(s.RecordKey, 2), sm.ScoreGoal
     ) AS a
CROSS APPLY (SELECT TOP(a.Quant) s2.RecordKey, s2.Score6
             FROM dbo.SlowCrossApply AS s2
             WHERE s2.FromToday = 1 AND s2.Score6 > 0 AND LEFT(s2.RecordKey, 2) = a.Prefix
             ORDER BY s2.Score6 DESC
            ) AS b;

A subconsulta externa retorna apenas 10 linhas; e se eu fornecer uma dica para usar i02TodayRecordsou colocar os resultados da subconsulta externa em uma variável de tabela, leva menos de 1 segundo. O resultado final retorna pouco mais de 8.000 linhas.

O plano de execução mostra que 64% do custo é devido a um spool de índice ansioso no índice clusterizado na Cross Applyporção.

Eu sei que a dica de índice funciona (pelo menos por enquanto), mas espero evitar usar uma. Idealmente, eu também não seguiria a rota da variável de tabela. Existe algo que eu possa fazer para que o otimizador de consulta "saiba" utilizar i02TodayRecords? Percebo que há muito mais informações que provavelmente são importantes e farei o possível para fornecer essas informações, se solicitadas.

Algumas informações potencialmente úteis: os índices têm menos de 1% de fragmentação. As estatísticas de ambos os índices foram atualizadas por meio de um FULLSCAN, e o banco de dados está configurado para ter parametrização simples e sniffing de parâmetros — infelizmente, não posso alterar essas configurações. Em relação a este último, o otimizador de consulta não substituiu nenhum valor por parâmetros, ao contrário de outras consultas simples que executei, nas quais fui forçado a usar uma dica para utilizar um índice filtrado específico.

sql-server sql-server-2016
  • 1 1 respostas
  • 1193 Views

1 respostas

  • Voted
  1. Best Answer
    Erik Darling
    2018-06-06T11:30:37+08:002018-06-06T11:30:37+08:00

    O problema que você provavelmente está enfrentando é em torno de SARGability , ou seja, usando a LEFTfunção em sua WHEREcláusula:

    LEFT(s2.RecordKey, 2) = a.Prefix

    Com isso, você fica preso executando a função para cada linha e comparando-a. Você não pode indexar para isso, como está. Colocar a transformação em uma CTE, exibição ou tabela derivada não ajudaria, nem escrever uma função para realizar a manipulação.

    Uma maneira de contornar isso é criar e indexar uma coluna computada:

    ALTER TABLE dbo.SlowCrossApply ADD LeftTwoPrefix AS LEFT(RecordKey, 2);
    

    Que pode ser indexado. Também estou mudando um pouco sua definição de índice:

    CREATE NONCLUSTERED INDEX TodayRecords_Filtered ON 
    dbo.SlowCrossApply(LeftTwoPrefix, FromToday, Score6)
    INCLUDE (Score1, Score2, Score3, Score4, Score5)
    WHERE FromToday = 1
    

    Outra alternativa seria despejar os resultados do seu CROSS JOINem uma tabela temporária:

    SELECT     LEFT(s.RecordKey, 2) AS Prefix, CAST(ROUND(sm.ScoreGoal * COUNT(*), 0) AS INT) AS Quant
    INTO       #yourmom
    FROM       dbo.SlowCrossApply AS s
    CROSS JOIN dbo.SmallTable AS sm
    WHERE      s.FromToday = 1
    AND        sm.ScoreMonth = MONTH(GETDATE())
    GROUP BY   LEFT(s.RecordKey, 2), sm.ScoreGoal;
    

    Você acompanhou:

    ... você concorda com a [coluna] FromToday sendo a chave de índice em i02TodayRecords em vez de RecordKey, ignorando as especificidades da consulta que usei aqui?

    Neste caso, não importa muito. Índices não clusterizados não exclusivos armazenam colunas de chave de índice clusterizado em todos os níveis do índice não clusterizado. Veja meu post aqui: Onde as chaves de índice clusterizadas ousam .

    E:

    Além disso, como RecordKey é "aleatório", provavelmente haveria uma grande fragmentação que ocorreria se fosse a chave de índice, em oposição a FromToday, que sempre será 1. Esses pontos parecem válidos?

    Eu geralmente não me preocupo com a fragmentação do índice, então não. Meu objetivo é criar índices para ajudar nas consultas. Um índice fragmentado é muito mais útil do que um índice inexistente e, em muitas circunstâncias, você nunca notará a fragmentação .

    Espero que isto ajude!

    • 4

relate perguntas

  • SQL Server - Como as páginas de dados são armazenadas ao usar um índice clusterizado

  • Preciso de índices separados para cada tipo de consulta ou um índice de várias colunas funcionará?

  • Quando devo usar uma restrição exclusiva em vez de um índice exclusivo?

  • Quais são as principais causas de deadlocks e podem ser evitadas?

  • Como determinar se um Índice é necessário ou necessário

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host

    • 12 respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Jin conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host 2014-12-02 02:54:58 +0800 CST
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve