AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 154766
Accepted
mendosi
mendosi
Asked: 2016-11-10 17:29:57 +0800 CST2016-11-10 17:29:57 +0800 CST 2016-11-10 17:29:57 +0800 CST

Scripts para desabilitar restrições e índices para carregamento de data warehouse

  • 772

Carrego dados em um data warehouse.

Atualmente, tenho um script que uso para descartar restrições e índices de chave estrangeira antes de carregar os dados, por conveniência e velocidade. Há uma grande janela na qual posso fazer o carregamento para não precisar me preocupar com usuários acessando os dados durante o carregamento, mas não quero impactar dados não relacionados em outras tabelas do banco de dados.

Fiz algumas pesquisas aqui e em outros lugares para criar esse script, mas me pergunto se há algumas coisas que posso estar negligenciando que podem tornar o desempenho abaixo do ideal ou se posso estar perdendo algo importante (não sei. .. colunas calculadas ou algo assim?) ou talvez eu esteja fazendo as coisas na ordem errada, etc.

Qualquer conselho é apreciado para torná-lo robusto e eficiente.

Desativar restrições e índices

Editar: removi o WHILEloop que os comentaristas me ajudaram a perceber que era redundante.

Declare @schema varchar(128) = 'dbo';
Declare @sql nvarchar(max) = N'';

-- 1. Indices
-- Select a list of indexes in the schema and generate statements to disable them.
Select @sql = @sql + 'ALTER INDEX ' + QuoteName(idx.name) + ' ON ' + QuoteName(@schema) + '.' + QuoteName(obj.name) + ' DISABLE;' + CHAR(13)
  From sys.indexes As idx
  Join sys.objects As obj On idx.object_id = obj.object_id
  Where ((obj.type = 'U' And idx.type in (2,6)) -- Non-clustered index/columnstore on a table
    Or obj.type = 'V') -- All indexes on indexed views
    And obj.schema_id = (Select schema_id From sys.schemas Where name = @schema)
  Order By obj.name, idx.name;

Execute sp_executesql @sql;


-- 2. Foreign-key constraints
-- Build a list of foreign keys constraints in the schema and generate statements to disable the constraint checking.
Select @sql = @sql + 'ALTER TABLE ' + QuoteName(@schema) + '.' + QuoteName(obj.name) + ' NOCHECK CONSTRAINT ' + QuoteName(fk.name) + ';' + CHAR(13)
  From sys.foreign_keys As fk
  Join sys.objects As obj On fk.parent_object_id = obj.object_id  
  Where obj.schema_id = (Select schema_id From sys.schemas Where name = @schema);

Execute sp_executesql @sql;

Habilite restrições, reconstrua índices e atualize estatísticas

Declare @schema nvarchar(128) = 'dbo';
Declare @sql nvarchar(max) = N'';

-- 1. Indices
-- Build a list of tables in the schema and generate statements to enable the indices on them.
Select @sql = @sql + 'ALTER INDEX ' + QuoteName(idx.name) + ' ON ' + QuoteName(@schema) + '.' + QuoteName(obj.name) + ' REBUILD' + iif(idx.type = 6, ' WITH (MAXDOP = 1);', ' WITH (FILLFACTOR = 100);') + CHAR(13)
  From sys.indexes idx
  Join sys.objects obj ON obj.object_id = idx.object_id
  Where ((obj.type = 'U' And idx.type in (2,6)) -- Non-clustered index on a table
    Or obj.type = 'V') -- All indexes on indexed views
    And obj.schema_id = (Select schema_id From sys.schemas Where name = @schema)
    And idx.is_disabled = 1 -- Don't rebuild indexes that are already online
    And idx.is_hypothetical = 0 -- Don't rebuild hypothetical indexes!
  Order By iif(idx.type = 6, 1, 2), obj.name, idx.name;

Execute sp_executesql @sql;


-- 2. Foreign-key constraints
-- Build a list of foreign keys constraints in the schema and generate statements to enable them with checking.
Select @sql = @sql + 'ALTER TABLE ' + QuoteName(@schema) + '.' + QuoteName(obj.name) + ' WITH CHECK CHECK CONSTRAINT ' + QuoteName(fk.name) + ';' + CHAR(13)
  From sys.foreign_keys fk
  Join sys.objects obj ON obj.object_id = fk.parent_object_id
  Where obj.schema_id = (Select schema_id From sys.schemas Where name = @schema)
  Order By obj.name, fk.name;

Execute sp_executesql @sql;


-- 3. Statistics
-- Build a list of tables in the schema and generate statements to update the statistics on them.
Select @sql = @sql + 'UPDATE STATISTICS ' + QuoteName(@schema) + '.' + QuoteName(obj.name) + ' WITH COLUMNS;' + CHAR(13)
  From sys.objects obj
  Where obj.type = 'U' -- User defined
    AND obj.schema_id = (Select schema_id From sys.schemas Where name = @schema)
  Order By obj.name;

Execute sp_executesql @sql;
sql-server index
  • 4 4 respostas
  • 1908 Views

4 respostas

  • Voted
  1. Best Answer
    Joe Obbish
    2016-11-16T17:34:54+08:002016-11-16T17:34:54+08:00

    Para algumas coisas que você pode não ter considerado:

    1. Se um índice começar como desativado, você acabará reconstruindo-o após a conclusão do script.
    2. Se um índice começar com compactação de página, você o reconstruirá sem compactação.

    Para desempenho:

    1. Como nenhum outro processo está acessando a tabela, você pode reconstruir com a ONLINE = OFFopção de possivelmente um pequeno aumento de desempenho devido a menos bloqueio.
    2. Dependendo do tamanho do tempdb e de seus índices, você pode usar a SORT_IN_TEMPDB = ONopção para aumentar o desempenho.
    3. Você está atualizando as estatísticas em todas as tabelas, mesmo que essa tabela não tenha sido modificada ou tenha poucas linhas alteradas. Você pode tentar ser mais restritivo em suas atualizações e olhar apenas para as tabelas que foram modificadas desde a última atualização de estatísticas ou que foram modificadas.
    4. Parece que você está executando todas essas consultas em uma única sessão. Você já pensou em dividir o trabalho entre várias sessões?
    • 5
  2. Kin Shah
    2016-11-14T16:34:29+08:002016-11-14T16:34:29+08:00

    Desabilitar chaves estrangeiras antes de carregar os dados é um pouco preocupante no seu caso pois quando você está habilitando elas, seu scrip não tem nenhum erro de manipulação.. TRY .. CATCH blocks.

    Depois que os dados são carregados, como você verifica a integridade referencial do seu banco de dados? A simples habilitação de chaves estrangeiras não garante a integridade referencial do seu banco de dados. Você deve pelo menos executar DBCC CHECKCONSTRAINTSe garantir que ele funcione limpo. Consulte: Chaves estrangeiras e seus estados

    Outro ponto que vejo é o trabalho duplo - Qual é o sentido de atualizar as estatísticas depois de reconstruir os índices?

    Lembre-se de que a reconstrução do índice atualizará as estatísticas nas colunas associadas a esse índice .

    Há uma grande janela na qual posso fazer o carregamento para não precisar me preocupar com usuários acessando os dados durante o carregamento, mas não quero impactar dados não relacionados em outras tabelas do banco de dados.

    Eu sugiro que você leia várias técnicas mencionadas no Guia de Desempenho de Carregamento de Dados e aqui na minha resposta .

    • 4
  3. Duane Lawrence
    2016-11-10T19:18:45+08:002016-11-10T19:18:45+08:00

    Cuidado com índices hipotéticos. Se eles forem deixados por uma ferramenta de ajuste porque ela travou e não os removeu, seu script os tornará reais e agora você terá 30 ou 40 índices em uma única tabela e o desempenho nessa tabela será cheio de bloqueios e impasses .

    SELECT dbid = DB_ID(),
           objectid = object_id,
           indid = index_id
    FROM sys.indexes
    WHERE is_hypothetical = 1 ;
    
    • 2
  4. mendosi
    2016-12-05T18:39:15+08:002016-12-05T18:39:15+08:00

    Aqui está o roteiro final que tenho, depois de integrar o feedback de vários entrevistados (só queria reunir tudo para futuros leitores):

    Desativar restrições e índices

    Declare @schema varchar(128) = 'dbo';
    Declare @sql nvarchar(max) = '';
    
    -- 1. Indices
    -- Select a list of indexes in the schema and generate statements to disable them.
    Select @sql = @sql + 'ALTER INDEX ' + QuoteName(idx.name) + ' ON ' + QuoteName(@schema) + '.' + QuoteName(obj.name) + ' DISABLE;' + CHAR(13)
      From sys.indexes As idx
      Join sys.objects As obj On idx.object_id = obj.object_id
      Where ((obj.type = 'U' And idx.type in (2,6)) -- Non-clustered index/columnstore on a table
        Or obj.type = 'V') -- All indexes on indexed views
        And obj.schema_id = (Select schema_id From sys.schemas Where name = @schema)
      Order By obj.name, idx.name;
    
    Execute sp_executesql @sql;
    
    
    -- 2. Foreign-key constraints
    -- Build a list of foreign keys constraints in the schema and generate statements to disable the constraint checking.
    Select @sql = @sql + 'ALTER TABLE ' + QuoteName(@schema) + '.' + QuoteName(obj.name) + ' NOCHECK CONSTRAINT ' + QuoteName(fk.name) + ';' + CHAR(13)
      From sys.foreign_keys As fk
      Join sys.objects As obj On fk.parent_object_id = obj.object_id  
      Where obj.schema_id = (Select schema_id From sys.schemas Where name = @schema);
    
    Execute sp_executesql @sql;
    

    ** Recriar índices, habilitar restrições e atualizar estatísticas **

    Declare @schema varchar(128) = 'dbo';
    Declare @sql nvarchar(max) = '';
    
    -- 1. Indices
    -- Build a list of tables in the schema and generate statements to enable the indices on them.
    Select @sql = @sql + 'ALTER INDEX ' + QuoteName(idx.name) + ' ON ' + QuoteName(@schema) + '.' + QuoteName(obj.name) + 
        ' REBUILD WITH (' + iif(idx.type = 6, 
                                'MAXDOP = 1', 
                                'FILLFACTOR = 100, DATA_COMPRESSION = ' + IsNull(p.data_compression_desc Collate Latin1_General_CI_AS, 'None') + ', ONLINE = OFF, SORT_IN_TEMPDB = ON') 
                        + ');' + CHAR(13)
      From sys.indexes idx
      Join sys.objects obj ON obj.object_id = idx.object_id
      Left Join sys.partitions As p On idx.object_id = p.object_id And idx.index_id = p.index_id
      Where ((obj.type = 'U' And idx.type in (2,6)) -- Non-clustered index on a table
        Or obj.type = 'V') -- All indexes on indexed views
        And obj.schema_id = (Select schema_id From sys.schemas Where name = @schema)
        And idx.is_disabled = 1 -- Don't rebuild indexes that are already online
        And idx.is_hypothetical = 0 -- Don't rebuild hypothetical indexes!
      Order By iif(idx.type = 6, 1, 2), obj.name, idx.name;
    
    Execute sp_executesql @sql;
    
    
    -- 2. Foreign-key constraints
    -- Build a list of foreign keys constraints in the schema and generate statements to enable them with checking.
    Select @sql = @sql + 'ALTER TABLE ' + QuoteName(@schema) + '.' + QuoteName(obj.name) + ' WITH CHECK CHECK CONSTRAINT ' + QuoteName(fk.name) + ';' + CHAR(13)
      From sys.foreign_keys fk
      Join sys.objects obj ON obj.object_id = fk.parent_object_id
      Where obj.schema_id = (Select schema_id From sys.schemas Where name = @schema)
      Order By obj.name, fk.name;
    
    --DBCC CheckConstraints('fForeignKey_Table'); -- Does a soft check of the constraints and returns any values which violate them.
    Execute sp_executesql @sql;
    
    
    -- 3. Statistics
    -- Build a list of tables in the schema and generate statements to update the statistics on them.
    Select @sql = @sql + 'UPDATE STATISTICS ' + QuoteName(@schema) + '.' + QuoteName(obj.name) + ' WITH COLUMNS;' + CHAR(13)
      From sys.objects obj
      Where obj.type = 'U' -- User defined
        AND obj.schema_id = (Select schema_id From sys.schemas Where name = @schema)
      Order By obj.name;
    
    Execute sp_executesql @sql;
    
    • 1

relate perguntas

  • Quais são as principais causas de deadlocks e podem ser evitadas?

  • Quanto "Padding" coloco em meus índices?

  • Como determinar se um Índice é necessário ou necessário

  • O que significa "índice" em RDBMSs? [fechado]

  • Como criar um índice condicional no MySQL?

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host

    • 12 respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Jin conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host 2014-12-02 02:54:58 +0800 CST
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve