AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 27264
Accepted
Jon Seigel
Jon Seigel
Asked: 2012-10-20 08:54:46 +0800 CST2012-10-20 08:54:46 +0800 CST 2012-10-20 08:54:46 +0800 CST

XML rápido, XML lento

  • 772

Nosso aplicativo Windows de atualização de banco de dados precisa transferir alguns dados entre dois bancos de dados como parte do processo para uma determinada atualização única. Escolhi o XML como intermediário para mover os dados.

O processo funciona selecionando um bloco de linhas da origem como XML, que é passado pelo aplicativo para o servidor de destino, onde é fragmentado em uma tabela temporária global. (Os bancos de dados de origem e destino podem estar em 2 instâncias diferentes.) Esse processo se repete até que todos os dados necessários estejam na tabela temporária da instância de destino. Por fim, os registros da tabela temporária são consolidados na tabela de banco de dados de destino real.

O problema que estamos tendo é que, em algumas situações, o segundo bloco é extremamente lento, com uso muito alto da CPU e simplesmente não leva a lugar nenhum. Conseguimos reproduzir o problema em nosso ambiente de hospedagem, mas não no desenvolvedor ou no controle de qualidade. Alguns de nossos clientes também estão tendo esse problema - um deles o deixou rodar durante a noite e finalmente o desligou na manhã seguinte, depois de rodar por 18 (!) horas. Nesse caso, não tenho certeza de quanto avançou; Não consigo passar da segunda parte da hospedagem depois de esperar cerca de 2 horas.

Este é o lote de instruções para o primeiro bloco:

SET NOCOUNT ON;

DECLARE @src xml;
SET @src = CAST(@P1 AS xml);

SELECT
    n.x.value(N'field1[1]', 'uniqueidentifier') AS field1,
    n.x.value(N'field2[1]', 'smallint') AS field2,
    ... (8 more fields of various types) ...
    INTO [##target_2994] /*******/
    FROM @src.nodes('Rows[1]/Row') n(x);

E este é o lote para o segundo e subseqüentes pedaços, que é o problema:

SET NOCOUNT ON;

DECLARE @src xml;
SET @src = CAST(@P1 AS xml);

INSERT INTO [dbo].[##target_2994] /*******/
    SELECT
        n.x.value(N'field1[1]', 'uniqueidentifier') AS field1,
        n.x.value(N'field2[1]', 'smallint') AS field2,
        ... (8 more fields of various types) ...
        FROM @src.nodes('Rows[1]/Row') n(x);

Aqui está o que eu olhei até agora:

  • Não é um problema de bloqueio: as estatísticas de espera são de 99% SOS_SCHEDULER_YIELDna INSERTinstrução.
  • sys.dm_io_virtual_file_statsno alvo tempdbmostra que está basicamente ocioso, então não é um problema de E/S.
  • Todos os dados têm apenas colunas de largura fixa, portanto, não há campos de texto muito longos.
  • O tamanho do bloco de dados é atualmente de 25.000 linhas e podemos reduzi-lo, mas isso não explica a diferença porque testamos com alguns dos mesmos conjuntos de dados perfeitamente. A maior tabela necessária para ser transferida é de aproximadamente 725.000 linhas, o que testou bem.
  • Os planos de consulta são idênticos* entre problema e sem problema (fiz uma comparação de arquivo do XML).
  • As opções de sessão SETsão as mesmas entre problema e sem problema.
  • A versão não parece ser um fator: a hospedagem é 2008 R2 SP1 Enterprise x64; testamos sem problemas em 2005 SP4+ Standard x64 até 2008 R2 SP1+ Developer x86. Os clientes com problemas são 2008 RTM/SP1 Standard/Enterprise x64 (até agora).
  • A virtualização não parece ser um fator: hospedagem e controle de qualidade são virtualizados; dev é parcialmente virtualizado; clientes com problemas são físicos. MAXDOPnão está definido para nenhum dos nossos servidores (max = 4 processadores lógicos); Não tenho certeza sobre as configurações dos clientes.
  • Os dois bancos de dados que estão no mesmo servidor versus servidores diferentes não fazem diferença.
  • Executar o aplicativo de atualização em uma caixa TS versus localmente não faz diferença.
  • As configurações do banco de dados Tempdb são idênticas.
  • Os agrupamentos de instância e banco de dados são idênticos.
  • Alterar o nível de compatibilidade do tempdb no servidor de destino para 90 não ajudou. (Por resposta de Mark )
  • Não há diferenças significativas na configuração da instância. (Por resposta de Jimbo )

Alguém pode sugerir outras coisas para olhar?

* As expressões calculadas receberam nomes diferentes e houve uma diferença < 1% em um dos tamanhos de linha estimados, mas todo o resto foi o mesmo, incluindo as estimativas de custo geral.

sql-server sql-server-2008
  • 2 2 respostas
  • 10718 Views

2 respostas

  • Voted
  1. Best Answer
    Mark Storey-Smith
    2012-10-20T09:47:23+08:002012-10-20T09:47:23+08:00

    Há um problema comparável registrado na conexão para a versão com a qual você está tendo problemas - Uma instrução INSERT usando XML.nodes() é muito, muito, muito lenta no SQL2008 SP1 .

    Usando SQL2008, ao fragmentar XML usando a consulta de nós, o desempenho é bom apenas SELECTing. No entanto, quando você deseja inserir os dados em uma tabela/temptable/tablevariable, o desempenho fica muito ruim.

    • 4
  2. Jimbo
    2012-10-20T09:30:06+08:002012-10-20T09:30:06+08:00

    Compare bancos de dados usando algo como SQL Compare da RedGate

    Compare dados em tabelas usando algo como SQL Data Compare from Redgate

    Se o esquema for idêntico e as diferenças de dados não forem significativas, compare as propriedades da instância SQL.

    Se as diferenças não forem significativas, observe o uso do arquivo temporário.

    Você está inserindo em uma tabela global - tente inserir em uma tabela real que você criou.

    • 0

relate perguntas

  • Quais são as principais causas de deadlocks e podem ser evitadas?

  • Quanto "Padding" coloco em meus índices?

  • Existe um processo do tipo "práticas recomendadas" para os desenvolvedores seguirem para alterações no banco de dados?

  • Como determinar se um Índice é necessário ou necessário

  • Downgrade do SQL Server 2008 para 2005

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    Como ver a lista de bancos de dados no Oracle?

    • 8 respostas
  • Marko Smith

    Quão grande deve ser o mysql innodb_buffer_pool_size?

    • 4 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    restaurar a tabela do arquivo .frm e .ibd?

    • 10 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Como selecionar a primeira linha de cada grupo?

    • 6 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    pedrosanta Listar os privilégios do banco de dados usando o psql 2011-08-04 11:01:21 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST
  • Martin Hope
    bernd_k Quando devo usar uma restrição exclusiva em vez de um índice exclusivo? 2011-01-05 02:32:27 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve