AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 51210
Accepted
Question3CPO
Question3CPO
Asked: 2013-10-09 06:57:05 +0800 CST2013-10-09 06:57:05 +0800 CST 2013-10-09 06:57:05 +0800 CST

Importando vários arquivos de rastreamento para uma tabela do SQL Server

  • 772

Estou importando mais de 200 arquivos de rastreamento (que são enormes) e minha abordagem atual é executar um loop e inserir os dados de rastreamento (consulte o script abaixo). Eu olhei em volta para ver se havia uma maneira mais rápida de fazer isso, seja por SSIS ou C # e parece que eles ainda chamam a função abaixo, semelhante ao script abaixo.

Alguém tem outros métodos que eles usam para importar vários rastreamentos? Não me interpretem mal, o código abaixo funciona, mas estou curioso para saber se há algo mais rápido que não estou considerando.

DECLARE @start INT = 1, @stop INT = 223, @sql NVARCHAR(MAX), @path VARCHAR(1000)


WHILE @start <= @stop
BEGIN

       SET @path = 'N:\Traces\TraceFile_' + CAST(@start AS VARCHAR(5)) + '.trc'

       SET @sql = 'INSERT INTO SavedTraces
                   SELECT *
                   FROM ::fn_trace_gettable(''' + @path + ''', default)
                    '

       EXECUTE sp_executesql @sql

       SET @start = @start + 1
       SET @path = ''
       SET @sql = ''

END

Notas de dados: 490 MB (~.5G), que contém mais de 11.700.000 linhas, requer 13:11 minutos para importar.

sql-server trace
  • 2 2 respostas
  • 6349 Views

2 respostas

  • Voted
  1. Remus Rusanu
    2013-10-09T09:22:50+08:002013-10-09T09:22:50+08:00

    Dependerá inteiramente de onde está o gargalo. O que exige que você meça e aborde isso como qualquer outro problema de desempenho.

    • Se o gargalo for o INSERTdesempenho, certifique-se de obter o registro mínimo. O The Data Loading Performance Guide é, obviamente, leitura obrigatória.

    • Se o gargalo estiver lendo os rastros fn_trace_gettableentão... você tem um problema. Pode ser um disco de origem lento (verifique se o acesso é serializado e o cabeçote não fica randomizado) ou fn_trace_gettableele mesmo pode ser lento (não é, é o disco, mas você deve medir...). Lembre-se de que, mesmo que a leitura dos arquivos TRC de origem seja lenta, a leitura de muitos deles em paralelo a partir de caminhos de acesso de entrada não sobrepostos (ou seja, discos separados) pode obter uma taxa de transferência muito melhor.

    • Se o gargalo é... hmmm... não vejo o que mais poderia ser o gargalo. Mas é claro que você deve medir, obter contadores de desempenho, identificar para onde o tempo vai.

    Em última análise, seu problema é bastante esotérico, então a essência dele é que você precisa medir e se adaptar às suas descobertas.

    • 3
  2. Best Answer
    Kin Shah
    2013-10-09T07:14:23+08:002013-10-09T07:14:23+08:00

    Dependendo do que estou procurando nos arquivos de rastreamento, normalmente usaria

    • SQL Nexus do codeplex.

    Carregamento de dados rápido e fácil: você pode carregar arquivos SQL Trace de forma rápida e fácil ; Saída de script T-SQL, incluindo consultas SQL DMV; e o Monitor de desempenho faz login em um banco de dados do SQL Server para análise. Todas as três instalações usam APIs de carregamento em massa para inserir dados rapidamente . Você também pode criar seu próprio importador para um tipo de arquivo personalizado.

    Visualize os dados carregados por meio de relatórios: Depois que os dados são carregados, você pode disparar vários gráficos e relatórios diferentes para analisá-los.

    Agregação de rastreamento para mostrar as N consultas mais caras (usando ReadTrace).

    • Limpar rastreamento . Muito bom + também tem opções de linha de comando.

    Obviamente, você também pode usar o powershell , mas achei os acima mais úteis quando você precisa carregar um grande número de arquivos de rastreamento com eficiência.

    • 2

relate perguntas

  • SQL Server - Como as páginas de dados são armazenadas ao usar um índice clusterizado

  • Preciso de índices separados para cada tipo de consulta ou um índice de várias colunas funcionará?

  • Quando devo usar uma restrição exclusiva em vez de um índice exclusivo?

  • Quais são as principais causas de deadlocks e podem ser evitadas?

  • Como determinar se um Índice é necessário ou necessário

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Conceder acesso a todas as tabelas para um usuário

    • 5 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    pedrosanta Listar os privilégios do banco de dados usando o psql 2011-08-04 11:01:21 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve