AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 297929
Accepted
Don
Don
Asked: 2021-08-12 16:15:53 +0800 CST2021-08-12 16:15:53 +0800 CST 2021-08-12 16:15:53 +0800 CST

AppDomain 2 SSISDB está marcado para descarregamento devido à pressão de memória

  • 772

Eu tenho um procedimento armazenado que une três tabelas grandes (cerca de 20 milhões de registros cada) e carrega registros em uma tabela temporária. Os dados na tabela temporária são então mesclados em uma tabela existente de cerca de 60 milhões de registros.

O servidor ficou offline com uma mensagem de erro de:

AppDomain 2 (SSISDB.dbo.[runtime].1] está marcado para descarregamento devido à pressão da memória.

Mensagens de registro de erro

Depois de colocar o servidor online novamente, reiniciei os serviços SQL para limpar todos os processos que podem estar demorando. Começou o trabalho novamente e foi concluído sem problemas.

Estou executando o SQL Server 2019 com 128 GB de RAM. A memória máxima do servidor é 117964 MB em um servidor virtual de 64 bits. Alguém me disse no Gerenciador de Tarefas que o uso de memória estava em 94% e esse poderia ser o problema. Mas o SQL não pega toda a memória disponível e a mantém? Então parece que está funcionando como pretendido.

sp_WhoIsActiverevelou algumas consultas com status 'Suspended' e 'Awaiting_Command', mas não acredito que tenham tido muito impacto. 128 GB de ram parecem adequados, mas acho que é relativo ao trabalho que está sendo solicitado a fazer. Alguma idéia de como solucionar problemas ou evitar que aconteça novamente?

A unidade de dados para o servidor é de cerca de 1,6 TB. Os dois bancos de dados maiores na junção são 10 GB com 19 milhões de linhas e 13 GB com 20 milhões de linhas. Esses vão para uma tabela temporária e depois MERGEpara uma tabela de 26 GB com 53 milhões de linhas.

A concessão de memória solicitada é de 45 GB e a real é de 30 GB. O trabalho foi executado fora do horário comercial regular, portanto, não deveria haver consultas concorrentes, mas não posso confirmar 100% que alguém não estava trabalhando até tarde.

Eu notei que ele está tendo que fazer um CONVERT_IMPLICITbem. Isso tem um impacto significativo na memória necessária?

Link para o plano de consulta: https://www.brentozar.com/pastetheplan/?id=SyXaty7xK

sql-server memory
  • 1 1 respostas
  • 1263 Views

1 respostas

  • Voted
  1. Best Answer
    Erik Darling
    2021-08-14T05:33:16+08:002021-08-14T05:33:16+08:00

    Sobre o seu servidor

    Essa consulta se espalha mal em dois lugares, apesar de uma concessão de memória de 29 GB. Isso é o máximo do que uma consulta pode solicitar em seu sistema com a memória máxima do servidor configurada para 115 GB.

    A causa para uma concessão de memória desse tamanho é o otimizador estimando que ele precisará classificar 46 GB de dados:

    NOZES

    Você pode ver os detalhes da porcentagem de concessão de memória consultando o Resource Governor - uma única consulta pode solicitar aproximadamente 25% da configuração de memória máxima do servidor - e até três consultas podem solicitar a concessão total simultaneamente.

    O fato de você obter uma concessão desse tamanho e ainda ver derramamentos dessa magnitude e consumo de tempo provavelmente significa que seu servidor está muito pouco provisionado no que diz respeito à memória.

    NOZES

    Como ambos os operadores são executados no modo de lote, o tempo que você vê é por operador .

    • Horários do Operador

    Tenho certeza de que, se você analisasse as estatísticas de espera para este servidor (dado os 1,6 TB de dados), PAGEIOLATCH_estaria lá em cima, juntamente com potencialmente SLEEP_TASKou IO_COMPLETIONse derramamentos desse tamanho são comuns. Embora ambas as esperas também possam estar associadas a outras coisas, muitas vezes as vejo se acumularem em situações como a sua.

    Eu sugiro primeiro adicionar uma quantidade mais realista de memória ao seu servidor. Não sei qual é esse número (e não posso dizer isso aqui), mas provavelmente apontaria para 512 GB ou mais com base no tamanho dos dados e nada mais. Você também deve ativar as páginas de bloqueio na memória , se ainda não estiver.

    Sobre sua consulta

    Não consigo ver o texto completo, pois tudo o que aparece no plano de consulta é a inserção e parte da lista de seleção , mas, considerando o que parece, posso fazer algumas suposições razoáveis ​​sobre a qualidade geral do código.

    Por exemplo, várias das junções estão em expressões, o que provavelmente indica que você está envolvendo colunas de junção em funções como rtrimou isnullou algo assim.

    NOZES

    Mas seu principal problema está no final da consulta e nos vazamentos mostrados acima.

    Vamos falar sobre eles!

    Junção de hash

    O Hash Join está lá para o DISTINCTque você lançou em sua consulta de 143 colunas . Isso me dá arrepios, e quem escreveu isso deve considerar fortemente algum treinamento se quiser continuar trabalhando com o SQL Server.

    Eu recomendo encontrar uma combinação menor de colunas que produzam linhas exclusivas e usar row_number para marcá-las como mostro neste vídeo:

    • DISTINTAMENTE ruim

    Um exemplo de pseudocódigo se parece com isso:

    WITH 
       cte AS
    (
       SELECT
           *,
            n = 
                ROW_NUMBER..
        FROM ...
    )
    SELECT
        c.*
    FROM cte AS c
    WHERE c.n = 1;
    

    Apenas certifique-se de que seus índices sejam apropriados para suportar a função de janelas.

    • Padrões comuns de plano de consulta para funções de janela: modo de linha versus modo de lote
    • Padrões comuns de plano de consulta para funções de janela: armazenamento de linhas vs índices de armazenamento de colunas
    • Quando a direção de classificação do índice é importante

    Ordenar

    A classificação está lá porque sua #temptabela possui um índice clusterizado.

    NOZES

    Se você criar a tabela como um heap e adicionar o índice posteriormente, poderá evitar esse desconforto quando a consulta for executada, embora adicionar o índice possa não ser divertido dependendo de vários fatores locais.

    • Quando você deve indexar tabelas temporárias?

    Eu também sugiro adicionar uma tablockdica à sua inserção para incentivar uma inserção totalmente paralela, se possível.

    • Aproveitando ao máximo as tabelas temporárias Parte 1: inserções paralelas

    No momento, sua consulta tem um único encadeamento antes da inserção, o que certamente pode prejudicar o desempenho nessa contagem de linhas.

    NOZES

    Dado o estado geral da consulta, pode valer a pena explorar reescritas para dividir a consulta em partes menores que identificam o conjunto exclusivo de chaves em que você está interessado e, em seguida, obter o conjunto completo de colunas em que você está interessado:

    • Informacional vs. Relacional
    • 11

relate perguntas

  • SQL Server - Como as páginas de dados são armazenadas ao usar um índice clusterizado

  • Preciso de índices separados para cada tipo de consulta ou um índice de várias colunas funcionará?

  • Quando devo usar uma restrição exclusiva em vez de um índice exclusivo?

  • Quais são as principais causas de deadlocks e podem ser evitadas?

  • Como determinar se um Índice é necessário ou necessário

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host

    • 12 respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Jin conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host 2014-12-02 02:54:58 +0800 CST
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve