AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / 问题

All perguntas(dba)

Martin Hope
Taryn
Asked: 2019-12-20 10:23:15 +0800 CST

Por que uma tabela com um Índice Columnstore Clusterizado teria muitos rowgroups abertos?

  • 22

Eu estava enfrentando alguns problemas de desempenho com uma consulta ontem e, após uma investigação mais aprofundada, notei o que acredito ser um comportamento estranho com um índice columnstore clusterizado do qual estou tentando chegar ao fundo.

A mesa é

CREATE TABLE [dbo].[NetworkVisits](
    [SiteId] [int] NOT NULL,
    [AccountId] [int] NOT NULL,
    [CreationDate] [date] NOT NULL,
    [UserHistoryId] [int] NOT NULL
)

com o índice:

CREATE CLUSTERED COLUMNSTORE INDEX [CCI_NetworkVisits] 
   ON [dbo].[NetworkVisits] WITH (DROP_EXISTING = OFF, COMPRESSION_DELAY = 0) ON [PRIMARY]

Atualmente, a tabela tem 1,3 bilhão de linhas e estamos constantemente inserindo novas linhas nela. Quando digo constantemente, quero dizer o tempo todo. É um fluxo constante de inserção de uma linha de cada vez na tabela.

Insert Into NetworkVisits (SiteId, AccountId, CreationDate, UserHistoryId)
Values (@SiteId, @AccountId, @CreationDate, @UserHistoryId)

Plano de execução aqui

Eu também tenho um trabalho agendado que é executado a cada 4 horas para excluir linhas duplicadas da tabela. A consulta é:

With NetworkVisitsRows
  As (Select SiteId, UserHistoryId, Row_Number() Over (Partition By SiteId, UserHistoryId
                                    Order By CreationDate Asc) RowNum
        From NetworkVisits
       Where CreationDate > GETUTCDATE() - 30)
DELETE
FROM NetworkVisitsRows
WHERE RowNum > 1
Option (MaxDop 48)

O plano de execução foi colado aqui .

Enquanto investigava o problema, notei que a NetworkVisitstabela tinha aproximadamente 2.000 rowgroups, com cerca de 800 deles em estado aberto e nenhum perto do máximo permitido (1048576). Aqui está uma pequena amostra do que eu estava vendo:

insira a descrição da imagem aqui

Executei uma reorganização no índice, que comprimiu todos, exceto 1 rowgroup, mas esta manhã verifiquei novamente e novamente temos vários rowgroups abertos - aquele que foi criado ontem após a reorganização, depois 3 outros criados aproximadamente na época da exclusão trabalho correu:

TableName       IndexName           type_desc               state_desc  total_rows  deleted_rows    created_time
NetworkVisits   CCI_NetworkVisits   CLUSTERED COLUMNSTORE   OPEN        36754       0               2019-12-18 18:30:54.217
NetworkVisits   CCI_NetworkVisits   CLUSTERED COLUMNSTORE   OPEN        172103      0               2019-12-18 20:02:06.547
NetworkVisits   CCI_NetworkVisits   CLUSTERED COLUMNSTORE   OPEN        132628      0               2019-12-19 04:03:10.713
NetworkVisits   CCI_NetworkVisits   CLUSTERED COLUMNSTORE   OPEN        397718      0               2019-12-19 08:02:13.063

Estou tentando determinar o que possivelmente pode estar causando isso para criar novos rowgroups em vez de usar o existente.

É possivelmente pressão de memória ou contenção entre a inserção e a exclusão? Esse comportamento está documentado em algum lugar?

Estamos executando o SQL Server 2017 CU 16 Enterprise Edition neste servidor.

O INSERTé MAXDOP 0, o DELETEé MAXDOP 48. Os únicos rowgroups fechados são os do inicial BULKLOADe depois do REORG_FORCEDque eu fiz ontem, então os motivos de trim sys.dm_db_column_store_row_group_physical_statssão REORGe NO_TRIMrespectivamente. Não há rowgroups fechados além desses. Não há atualizações sendo executadas nesta tabela. Calculamos em média cerca de 520 execuções por minuto na instrução insert. Não há particionamento na mesa.

Estou ciente de inserções de gotejamento. Fazemos a mesma coisa em outros lugares e não estamos enfrentando o mesmo problema com vários grupos de linhas abertas. Nossa suspeita é que tenha a ver com a exclusão. Cada grupo de linhas recém-criado está próximo ao horário do trabalho de exclusão agendado. Existem apenas dois armazenamentos delta mostrando linhas excluídas. Na verdade, não excluímos muitos dados desta tabela, por exemplo, durante uma execução ontem, ela excluiu 266 linhas.

sql-server sql-server-2017
  • 3 respostas
  • 1607 Views
Martin Hope
Aleksey Vitsko
Asked: 2019-06-14 01:47:29 +0800 CST

O SQL Server encontrou ocorrências de solicitações de E/S demorando mais de 15 segundos

  • 22

No SQL Server de produção, temos a seguinte configuração:

3 servidores Dell PowerEdge R630, combinados no Grupo de Disponibilidade

Todos os 3 estão conectados a uma única unidade de armazenamento Dell SAN, que é uma matriz RAID
De tempos em tempos, em PRIMARY, vemos mensagens semelhantes às abaixo:

O SQL Server encontrou 11 ocorrências de solicitações de E/S que demoram mais de 15 segundos para serem concluídas no arquivo [F:\Data\MyDatabase.mdf] na identificação do banco de dados 8.
O identificador de arquivo do SO é 0x0000000000001FBC.
O deslocamento da última E/S longa é: 0x000004295d0000.
A duração da E/S longa é: 37397 ms.

Somos novatos na solução de problemas de desempenho

Quais são as formas ou práticas recomendadas mais comuns para solucionar esse problema específico relacionado ao armazenamento?

Quais contadores de desempenho, ferramentas, monitores, aplicativos etc. devem ser usados ​​para restringir a causa raiz de tais mensagens?

Pode haver um Extended Events que possa ajudar, ou algum tipo de auditoria/log?

ATUALIZAÇÃO: adicionei minha própria resposta (veja abaixo), que explica o que fizemos para corrigir o problema

performance sql-server-2017
  • 4 respostas
  • 24280 Views
Martin Hope
Paul White
Asked: 2019-01-29 04:15:34 +0800 CST

Quando o SQL Server avisa sobre uma concessão de memória excessiva?

  • 22

Quais são as condições que produzem um aviso de plano de execução de "Concessão Excessiva" ?

A concessão de memória de consulta detectou "ExcessiveGrant", o que pode afetar a confiabilidade. Tamanho da concessão: inicial 5128 KB, final 5128 KB, usado 16 KB.

SSMS

Plano SSMS

Propriedades do SSMS

Explorador de planos

Explorador de planos

xml do plano de exibição

<Warnings>
    <MemoryGrantWarning GrantWarningKind="Excessive Grant"
        RequestedMemory="5128" GrantedMemory="5128" MaxUsedMemory="16" />
</Warnings>
sql-server execution-plan
  • 1 respostas
  • 4191 Views
Martin Hope
Stuart Blackler
Asked: 2011-08-26 09:20:24 +0800 CST

Ordem de processamento de junção/onde do SQL Server

  • 23

Depois de ler a consulta Slow SQL, não tenho certeza de como otimizar , isso me fez pensar no desempenho geral das consultas. Certamente, precisamos que os resultados da primeira tabela (quando outras tabelas são unidas) sejam tão pequenos quanto possível antes da junção (junções internas para esta questão) para tornar nossas consultas um pouco mais rápidas.

Exemplo, deve isso:

SELECT *
FROM   ( SELECT * FROM table1 WHERE col = @val ) t
INNER JOIN table2 ON col = col2

Seja melhor/mais rápido do que:

SELECT *
FROM table1
INNER JOIN table2 ON col = col2
WHERE table1.col = @val

Minha teoria é a seguinte (essa pode não ser a implementação correta, estou tentando lembrar de um livro interno do SQL Server 2008 que li (MSFT Press)):

  1. O processador de consultas primeiro obtém a tabela da esquerda (tabela1)
  2. Junta a segunda tabela (tabela2) e forma um produto cartesiano antes de filtrar as linhas necessárias (se aplicável)
  3. Em seguida, executa as cláusulas WHERE, ORDER BY, GROUP BY, HAVING com a instrução SEELCT por último.

Portanto, se na instrução nº 1 acima a tabela for menor, o mecanismo SQL terá menos trabalho a fazer ao formar os produtos cartesianos. Então, quando você alcança a instrução where, você tem um conjunto de resultados reduzido para filtrar na memória.

Eu poderia estar tão longe da realidade que é irreal. Como eu disse, é uma teoria.

Seus pensamentos?

Nota : Acabei de pensar nessa questão e ainda não tive a chance de executar nenhum teste.

Nota 2 : Marcado como SQL Server, pois não sei nada sobre a implementação do MySql etc. Sinta-se à vontade para responder/comentar de qualquer maneira

sql-server performance
  • 2 respostas
  • 40193 Views
Martin Hope
emaynard
Asked: 2011-08-19 15:44:20 +0800 CST

Como forço um registro a ter um valor verdadeiro para uma coluna booleana e todos os outros um valor falso?

  • 23

Desejo impor que apenas um registro em uma tabela seja considerado o valor "padrão" para outras consultas ou exibições que possam acessar essa tabela.

Basicamente, quero garantir que essa consulta sempre retornará exatamente uma linha:

SELECT ID, Zip 
FROM PostalCodes 
WHERE isDefault=True

Como eu faria isso no SQL?

mysql database-design
  • 7 respostas
  • 30138 Views
Martin Hope
Lazer
Asked: 2011-08-10 11:18:08 +0800 CST

O que significa escala horizontal?

  • 23

No contexto de banco de dados, encontrei a escalabilidade horizontal como uma das vantagens dos bancos de dados NOSQL. O que significa o termo?

  • CouchDB na Wikipédia
  • NoSQL na Wikipédia

Como isso se compara ao dimensionamento vertical ?

terminology nosql
  • 4 respostas
  • 15363 Views
Martin Hope
datagod
Asked: 2011-05-13 07:26:31 +0800 CST

Justifique NÃO usando a dica (nolock) em todas as consultas

  • 23

Você já teve que justificar NÃO usando uma dica de consulta?

Estou vendo WITH (NOLOCK)em cada consulta que atinge um servidor muito ocupado. É a ponto de os desenvolvedores acharem que deveria estar ativado por padrão, porque odeiam vê-lo em seu código milhares de vezes.

Tentei explicar que está permitindo leituras sujas e eles acabarão com dados ruins, mas eles acreditam que a compensação de desempenho vale a pena. (O banco de dados deles é uma bagunça; não é de admirar que eles tenham problemas de desempenho.)

Se você tiver um exemplo claro de como apresentar o caso contra esse abuso da NOLOCKdica, isso seria apreciado.

sql-server locking
  • 3 respostas
  • 5072 Views
Martin Hope
Jonas
Asked: 2011-03-25 05:58:29 +0800 CST

Como instalo o pgcrypto no PostgreSQL 8.4?

  • 23

Estou usando o Ubuntu Server 10.10 e instalei o PostgreSQL 8.4 usando o apt-get install postgresql. Eu gostaria de usar a sha1()função interna, mas parece que tenho que instalar pgcryptoprimeiro. Mas não sei como instalar.

Não há pgcryptose eu tentar instalá-lo usando apt-get install pgcryptoe não encontrar nenhum arquivo começando com pgcryptono meu sistema (tentei find / -name "pgcrypto*").

Como instalo o pgcrypto para poder usar a digest('word-to-hash','sha1')função em minhas consultas ao banco de dados?


Atualização: estou lutando para instalar o pgcrypto em outra máquina Ubuntu. Depois de instalar o pacote usando sudo apt-get install postgresql-contrib-8.4como faço para instalá-lo no meu banco de dados PostgreSQL atual?

postgresql installation
  • 3 respostas
  • 57035 Views
Martin Hope
olle
Asked: 2011-01-22 04:16:22 +0800 CST

Descubra quais consultas estão causando a maior quantidade de tráfego de rede

  • 23

Em um servidor SQL de produção, vejo picos enormes e intermitentes no tráfego de dados. Até 200Mbit/s que está causando esperas de NETWORK IO que, por sua vez, causam tempos limite de consulta. Como posso descobrir quais consultas estão retornando grandes conjuntos de resultados?

sql-server
  • 3 respostas
  • 14770 Views
Martin Hope
Nifle
Asked: 2011-01-12 11:21:28 +0800 CST

Posso criar um índice em uma tabela em um banco de dados MySQL durante o uso

  • 23

E se puder, algum motivo (desempenho/estabilidade) para não fazê-lo?

mysql index
  • 2 respostas
  • 13658 Views
Prev
Próximo

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host

    • 12 respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Jin conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host 2014-12-02 02:54:58 +0800 CST
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve