AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / user-217427

0xC0DEGURU's questions

Martin Hope
0xC0DEGURU
Asked: 2024-04-03 23:18:00 +0800 CST

Como excluir em massa de uma tabela InnoDB muito grande, evitando erro de tamanho do buffer de bloqueio excedido?

  • 6

Eu tenho uma tabela InnoDB muito grande que atualmente armazena cerca de 260 milhões de linhas e 40 GB de tamanho.

mysql> SELECT * FROM  INFORMATION_SCHEMA.PARTITIONS WHERE TABLE_SCHEMA = 'db' AND   TABLE_NAME   = 'objects';
+---------------+--------------+------------+----------------+-------------------+----------------------------+-------------------------------+------------------+---------------------+----------------------+-------------------------+-----------------------+------------+----------------+-------------+-----------------+--------------+-----------+---------------------+-------------+------------+----------+-------------------+-----------+-----------------+
| TABLE_CATALOG | TABLE_SCHEMA | TABLE_NAME | PARTITION_NAME | SUBPARTITION_NAME | PARTITION_ORDINAL_POSITION | SUBPARTITION_ORDINAL_POSITION | PARTITION_METHOD | SUBPARTITION_METHOD | PARTITION_EXPRESSION | SUBPARTITION_EXPRESSION | PARTITION_DESCRIPTION | TABLE_ROWS | AVG_ROW_LENGTH | DATA_LENGTH | MAX_DATA_LENGTH | INDEX_LENGTH | DATA_FREE | CREATE_TIME         | UPDATE_TIME | CHECK_TIME | CHECKSUM | PARTITION_COMMENT | NODEGROUP | TABLESPACE_NAME |
+---------------+--------------+------------+----------------+-------------------+----------------------------+-------------------------------+------------------+---------------------+----------------------+-------------------------+-----------------------+------------+----------------+-------------+-----------------+--------------+-----------+---------------------+-------------+------------+----------+-------------------+-----------+-----------------+
| def           | db           | objects    | NULL           | NULL              |                       NULL |                          NULL | NULL             | NULL                | NULL                 | NULL                    | NULL                  |  225970904 |            171 | 38667747328 |            NULL |   8046510080 |         0 | 2024-04-02 12:08:15 | NULL        | NULL       |     NULL |                   |           | NULL            |
+---------------+--------------+------------+----------------+-------------------+----------------------------+-------------------------------+------------------+---------------------+----------------------+-------------------------+-----------------------+------------+----------------+-------------+-----------------+--------------+-----------+---------------------+-------------+------------+----------+-------------------+-----------+-----------------+
1 row in set (0.04 sec)

Para evitar o crescimento infinito da tabela, pretendo excluir as linhas com mais de 2 anos durante os horários em que o banco de dados está menos ocupado todos os dias. Eu tentei a seguinte consulta.

DELETE FROM objects WHERE DATEDIFF(NOW(), timestamp ) >= 731;

Mas isso me dá erro:

Error 1206: The total number of locks exceeds the lock table size

O tamanho innodb_buffer_pool_sizeé de 128 MB, o que acho que é muito baixo. Infelizmente, a máquina host não possui mais de 300 MB de RAM livre. Ainda não tentei aumentar o tamanho do innodb_buffer_pool_sizebuffer, mas suponho que algumas centenas de MB não serão suficientes e não há mais espaço para aumentá-lo. A consulta é muito lenta, a máquina host tem pouca memória RAM, o banco de dados está atendendo ativamente aos clientes e há um aplicativo em execução que insere dados de forma consistente no banco de dados. Tem outro cara que opera com essa aplicação e se quiser reiniciar o banco de dados tenho que pedir para ele primeiro parar aquela aplicação. Portanto, definir innodb_buffer_pool_sizepor tentativa e erro é uma tarefa complicada. Você pode me sugerir como calcular aproximadamente o tamanho mínimo innodb_buffer_pool_sizepara evitar esse erro?

Outra abordagem que não tentei sim - como a tabela possui colunas timestampe objectIDe é indexada por essas colunas as linhas expiradas podem ser excluídas objeto por objeto. Primeiro, vamos coletar todos os IDs de objetos exclusivos:

SELECT DISTINCT objectID FROM objects;

Demora cerca de 30-40 segundos. Em seguida, exclua por objectID:

DELETE FROM objects WHERE objectID = ... DATEDIFF(NOW(), timestamp ) >= 731;

Mas como unir as duas consultas em uma só?

DELETE FROM objects WHERE objectID IN (SELECT DISTINCT objectID FROM objects) AND DATEDIFF(NOW(), timestamp ) >= 731;

dá um erro

ERROR 1093 (HY000): You can't specify target table 'objects' for update in FROM clause
Description:    Ubuntu 12.04.1 LTS

mysql> select version();
+-----------------------------------+
| version()                         |
+-----------------------------------+
| 5.6.14-1+debphp.org~precise+1-log |
+-----------------------------------+

mysql
  • 2 respostas
  • 48 Views
Martin Hope
0xC0DEGURU
Asked: 2024-03-19 01:36:49 +0800 CST

O mysqldump bloqueia o banco de dados inteiro ou apenas tabela por tabela?

  • 8

Gostaria de saber se durante uma mysqldumpexecução da seguinte maneira

mysqldump --all-databases --master-data > dump.sql

todas as tabelas ficam bloqueadas durante todo o processo, ou apenas tabela por tabela? Em outras palavras, interrompe mysqldump(suspende) todas as consultas de escrita durante o processo, ou apenas aquelas que estão tentando modificar a tabela que está sendo exportada atualmente? Essas consultas são interrompidas ou suspensas?

Tenho um grande banco de dados que atende continuamente um aplicativo usado pelos clientes. Tem cerca de 50 GB e levará horas até que o despejo seja concluído. Não consigo parar o banco de dados e preciso despejá-lo sem afetar muito sua capacidade de funcionamento. Pretendo usar esse dump para replicar o banco de dados em outro servidor sob estratégia mestre-escravo. Para sua informação, o log binário está ativado e server_iddefinido.

+-------------------------------+
| version()                     |
+-------------------------------+
| 5.6.14-1+debphp.org~precise+1 |
+-------------------------------+
mysql
  • 1 respostas
  • 412 Views

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host

    • 12 respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Jin conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host 2014-12-02 02:54:58 +0800 CST
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve