AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 19569
Accepted
thinice
thinice
Asked: 2012-06-21 07:54:57 +0800 CST2012-06-21 07:54:57 +0800 CST 2012-06-21 07:54:57 +0800 CST

Tamanho da transação do MySQL - quão grande é muito grande?

  • 772

Eu tenho um processo de importação que é executado de vez em quando e quero que seja um tipo de negócio 'tudo ou nada', também conhecido como: uma transação.

Existem muitos aspectos, e as importações podem render entre 100k-1mil+ registros. Isso equivale a uma carga útil que varia de vários MB a algumas centenas de MB de dados.

Eu sei que as tabelas temporárias são outra opção - mas esse método parece tão útil.

Existem algumas ressalvas a serem observadas em relação a esse tipo de prática com uma grande quantidade de manipulação de dados entre os commits? (Fora da explosão de carga de gravação/indexação típica uma vez confirmada)

mysql innodb
  • 1 1 respostas
  • 31066 Views

1 respostas

  • Voted
  1. Best Answer
    RolandoMySQLDBA
    2012-06-21T10:47:42+08:002012-06-21T10:47:42+08:00

    Um gargalo a ser observado é o InnoDB Log Buffer. O tamanho é definido por innodb_log_buffer_size . Aqui está o que a documentação do MySQL diz sobre isso:

    O tamanho em bytes do buffer que o InnoDB usa para gravar nos arquivos de log no disco. O valor padrão é 8 MB. Um buffer de log grande permite que grandes transações sejam executadas sem a necessidade de gravar o log em disco antes da confirmação das transações. Assim, se você tiver grandes transações, aumentar o buffer de log economiza E/S de disco.

    O InnoDB Log Buffer não deve ser confundido com o InnoDB Buffer Pool. A principal diferença entre eles é o seu propósito. O InnoDB Log Buffer basicamente registrará alterações de curto prazo que são gravadas nos logs de redo (ib_logfile0, ib_logfile1). O InnoDB Buffer Pool (dimensionado por innodb_buffer_pool_size ) armazena dados e páginas de índice que devem ser confirmadas (se as páginas estiverem sujas) e eventualmente gravadas) no disco. Depois de confirmadas, as páginas de alterações permanecem na RAM até serem removidas por meio de regras LRU.

    Grandes transações devem passar pelo Log Buffer. Conforme mencionado, um buffer de log maior reduzirá a E/S do disco. Apenas um commit grande apresentaria um gargalo.

    Você pode querer olhar para outras opções do InnoDB para configurar.

    • innodb_flush_method : Isso determina como o flush é tratado e se deve ou não permitir que o sistema operacional armazene em cache as gravações no InnoDB ( você deve experimentar entre O_DSYNC e O_DIRECT )
    • innodb_read_io_threads (Use o Max: 64)
    • innodb_write_io_threads (Use o Max: 64)
    • innodb_io_capacity (use valores mais altos como 5000 ou 10000, mas o hardware irá completar para você, em outras palavras, deixe o hardware decidir a capacidade de IO assim que você atribuir um número enorme)
    • innodb_thread_concurrency : O valor padrão é 0. Aprendi em primeira mão com Ronald Bradford na Percona NYC 2011 a deixar esse número em 0. Isso permite que o InnoDB decida o melhor número de tickets de simultaneidade que ele pode manipular)

    Eu tenho outros posts sobre como otimizar o InnoDB para pesquisas adicionais

    • Otimizando as configurações padrão do InnoDB
    • Como você ajusta o MySQL para uma carga de trabalho pesada do InnoDB?
    • A tabela InnoDB com muita inserção não usará toda a minha CPU
    • Como melhorar o desempenho do InnoDB DELETE?
    • MySql - Limpar ibdata1
    • 21

relate perguntas

  • Existem ferramentas de benchmarking do MySQL? [fechado]

  • Onde posso encontrar o log lento do mysql?

  • Como posso otimizar um mysqldump de um banco de dados grande?

  • Quando é o momento certo para usar o MariaDB em vez do MySQL e por quê?

  • Como um grupo pode rastrear alterações no esquema do banco de dados?

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    Como ver a lista de bancos de dados no Oracle?

    • 8 respostas
  • Marko Smith

    Quão grande deve ser o mysql innodb_buffer_pool_size?

    • 4 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    restaurar a tabela do arquivo .frm e .ibd?

    • 10 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Como selecionar a primeira linha de cada grupo?

    • 6 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    pedrosanta Listar os privilégios do banco de dados usando o psql 2011-08-04 11:01:21 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST
  • Martin Hope
    bernd_k Quando devo usar uma restrição exclusiva em vez de um índice exclusivo? 2011-01-05 02:32:27 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve