AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 44777
Accepted
ineersa
ineersa
Asked: 2013-06-19 04:53:11 +0800 CST2013-06-19 04:53:11 +0800 CST 2013-06-19 04:53:11 +0800 CST

Como adicionar coluna à tabela grande no MySQL

  • 772

Eu sou um desenvolvedor PHP, então não seja rigoroso. Eu tenho uma grande mesa ~ 5,5 GB de despejo. Nosso PM decidiu fazer uma nova coluna nela para realizar novo recurso. A tabela é InnoDB, então o que eu tentei:

  1. Alterar tabela na tela com bloqueio de mesa. Demorou ~30 horas e nada. Então eu simplesmente parei. Primeiro cometi um erro porque não finalizei todas as transações, mas na segunda vez não houve multilock. Estado era copy to tmp table.

  2. Como também preciso aplicar particionamento para esta tabela, decidimos fazer dump, renomear e fazer tabela com o mesmo nome e nova estrutura. Mas o dump está fazendo uma cópia estrita (pelo menos não encontrei outra coisa). Então eu adicionei para despejar uma nova coluna sede consultá-la. Mas alguns erros estranhos começaram. Eu acredito que foi causado por charset. A tabela em utf-8 e o arquivo se tornaram us-ascii após sed. Então, recebi erros (comando desconhecido '\'') em 30% dos dados. Então esse também é um mau caminho.

Quais são as outras opções para fazer isso e acelerar o desempenho (eu posso fazer isso com script php, mas levará muito tempo). Qual será o desempenho de INSERT SELECTneste caso.

Obrigado por qualquer adiantamento.

mysql innodb
  • 6 6 respostas
  • 43803 Views

6 respostas

  • Voted
  1. Best Answer
    user23243
    2013-06-19T05:06:22+08:002013-06-19T05:06:22+08:00

    Use o MySQL Workbench . Você pode clicar com o botão direito do mouse em uma tabela e selecionar "Enviar para o Editor SQL" -> "Criar instrução". Desta forma, nenhuma "propriedade" da tabela será esquecida de adicionar (incluindo CHARSETou COLLATE).
    Com essa enorme quantidade de dados, recomendo limpar a tabela ou a estrutura de dados que você usa (um bom DBA é útil). Se não for possível:

    • renomeie a tabela ( ALTER) e crie uma nova com o CREATEscript que você obtém do Workbench. Você também pode estender essa consulta com o novo campo necessário
    • BULK LOAD os dados da tabela antiga para a nova:
      SET FOREIGN_KEY_CHECKS = 0;
      SET UNIQUE_CHECKS = 0;
      SET AUTOCOMMIT = 0;
      INSERT INTO new_table (fieldA, fieldB, fieldC, ..., fieldN)
         SELECT fieldA, fieldB, fieldC, ..., fieldN
         FROM old_table
      SET UNIQUE_CHECKS = 1;
      SET FOREIGN_KEY_CHECKS = 1;
      COMMIT;
      

      Desta forma você evita indexar/etc para rodar registro por registro. A "atualização" da tabela ainda será lenta (já que a quantidade de dados é enorme), mas essa é a maneira mais rápida que consigo pensar.

      EDIT: Leia este artigo para obter detalhes sobre os comandos usados ​​na consulta de exemplo acima ;)
    • 17
  2. SAK
    2015-08-29T16:13:53+08:002015-08-29T16:13:53+08:00

    alter table add column, algorithm=inplace, lock=noneirá alterar uma tabela MySQL 5.6 sem copiar a tabela e sem travar o impacto.

    Acabei de testar isso ontem, a massa inseriu 70 mil linhas em uma tabela de partição de 280 mil linhas 7, 10 mil linhas em cada partição, com 5 segundos de suspensão entre eles para permitir outra taxa de transferência.

    Iniciou as inserções em massa e, em uma sessão separada, iniciou a alterinstrução on-line acima no MySQL Workbench, alterterminou antes das inserções, duas novas colunas foram adicionadas e nenhuma linha resultou da alteração, significando que o MySQL não copiou nenhuma linha.

    • 15
  3. Derek Downey
    2013-06-19T05:31:50+08:002013-06-19T05:31:50+08:00

    Sua ideia do sed é um método decente, mas sem os erros ou o comando que você executou, não podemos ajudá-lo.

    No entanto, um método bem conhecido para fazer alterações online em tabelas grandes é pt-online-schema-change . A visão simplista do que essa ferramenta faz é copiada da documentação:

    pt-online-schema-change funciona criando uma cópia vazia da tabela a ser alterada, modificando-a conforme desejado e copiando linhas da tabela original para a nova tabela. Quando a cópia estiver concluída, ela afasta a tabela original e a substitui pela nova. Por padrão, ele também descarta a tabela original.

    Esse método também pode demorar um pouco para ser concluído, mas durante o processo a tabela original será completamente utilizável.

    • 6
  4. Kubilay
    2014-11-20T07:33:49+08:002014-11-20T07:33:49+08:00

    Acho que o Mydumper/Myloader é uma boa ferramenta para operações como esta: Está melhorando a cada dia. Você pode utilizar suas CPUs e carregar dados em paralelo: http://www.percona.com/blog/2014/03/10/new-mydumper-0-6-1-release-offers-several-performance-and- recursos de usabilidade/

    Eu consegui carregar centenas de tabelas MySQL de gigabytes em horas.

    Agora, quando se trata de adicionar uma nova coluna, é complicado, pois o MySQL copia toda a tabela para a TMPárea de memória com ALTER TABLE...Embora o MySQL 5.6 diga que pode fazer alterações de esquema online, não consegui fazê-las online para tabelas massivas sem bloqueio disputa ainda.

    • 1
  5. iJanki
    2018-11-08T07:20:42+08:002018-11-08T07:20:42+08:00

    Atualmente, a melhor opção para alterar tabelas enormes é provavelmente https://github.com/github/gh-ost

    gh-ost é uma solução de migração de esquema online sem gatilho para MySQL. É testável e oferece capacidade de pausa, controle/reconfiguração dinâmica, auditoria e muitas vantagens operacionais.

    gh-ost produz uma carga de trabalho leve no mestre durante a migração, desacoplada da carga de trabalho existente na tabela migrada.

    Ele foi projetado com base em anos de experiência com soluções existentes e muda o paradigma das migrações de tabelas.

    • 1
  6. AirCoder
    2018-11-21T06:19:42+08:002018-11-21T06:19:42+08:00

    acabei de ter o mesmo problema. Uma pequena solução alternativa:

    CREATE TABLE nova_tabela SELECT * FROM tabela antiga;

    DELETE DE nova_tabela

    ALTER TABLE nova_tabela ADD COLUMN nova_coluna int(11);

    INSERT INTO new_table select *, 0 from old_table

    soltar tabela tabela_antiga; renomear tabela new_table TO old_table;

    • -2

relate perguntas

  • Existem ferramentas de benchmarking do MySQL? [fechado]

  • Onde posso encontrar o log lento do mysql?

  • Como posso otimizar um mysqldump de um banco de dados grande?

  • Quando é o momento certo para usar o MariaDB em vez do MySQL e por quê?

  • Como um grupo pode rastrear alterações no esquema do banco de dados?

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Conceder acesso a todas as tabelas para um usuário

    • 5 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    pedrosanta Listar os privilégios do banco de dados usando o psql 2011-08-04 11:01:21 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve