AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 55228
Accepted
MatBailie
MatBailie
Asked: 2013-12-19 01:00:34 +0800 CST2013-12-19 01:00:34 +0800 CST 2013-12-19 01:00:34 +0800 CST

É possível clonar um banco de dados do RedShift?

  • 772

Para alguns trabalhos de teste e desenvolvimento, gostaríamos da capacidade de clonar rotineiramente os bancos de dados existentes do RedShift (todos os esquemas e todos os dados). Algo como uma restauração de backup.

O melhor que posso encontrar começa criando um instantâneo de todo o cluster, o que não é prático neste momento.

Temos scripts para criar o banco de dados e o esquema, mas não temos um mecanismo simples/arrumado para preencher as tabelas de outro banco de dados AWS RedShfit. (Descobrimos que não podemos usar INSERT INTO db_new.schema.table SELECT * FROM db_old.schema.tableporque a sintaxe entre bancos de dados não é suportada)

Alguém tem alguma sugestão?

backup restore
  • 3 3 respostas
  • 11720 Views

3 respostas

  • Voted
  1. Best Answer
    Joe Harris
    2014-06-10T06:22:38+08:002014-06-10T06:22:38+08:00

    Você pode fazer o seguinte:

    • UNLOADseus dados para S3 ( http://docs.aws.amazon.com/redshift/latest/dg/r_UNLOAD.html )
    • Execute seus scripts de implantação no novo banco de dados
    • COPYos dados no novo banco de dados ( http://docs.aws.amazon.com/redshift/latest/dg/r_COPY.html )

    Isso (UNLOAD/COPY) será bastante rápido para um conjunto de dados de tamanho de desenvolvimento.

    • 5
  2. mike_pdb
    2014-01-16T22:45:57+08:002014-01-16T22:45:57+08:00

    Acabei de passar muito tempo fazendo isso. É problemático porque as ferramentas postgres não capturam as informações da chave sort e dist. Postarei scripts completos em nosso repositório github público daqui a pouco, mas, por enquanto, aqui está um script que extrai todas as definições de tabela para criar instruções de tabela. Ele ainda não aborda tipos de compactação de coluna ou chaves primárias, mas pelo menos nos permite recriar tabelas em outro banco de dados. Preenchê-los é, então, uma simples questão de fazer scripts de instruções de carregamento e descarregamento. O script não é bonito devido a uma série de limitações do Redshift sql e eu o observo por muitas horas, mas funciona bem.

    select tm.schemaname||'.'||tm.tablename, 'create table '||tm.schemaname||'.'||tm.tablename
      ||' ('
      ||cp.coldef
      -- primary key
      -- dist key
      || nvl(d.distkey,'')
      --sort key 
      || nvl((select 
             ' sortkey(' ||substr(array_to_string(
                         array( select ','||cast(column_name as varchar(100))  as str from
                               (select column_name from information_schema.columns col where  col.table_schema= tm.schemaname and col.table_name=tm.tablename) c2
                                join 
                                (-- gives sort cols
                                  select attrelid as tableid, attname as colname, attsortkeyord as sort_col_order from pg_attribute pa where 
                                  pa.attnum > 0  AND NOT pa.attisdropped AND pa.attsortkeyord > 0
                                ) st on tm.tableid=st.tableid and c2.column_name=st.colname   order by sort_col_order
                              )
                        ,'')
                      ,2,10000) || ')'
       )
      ,'') ||';'
      from 
    -- t  master table list
    (
    SELECT substring(n.nspname,1,100) as schemaname, substring(c.relname,1,100) as tablename, c.oid as tableid 
    FROM pg_namespace n, pg_class c
    WHERE n.oid = c.relnamespace 
      AND nspname NOT IN ('pg_catalog', 'pg_toast', 'information_schema')
    ) tm 
    -- cp  creates the col params for the create string
    join
    (select 
      substr(str,(charindex('QQQ',str)+3),(charindex('ZZZ',str))-(charindex('QQQ',str)+3)) as tableid
      ,substr(replace(replace(str,'ZZZ',''),'QQQ'||substr(str,(charindex('QQQ',str)+3),(charindex('ZZZ',str))-(charindex('QQQ',str)+3)),''),2,10000) as coldef
    from
    ( select array_to_string(array(
      SELECT  'QQQ'||cast(t.tableid as varchar(10))||'ZZZ'|| ','||column_name||' '|| decode(udt_name,'bpchar','char',udt_name) || decode(character_maximum_length,null,'', '('||cast(character_maximum_length as varchar(9))||')'   )
      -- default
      || decode(substr(column_default,2,8),'identity','',null,'',' default '||column_default||' ')
      -- nullable
      || decode(is_nullable,'YES',' NULL ','NO',' NOT NULL ') 
      -- identity 
      || decode(substr(column_default,2,8),'identity',' identity('||substr(column_default,(charindex('''',column_default)+1), (length(column_default)-charindex('''',reverse(column_default))-charindex('''',column_default)   ) )  ||') ', '') as str 
       from  
      -- ci  all the col info
      (
      select cast(t.tableid as int), cast(table_schema as varchar(100)), cast(table_name as varchar(100)), cast(column_name as varchar(100)), 
      cast(ordinal_position as int), cast(column_default as varchar(100)), cast(is_nullable as varchar(20)) , cast(udt_name as varchar(50))  ,cast(character_maximum_length as int),
       sort_col_order  , decode(d.colname,null,0,1) dist_key 
        from (select * from information_schema.columns c where  c.table_schema= t.schemaname and c.table_name=t.tablename) c
      left join 
      (-- gives sort cols
      select attrelid as tableid, attname as colname, attsortkeyord as sort_col_order from pg_attribute a where 
       a.attnum > 0  AND NOT a.attisdropped AND a.attsortkeyord > 0
      ) s on t.tableid=s.tableid and c.column_name=s.colname
      left join 
      -- gives dist col
      (select attrelid as tableid, attname as colname from pg_attribute a where
       a.attnum > 0 AND NOT a.attisdropped  AND a.attisdistkey = 't'
      ) d on t.tableid=d.tableid and c.column_name=d.colname
      order by ordinal_position
      ) ci 
      -- for the working array funct
      ), '') as str
     from 
     (-- need tableid
     SELECT substring(n.nspname,1,100) as schemaname, substring(c.relname,1,100) as tablename, c.oid as tableid 
     FROM pg_namespace n, pg_class c
     WHERE n.oid = c.relnamespace 
       AND nspname NOT IN ('pg_catalog', 'pg_toast', 'information_schema')
     ) t 
    )) cp on tm.tableid=cp.tableid
    -- add in primary key query here
    -- dist key
    left join
    (  select 
      -- close off the col defs after the primary key 
      ')' ||
      ' distkey('|| cast(column_name as varchar(100)) ||')'  as distkey, t.tableid
      from information_schema.columns c
      join 
      (-- need tableid
      SELECT substring(n.nspname,1,100) as schemaname, substring(c.relname,1,100) as tablename, c.oid as tableid 
      FROM pg_namespace n, pg_class c
      WHERE n.oid = c.relnamespace 
        AND nspname NOT IN ('pg_catalog', 'pg_toast', 'information_schema')
      ) t on c.table_schema= t.schemaname and c.table_name=t.tablename
      join 
      -- gives dist col
      (select attrelid as tableid, attname as colname from pg_attribute a where
       a.attnum > 0 AND NOT a.attisdropped  AND a.attisdistkey = 't'
      ) d on t.tableid=d.tableid and c.column_name=d.colname
    ) d on tm.tableid=d.tableid 
    
    • 4
  3. Merlin
    2021-05-28T22:01:16+08:002021-05-28T22:01:16+08:00

    Gosto da ideia de capturar o estado do banco de dados como código, mas acho que há uma maneira mais fácil no contexto do redshift de instantâneos de backup e restauração deles.

    Este documento da AWS para copiar um banco de dados para outra conta da AWS é um guia, você pode fazer o mesmo dentro da conta ou o que faria em uma restauração de emergência do instantâneo.

    1. Faça um snapshot manual através do console
    2. Restaure um cluster redshift do snapshot.

    Agora que seu esquema e dados estão lá, a próxima tarefa é reduzir esse banco de dados como um ambiente de teste e redimensionar o cluster. Há também endpoints de DNS e outras configurações para limpar, mencionadas no documento.

    A etapa de emagrecimento é a parte interessada, talvez alguém comente sobre isso.

    • 0

relate perguntas

  • Como restaurar o banco de dados usando backup completo antigo e arquivo de log atual

  • Max_allowed_packet alterado e ainda recebendo o erro 'Pacote muito grande'

  • Agendador de tarefas para SQL Server Express

  • Posso ativar o PITR depois que o banco de dados foi usado

  • Backups de banco de dados no Oracle - Exportar o banco de dados ou usar outras ferramentas?

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Conceder acesso a todas as tabelas para um usuário

    • 5 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    pedrosanta Listar os privilégios do banco de dados usando o psql 2011-08-04 11:01:21 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve