AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 89933
Accepted
Mathieu Guindon
Mathieu Guindon
Asked: 2015-01-23 07:33:11 +0800 CST2015-01-23 07:33:11 +0800 CST 2015-01-23 07:33:11 +0800 CST

dor de cabeça de metadados

  • 772

Um processo sobre o qual não tenho controle é descartar e recriar tabelas em um banco de dados MySQL todas as noites. Isso não seria um problema (eu acho), se ele recriasse as tabelas de forma idêntica todas as vezes. Mas isso não acontece: todas as manhãs eu entro e abro meu projeto SSIS e recebo novos erros/avisos de validação de metadados em tabelas/colunas aleatórias, porque esse processo noturno está criando varcharcolunas com comprimento que varia dependendo dos dados, então ontem eu tinha uma coluna com comprimento de 90, e hoje a mesma coluna na mesma tabela agora tem comprimento de 208, e amanhã pode ser uma história diferente... ou não.

Este banco de dados MySQL é minha fonte de dados primária - eu tenho meu banco de dados Staging no SQL Server e, com uma conexão de servidor vinculada, estou usando o SSIS para selecionar dados dessas tabelas e nas tabelas do SQL Server (com algumas colunas adicionadas), que Estou truncando antes de preenchê-los com os dados remotos (para que os metadados neste banco de dados de preparação sejam corrigidos).

Por que o SSIS precisa validar metadados externos? Se eu desligar a validação do tempo de design, ele diz que está atrasado para o tempo de execução - isso significa que eu só estaria empurrando o problema do tempo de design para o tempo de execução e ainda obteria um pacote com falha?

Eu tenho um script T-SQL que pode realizar a transferência de dados do MySQL para as tabelas de teste do SQL Server, mas esse script é executado em cerca de 45 minutos enquanto o pacote SSIS, quando todos os metadados estão atualizados, é executado em cerca de 5 minutos - escusado será dizer que prefiro encontrar uma maneira de fazer o SSIS parar de reclamar sobre metadados desatualizados do que usar esse script.

Existe uma maneira de trabalhar com esse metamorfo de uma fonte de dados no SSIS e manter minha sanidade?

etl ssis
  • 1 1 respostas
  • 546 Views

1 respostas

  • Voted
  1. Best Answer
    Jeff Sacksteder
    2015-01-27T07:22:06+08:002015-01-27T07:22:06+08:00

    Nesse caso desagradável, acho que a melhor estratégia é compartimentá-lo longe do SSIS. Mova isso para um servidor vinculado com uma visualização alterada ou use alguma outra ferramenta etl como um script powershell para tirá-lo do esquema de dança em uma tabela com um fixo. Se você tiver algum histórico, poderá adivinhar um valor razoável para o tamanho superior do campo. Você sempre pode torná-lo varchar (max). Estou presumindo que o MySql está fazendo um 'select into' para criar a tabela. Em qualquer caso, o MySql não está fazendo nenhuma afirmação confiável sobre os dados, então você precisa fazer isso sozinho antes que o SSIS fique feliz.

    • 1

relate perguntas

  • Duplicando algumas linhas de um fluxo de dados no SSIS

  • Script ActiveX lançando erro de tempo de execução dentro do pacote DTS

  • SQL 2008: erro de trabalho do agente ao abrir arquivos Excel usando o pacote DTS

  • Algum código aberto / ETL gratuito por aí? [fechado]

  • Como posso usar um ETL?

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host

    • 12 respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Jin conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host 2014-12-02 02:54:58 +0800 CST
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve