AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 297322
Accepted
Stockburn
Stockburn
Asked: 2021-07-29 21:16:27 +0800 CST2021-07-29 21:16:27 +0800 CST 2021-07-29 21:16:27 +0800 CST

SSIS: Extraia dados SQL e divida entre arquivos simples com base na contagem de linhas

  • 772

Eu criei um pacote SSIS simples que consulta uma tabela e extrai dados para um arquivo CSV simples. Na produção, essa extração pode ter milhões de linhas e quero dividir os destinos de arquivo simples em vários arquivos com base na contagem de linhas.

Portanto, crie um novo arquivo cada vez que atingirmos 100.000 linhas com nomes de arquivos como

  • SomeName_01_date.csv
  • SomeName_02_date.csv

Eu encontrei uma ferramenta paga pela ZappySys que fará isso, mas não consigo descobrir como fazê-lo apenas com a caixa de ferramentas SSIS normal, posso estar perdendo algo realmente simples. Encontrei outros posts e vídeos, mas alguns deles envolvem o uso de código adicional fora do conjunto de ferramentas normal, como o site techbrothersit.

Edit: Depois de ler e dos comentários, isso parece ser mais difícil do que o esperado.
Se eu alterar o processo para dividir os arquivos simples com base em uma coluna de data na tabela, isso seria mais direto?

A tabela tem uma coluna de data curta neste formato 2020-07-30, cada arquivo CSV conteria apenas um dia de dados extraídos (pode ser mais de 100K), esses dados são excluídos da tabela. A exclusão ocorrerá após a extração de todos os dados.

Estou tentando usar um contêiner foreach/forloop, mas estou lutando, pois isso é totalmente novo para mim, qualquer ajuda seria apreciada.

ssis sql-server-2016
  • 1 1 respostas
  • 699 Views

1 respostas

  • Voted
  1. Best Answer
    J.D.
    2021-07-30T03:32:45+08:002021-07-30T03:32:45+08:00

    Por que não limitar os dados por meio da consulta que é executada, seja com as cláusulas OFFSETandFETCH ou com um predicado que você pode deslizar a janela a cada iteração no SSIS?

    • 1

relate perguntas

  • Desenvolvimento de BI em Microsoft BI

  • Projeto de datawarehouse: dimensão combinada de data e hora versus dimensões e fusos horários separados de dia e hora

  • Posso fazer o downgrade dos pacotes SSIS para serem executados em versões mais antigas do SQL

  • Encontre material para melhorias no Microsoft BI

  • A maneira mais simples de restringir uma tarefa de processo de execução do SSIS

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host

    • 12 respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Jin conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host 2014-12-02 02:54:58 +0800 CST
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve