AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 46153
Accepted
GWR
GWR
Asked: 2013-07-12 05:25:53 +0800 CST2013-07-12 05:25:53 +0800 CST 2013-07-12 05:25:53 +0800 CST

SQLCMD exportando 16,5 milhões de linhas

  • 772

Estou exportando uma tabela para um arquivo TSV usando sqlcmd e estou tendo problemas. A tabela tem mais de 16 milhões de linhas e cerca de 55 colunas.

O problema é que ele não exporta a tabela completa, mas parece parar aleatoriamente em vários pontos (suponho que seja um tempo limite?) Cada vez que um número diferente de linhas é exportado e cada vez que o arquivo tem um tamanho ligeiramente diferente (indicando que não estou atingindo nenhum limite de linha ou tamanho).

Não estou usando nenhuma chave de tempo limite (o que significa que o padrão "o tempo que for necessário" é usado).

Aqui está o meu comando (com a maioria das colunas removidas para fins de simplificação e ilustração):

sqlcmd -U myUsername -P myPassword -S SERVERNAME -d "DBNAME" -Q "SELECT ROW_KEY, ISNULL(CARRIER_ID, ''),ISNULL(CONVERT(VARCHAR(19),ORDER_DATETIME,120),''),ISNULL(HEIGHT, ''),ISNULL(RESIDENTIAL_CHARGE, '') FROM MYTABLE" -o "OUTPUT_FILE.txt" -h-1 -s"|" -W

Gostaria de saber se poderia ter algo a ver com tempos limite ou o uso de ISNULL () em todas as colunas (embora quando executo a consulta no sql server management studio recebo o número correto de linhas retornadas, por exemplo, 16 milhões +)?

Mais uma vez, recebo cerca de 4 a 8 milhões de linhas de cada vez, mas nunca o valor total. Estou em um sql server 2k5 db e executando o sqlcmd de uma máquina remota com sql server 2k8.

sql-server sqlcmd
  • 3 3 respostas
  • 3988 Views

3 respostas

  • Voted
  1. Best Answer
    db2
    2013-07-12T05:53:16+08:002013-07-12T05:53:16+08:00

    Você provavelmente desejará fazer isso com o bcp, que é destinado a esse tipo de coisa. Seria algo assim:

    bcp "SELECT ROW_KEY, ISNULL(CARRIER_ID, ''),ISNULL(CONVERT(VARCHAR(19),ORDER_DATETIME,120),''),ISNULL(HEIGHT, ''),ISNULL(RESIDENTIAL_CHARGE, '') FROM MYTABLE" queryout OUTPUT_FILE.txt -c -S <servername> -U <login_name> -P <password>
    

    Substitua -c por -w se estiver lidando com nvarchar/nchar e desejar saída Unicode.

    • 6
  2. user507
    2013-07-12T10:30:01+08:002013-07-12T10:30:01+08:00

    Pode considerar o uso do Invoke-Sqlcmd, pois você está trabalhando em uma máquina com o SQL 2008 instalado. Você não obtém a -sopção de separador de coluna sqlcmd, mas dentro do PowerShell você pode exportá-lo para XML ou CSV.

    A sintaxe básica para sua consulta seria:

    
    $q = @"
    SELECT ROW_KEY, 
       ISNULL(CARRIER_ID, ''),
       ISNULL(CONVERT(VARCHAR(19),ORDER_DATETIME,120),''),
       ISNULL(HEIGHT, ''),
       ISNULL(RESIDENTIAL_CHARGE, '') 
    FROM MYTABLE
    "@
    
    Invoke-Sqlcmd -ServerInstance MyServer -Database MyDatabase -Query $q -Username  -
    Password  | Export-Csv MyFile.txt
    

    Então, se você absolutamente precisasse manter um separador específico entre as colunas, basta modificar um pouco sua consulta:

    
    SELECT ROW_KEY + '|' + 
       ISNULL(CARRIER_ID, '') + '|' +
       ISNULL(CONVERT(VARCHAR(19),ORDER_DATETIME,120),'') + '|' +
       ISNULL(HEIGHT, '') + '|' +
       ISNULL(RESIDENTIAL_CHARGE, '')
    FROM MYTABLE
    
    • 3
  3. Jon of All Trades
    2013-07-12T06:14:10+08:002013-07-12T06:14:10+08:00

    O que @db2 disse. Se isso não funcionar, tente segmentar seus dados. Se você tiver um campo de ID inteiro, poderá adicionar

     WHERE ID % @NumSegments = @SegmentNumber
    

    Faça um loop para todos os valores de @SegmentNumber de zero a um a menos que o número de segmentos e você deve obter todos os registros. A implementação do módulo do Microsoft SQL retorna apenas números positivos, ao contrário de alguns ( https://stackoverflow.com/questions/4412179/best-way-to-make-javas-modulus-behave-like-it-should-with-negative-numbers /4412200#4412200 ) idiomas.

    • 0

relate perguntas

  • SQL Server - Como as páginas de dados são armazenadas ao usar um índice clusterizado

  • Preciso de índices separados para cada tipo de consulta ou um índice de várias colunas funcionará?

  • Quando devo usar uma restrição exclusiva em vez de um índice exclusivo?

  • Quais são as principais causas de deadlocks e podem ser evitadas?

  • Como determinar se um Índice é necessário ou necessário

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Conceder acesso a todas as tabelas para um usuário

    • 5 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    pedrosanta Listar os privilégios do banco de dados usando o psql 2011-08-04 11:01:21 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve