AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 44997
Accepted
Chris L
Chris L
Asked: 2013-06-21 12:50:18 +0800 CST2013-06-21 12:50:18 +0800 CST 2013-06-21 12:50:18 +0800 CST

Executando funções em paralelo

  • 772

Isso é para o SQL Server 2012.

Temos alguns processos de importação de arquivos FTP que são coletados e lidos em uma tabela de staging, a partir daí nós massageamos/verificamos os dados antes de passar para a produção. Uma das áreas que está causando alguns problemas são as datas, algumas são válidas, algumas são erros de digitação, outras são simplesmente sem sentido.

Eu tenho as seguintes tabelas de exemplo:

Create Table RawData
(
 InsertID int not null,
 MangledDateTime1 varchar(10) null,
 MangledDateTime2 varchar(10) null,
 MangledDateTime3 varchar(10) null
)

Eu também tenho uma tabela de destino (digamos em produção)

Create Table FinalData
(
  PrimaryKeyID int not null, -- PK constraint here, ident
  ForeighKeyID int not null, -- points to InsertID of RawData
  ValidDateTime1 SmallDateTime null,
  ValidDateTime2 SmallDateTime null,
  ValidDateTime3 SmallDateTime null
)

Eu insiro o seguinte na tabela RawData:

 Insert Into RawData(InsertID, MangledDateTime1, MangledDateTime2, MangledDateTime3)
 Values(1, '20001010', '20800630', '00000000') -- First is legit, second two are not
 Insert Into RawData(InsertID, MangledDateTime1, MangledDateTime2, MangledDateTime3)
 Values(1, '20800630', '20130630', '20000000') -- middle is legit, first/third are not
 Insert Into RawData(InsertID, MangledDateTime1, MangledDateTime2, MangledDateTime3)
 Values(1, '00001010', '00800630', '20130630') -- Last is legit, first two are not

Eu escrevi uma função dbo.CreateDatepara resolver o (s) problema (s). Tentamos limpar os dados da melhor maneira possível (use NULLse não pudermos) e, em seguida, convertemos os dados no tipo de dados correto (neste caso, smalldatetime).

Insert Into FinalData(ForeighKeyID , ValidDateTime1, ValidDateTime2, ValidDateTime3)
Select 
 InsertID
 ,dbo.CreateDate(MangledDateTime1)
 ,dbo.CreateDate(MangledDateTime2)
 ,dbo.CreateDate(MangledDateTime3)
From RawData

Estamos enfrentando alguns problemas de desempenho com as funções. Eu estou querendo saber se/como eles funcionam em paralelo.

Estou assumindo aqui que a função CreateDateestá sendo executada em paralelo à medida que cada linha é inserida. De forma que cada coluna/valor tenha sua função "própria" e seja executada ao mesmo tempo em que insere.

Mas posso estar errado, está executando serial em cada coluna em cada linha à medida que insere?

Código CreateDate():

Alter Function dbo.CreateDate
(
@UnformattedString  varchar(12)
)
Returns smalldatetime
As
Begin
Declare @FormattedDate smalldatetime

If(@UnformattedString Is Not Null)
Begin
    Declare @MaxSmallDate varchar(8) = '20790606'


    -- We got gibberish
    If Len(@UnformattedString) = 1
    Begin
        return null
    End

    -- To account for date and time
    If Len(@UnformattedString) = 12
    Begin
        Select @UnformattedString = Substring(@UnformattedString, 0,9)
    End

    If @UnformattedString = '20000000'
    Begin
        Select @UnformattedSTring = @MaxSmallDate
    End

    -- Some people are sending us two digit years, won't parse right
    If Substring(@UnformattedString,0,3) = '00'
    Begin
        Select @UnformattedString = Replace(@UnformattedString, '00','20')
    End

    -- Some people are fat fingering in people born in 18??, so change to 19??
    If Substring(@UnformattedString,0,3) in ('18')
    Begin
        -- We only want to change the year '18', not day 18 
        SELECT @UnformattedString = STUFF(@UnformattedString, 
                           CHARINDEX('18', @UnformattedString), 2, '19')
    End

    -- We're getting gibberish
    If Substring(@UnformattedString,0,3) not in ('19','20') 
               And Len(@UnformattedString) != 6
    Begin
        Select @UnformattedString = Replace(@UnformattedString, 
                       Substring(@UnformattedString,0,3),'20')
    End

    -- If the 4 digit year is greater than current year, set to max date
    If Convert(int, Substring(@UnformattedString,0,5)) > Year(getdate())
    Begin
        Set @FormattedDate = CONVERT(smalldatetime,@MaxSmallDate,1)
    End
    -- If the 4 digit year is less than 100 years ago, set to max date
    Else If Year(getdate()) - Convert(int, Substring(@UnformattedString,0,5)) >= 100
    Begin
        Set @FormattedDate = CONVERT(smalldatetime,@MaxSmallDate,1)
    End
    Else -- valid date(we hope)
    Begin
        Set @FormattedDate = CONVERT(smalldatetime,@UnformattedString,1) 
    End

    
    
End

Return @FormattedDate
End
Go
sql-server performance
  • 1 1 respostas
  • 2876 Views

1 respostas

  • Voted
  1. Best Answer
    SQLFox
    2013-06-21T13:05:29+08:002013-06-21T13:05:29+08:00

    O uso de funções escalares do T-SQL frequentemente leva a problemas de desempenho* porque o SQL Server faz uma chamada de função separada (usando um contexto T-SQL totalmente novo) para cada linha. Além disso, a execução paralela não é permitida para toda a consulta .

    As funções escalares do T-SQL também podem dificultar a solução de problemas de desempenho (sejam esses problemas causados ​​pela função ou não). A função aparece como uma 'caixa preta' para o otimizador de consulta : é atribuído a ela um custo fixo baixo estimado, independentemente do conteúdo real da função.

    Veja isto e isto para saber mais sobre as armadilhas das funções escalares.

    Você provavelmente ficará melhor usando a nova função TRY_CONVERT no SQL Server 2012:

    SELECT
        InsertID,
        dt1 = TRY_CONVERT(smalldatetime, MangledDateTime1),
        dt2 = TRY_CONVERT(smalldatetime, MangledDateTime2),
        dt3 = TRY_CONVERT(smalldatetime, MangledDateTime3)
    FROM dbo.RawData;
    
    ╔══════════╦═════════════════════╦═════════════════════╦═════════════════════╗
    ║ InsertID ║         dt1         ║         dt2         ║         dt3         ║
    ╠══════════╬═════════════════════╬═════════════════════╬═════════════════════╣
    ║        1 ║ 2000-10-10 00:00:00 ║ NULL                ║ NULL                ║
    ║        1 ║ NULL                ║ 2013-06-30 00:00:00 ║ NULL                ║
    ║        1 ║ NULL                ║ NULL                ║ 2013-06-30 00:00:00 ║
    ╚══════════╩═════════════════════╩═════════════════════╩═════════════════════╝
    

    Após a edição da pergunta

    Vejo que a função contém alguma lógica específica. Você ainda pode usar TRY_CONVERTcomo parte disso, mas definitivamente deve converter a função escalar em uma função in-line. As funções in-line ( RETURNS TABLE) usam uma única SELECTinstrução e são expandidas na consulta de chamada e totalmente otimizadas da mesma forma que as exibições. Pode ser útil pensar em funções in-line como exibições parametrizadas.

    Por exemplo, uma tradução aproximada da função escalar para uma versão in-line é:

    CREATE FUNCTION dbo.CleanDate
        (@UnformattedString  varchar(12))
    RETURNS TABLE
    AS RETURN
    SELECT Result =
        -- Successful conversion or NULL after
        -- workarounds applied in CROSS APPLY
        -- clauses below
        TRY_CONVERT(smalldatetime, ca3.string)
    FROM
    (
        -- Logic starts here
        SELECT        
            CASE
                WHEN @UnformattedString IS NULL
                    THEN NULL
                WHEN LEN(@UnformattedString) <= 1
                    THEN NULL
                WHEN LEN(@UnformattedString) = 12
                    THEN LEFT(@UnformattedString, 8)
                ELSE @UnformattedString
            END
    ) AS Input (string)
    CROSS APPLY
    (
        -- Next stage using result so far
        SELECT 
            CASE 
                WHEN @UnformattedString = '20000000' 
                THEN '20790606' 
                ELSE Input.string
            END
    ) AS ca1 (string)
    CROSS APPLY 
    (
        -- Next stage using result so far
        SELECT CASE
            WHEN LEFT(ca1.string, 2) = '00' THEN '20' + RIGHT(ca1.string, 6)
            WHEN LEFT(ca1.string, 2) = '18' THEN '19' + RIGHT(ca1.string, 6)
            WHEN LEFT(ca1.string, 2) = '19' THEN ca1.string
            WHEN LEFT(ca1.string, 2) = '20' THEN ca1.string
            WHEN LEN(ca1.string) <> 6 THEN '20' + RIGHT(ca1.string, 6)
            ELSE ca1.string
        END
    ) AS ca2 (string)
    CROSS APPLY
    (
        -- Next stage using result so far
        SELECT
            CASE 
                WHEN TRY_CONVERT(integer, LEFT(ca2.string, 4)) > YEAR(GETDATE())
                    THEN '20790606'
                WHEN YEAR(GETDATE()) - TRY_CONVERT(integer, LEFT(ca2.string, 4)) >= 100
                    THEN '20790606'
                ELSE ca2.string
            END
    ) AS ca3 (string);
    

    A função usada nos dados de amostra:

    SELECT
        InsertID,
        Result1 = CD1.Result,
        Result2 = CD2.Result,
        Result3 = CD3.Result
    FROM dbo.RawData AS RD
    CROSS APPLY dbo.CleanDate(RD.MangledDateTime1) AS CD1
    CROSS APPLY dbo.CleanDate(RD.MangledDateTime2) AS CD2
    CROSS APPLY dbo.CleanDate(RD.MangledDateTime3) AS CD3;
    

    Resultado:

    ╔══════════╦═════════════════════╦═════════════════════╦═════════════════════╗
    ║ InsertID ║       Result1       ║       Result2       ║       Result3       ║
    ╠══════════╬═════════════════════╬═════════════════════╬═════════════════════╣
    ║        1 ║ 2000-10-10 00:00:00 ║ 2079-06-06 00:00:00 ║ NULL                ║
    ║        1 ║ 2079-06-06 00:00:00 ║ 2013-06-30 00:00:00 ║ 2079-06-06 00:00:00 ║
    ║        1 ║ 2000-10-10 00:00:00 ║ 2079-06-06 00:00:00 ║ 2013-06-30 00:00:00 ║
    ╚══════════╩═════════════════════╩═════════════════════╩═════════════════════╝
    

    *As funções escalares CLR têm um caminho de invocação muito mais rápido do que as funções escalares T-SQL e não impedem o paralelismo.

    • 10

relate perguntas

  • Quais são as principais causas de deadlocks e podem ser evitadas?

  • Como determinar se um Índice é necessário ou necessário

  • Onde posso encontrar o log lento do mysql?

  • Como posso otimizar um mysqldump de um banco de dados grande?

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Conceder acesso a todas as tabelas para um usuário

    • 5 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    pedrosanta Listar os privilégios do banco de dados usando o psql 2011-08-04 11:01:21 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve