Início / dba / Perguntas / 282440
Accepted
ConanTheGerbil
Asked: 2021-01-02 14:07:37 +0800 CST

Significado de precisão 1, escala 0 na mensagem de erro?

  • 772

A que tipo de dados esta mensagem de erro se refere?

ERROR:  numeric field overflow
DETAIL:  A field with precision 1, scale 0 must round to an absolute value less than 10^1.

Estou recebendo o erro listado acima, está vindo de um gatilho de inserção. Como nenhum dos meus tipos de dados é definido explicitamente como NUMERIC(1,0)e como o valor máximo é 10 à potência de 1 (ou seja, 10), estou supondo que esse erro está realmente se referindo a um BOOLEANcampo. No entanto, não consigo encontrar confirmação disso.

ATUALIZAÇÃO
Resolvido. Meu gatilho está tentando analisar algumas strings em números. O erro listado é retornado quando to_number()não obtém uma string no formato esperado.

Isso retorna 1,4 (correto) -

select to_number('1.4','9D9');

Isso retorna o erro mencionado

select to_number('1d4','9D9');

Ainda não tenho certeza por que está reclamando, NUMERIC(1,0)mas pelo menos sei por que há um erro.

postgresql errors

1 respostas

  1. Best Answer

    Isso porque to_number()descarta qualquer coisa, menos caracteres de dados da string de entrada. Os caracteres de dados são: dígitos, sinal, ponto decimal e vírgula. Os caracteres de ruído não são insignificantes, pois ainda contam no comprimento do padrão de formato. Então:

    SELECT to_number('1d4','9D9');

    é efetivamente o mesmo que:

    SELECT to_number('14','9D9');

    Ambos falham porque o padrão '9D9'permite apenas um único dígito antes da vírgula.

    Mas esta expressão válida:

    SELECT to_number('1X4','99D9');  -- added digit to pattern

    não é o mesmo que:

    SELECT to_number('1XXX4','99D9');

    Muito ruído trunca a entrada.

    db<>fique aqui

    E, sim, Dé um especificador de formato para um ponto decimal (independente da localidade) na string padrão (2º argumento da função), mas não na string de entrada (1º argumento da função). Você mesmo já descobriu isso.

    Para abordar a questão no título - Postgres tem uma definição no manual:

    A precisão de a numericé a contagem total de dígitos significativos no número inteiro, ou seja, o número de dígitos em ambos os lados do ponto decimal. A escala de a numericé a contagem de dígitos decimais na parte fracionária, à direita do ponto decimal. Assim, o número 23,5141 tem uma precisão de 6 e uma escala de 4. Os inteiros podem ser considerados como tendo uma escala de zero.

    Dito isso, vejo dois problemas do Postgres aqui:

    1. Documentação ausente

    Não está documentado no manual queto_number() ignora caracteres não-dados na entrada. Nem que aqueles ainda contam contra o comprimento total do padrão.

    2. Erro na mensagem de erro

    Parece haver um erro no DETAIL da mensagem de erro. O observado:

    DETAIL:  A field with precision 1, scale 0 must round to an absolute value less than 10^1.

    Deve ser realmente:

    DETAIL:  A field with precision 2, scale 1 must round to an absolute value less than 10^1.

    O efeito é o mesmo, então o comportamento é coerente. Mas a informação é enganosa.

    • 0

relate perguntas