Início / dba / Perguntas / 345929
Accepted
ChristopherTull
Asked: 2025-03-28 03:36:58 +0800 CST

Por que há perda de precisão ao converter float4 inteiro para numérico no PostgreSQL?

  • 772

Eu encontrei o que parece ser uma perda de precisão inesperada ao converter de float4diretamente para numericno PostgreSQL:

select 1079414::float4,
       (1079414::float4)::numeric(15,2) as float4_to_numeric, -- loses precision
       ((1079414::float4)::float8)::numeric(15,2) as float4_to_float8_to_numeric;

Isso produz:

   float4   | float4_to_numeric | float4_to_float8_to_numeric
------------+-------------------+----------------------------
  1,079,414 |          1,079,410 |                  1,079,414

A conversão direta de float4para numericinesperadamente produz 1,079,410em vez do esperado 1,079,414.

A documentação do PostgreSQL afirma : "Em todas as plataformas suportadas atualmente, o realtipo tem um intervalo de aproximadamente 1E-37 a 1E+37 com uma precisão de pelo menos 6 dígitos decimais." E percebo que são 7 dígitos decimais.

No entanto, a Wikipedia observa : "Qualquer número inteiro com valor absoluto menor que 2^24 pode ser representado exatamente no formato de precisão simples"

Como 1.079.414 é muito menor que 2^24 (16.777.216), eu esperaria que ele fosse representado exatamente.

Curiosamente, converter float8primeiro para e depois para numericpreserva o valor total, sugerindo que o PostgreSQL está armazenando a precisão total, mas de alguma forma a perde durante a conversão direta para numeric.

Esse comportamento é um bug ou há alguma razão subjacente para esse comportamento? O que está acontecendo durante a conversão de tipo que causa essa perda de precisão?

Vejo que já existe uma pergunta semelhante , mas esse exemplo usa decimais, enquanto este é sobre um número inteiro menor que 2^24.

postgresql

1 respostas

  1. Best Answer

    Vamos dar uma olhada na implementação

    melkij=> select target_type.typname, pg_proc.prosrc from pg_cast join pg_type target_type on target_type.oid = casttarget join pg_proc on pg_proc.oid = castfunc where castsource in (select oid from pg_type where typname = 'float4');
 typname |     prosrc     
---------+----------------
 int8    | ftoi8
 int2    | ftoi2
 int4    | ftoi4
 float8  | ftod
 numeric | float4_numeric
(5 rows)

    Essas conversões de tipo são implementadas por funções:

    • ftodpara conversão float4 -> float8, nada surpreendente, conversão de tipo direta dentro dos tipos de dados da linguagem C. Mais formalmente, pode diferir devido à implementação do compilador
    • float4_numericpara a conversão de float4 para numérico é um pouco mais inesperado e é implementado convertendo para uma representação de string com FLT_DIGprecisão codificada. FLT_DIGé uma constante de tempo de compilação padrão definida como o número de dígitos decimais de precisão para o tipo de dados float. Mais relacionado a esta questão , provavelmente. FLT_DIGé comumente 6.

    É interessante mencionar aqui que a exibição textual dos valores float4 é influenciada pelo extra_float_digitsparâmetro de configuração de tempo de execução. Por padrão, extra_float_digits é 1, então isso dá FLT_DIG + 1 = 7 na maioria dos casos. Mas float4_numeric não leva em conta extra_float_digits.

    É improvável que seja considerado um bug, pois não viola a promessa de ter pelo menos 6 dígitos decimais.

    • 3

relate perguntas