Início / dba / Perguntas / 75404
Accepted
kev
Asked: 2014-09-01 22:05:31 +0800 CST

Problemas de arredondamento?

  • 772

Tente isto:

create table test (f float);
insert into test values (330.0);
commit;

select (8 + 330.0/60)::int; --14
select (8 + f/60)::int from test; --14
select (9 + 330.0/60)::int; --15
select (9 + f/60)::int from test; --14

Alguém pode explicar por que a última consulta retorna 14 em vez de 15?

PostgreSQL 9.3.9 on x86_64-unknown-linux-gnu, compiled by gcc (Ubuntu/Linaro 4.6.3-1ubuntu5) 4.6.3, 64-bit
12.04.5 LTS (GNU/Linux 3.2.0-63-virtual x86_64)
postgresql floating-point

1 respostas

  1. Best Answer

    É uma inconsistência entre o arredondamento numerice floatos tipos.

    regress=> select pg_typeof (9 + 330.0/60);
 pg_typeof 
-----------
 numeric
(1 row)

regress=> select pg_typeof(9 + f/60) from test;
    pg_typeof     
------------------
 double precision
(1 row)

regress=> select (9 + 330.0/60);
      ?column?       
---------------------
 14.5000000000000000
(1 row)

regress=> select (9 + f/60) from test;
 ?column? 
----------
     14.5
(1 row)

regress=> select (NUMERIC '14.5000000000000000')::integer;
 int4 
------
   15
(1 row)

regress=> select (FLOAT8 '14.5000000000000000')::integer;
 int4 
------
   14
(1 row)

    Em geral, confiar no arredondamento exato do ponto flutuante pode produzir resultados surpreendentes em valores de borda exatos, porque muitos valores decimais não são representados exatamente no ponto flutuante.

    Se você deseja um arredondamento estrito, considere trabalhar com numerictipos consistentemente. roundVocê também pode achar útil a função explícita .

    Infelizmente, até onde eu sei, o PostgreSQL não oferece regras de arredondamento selecionáveis ​​ou uma roundvariante que permite escolher o modo de arredondamento (arredondamento de banqueiros, sempre para baixo, par, ímpar, etc) como o fornecido pelo Java .

    • 3

relate perguntas