Posso ativar o PITR depois que o banco de dados foi usado

Question

Milovan Zogovic

Asked: 2013-03-28 01:34:33 +0800 CST2013-03-28 01:34:33 +0800 CST 2013-03-28 01:34:33 +0800 CST

Como tornar o postgresql SUM mais preciso em uma grande quantidade de dados de ponto flutuante?

Estou tentando SOMAR 8 milhões de REALvalores de ponto flutuante ( ) com uma consulta simples como esta:

SELECT SUM(metric) FROM metrics;

No entanto, ele retorna um resultado muito impreciso. Deve retornar 137.586,77, mas retorna 137.303 (diferença de 283,77)

Existe uma maneira de forçar uma consulta a ser mais precisa?

Guru · Answer 1 · 2015-07-15T21:35:43+08:00

Guru

Se você precisar de armazenamento e cálculos exatos (como para valores monetários), use o tipo numérico.

Como você usou o tipo de dados real, pode converter os valores reais em numéricos. Então você pode obter resultados como você esperava.

SELECT SUM(metric::NUMERIC) FROM metrics;

Colin 't Hart · Answer 2 · 2013-03-28T02:13:14+08:00

Best Answer

Colin 't Hart

De acordo com a documentação do tipo de dados REAL http://www.postgresql.org/docs/9.2/static/datatype-numeric.html#DATATYPE-FLOAT ele tem uma precisão de 6 dígitos decimais. Isso é o que você está vendo. Se você precisar de mais precisão, precisará usar double ou um número com precisão fixa.

Talvez converter os reais para algo mais preciso e somar o resultado dê o que você precisa, por exemplo:

SELECT SUM(metric::double) FROM metrics;

helmer mucha · Answer 3 · 2017-10-25T20:31:03+08:00

helmer mucha

SELECT SUM(metric::float) FROM métricas;