Início / dba / Perguntas / 252426
Accepted
TmTron
Asked: 2019-11-03 03:47:08 +0800 CST

Como podemos lidar com erros fora do intervalo ao agregar dados?

  • 772

Por exemplo, temos alguns dados em int8campos e queremos construir agregações: por exemplo, a soma dos quadrados. O resultado também deve ser int8(não um float).

Então, obviamente, calcular a soma dos quadrados para int8-valores pode estourar o int8intervalo e podemos obter bigint out of rangeerros.

Como podemos lidar com esse caso?

  • por exemplo, existe uma maneira de "pegar" este erro e retornar um padrão (por exemplo, max- int8)?
  • ou outras ideias, como evitar isso

Exemplo:

create table test
( val int8);

insert into test VALUES (9223372036854775807), (9223372036854775807);

Esta consulta falhará com bigint out of range:

select sum(val*val) from test;

Para fazer a soma funcionar, podemos converter para numeric:

select sum(val::numeric*val) from test;

mas nossa aplicação precisa de um resultado do tipo int8, então podemos usar leastegreatest

select greatest(+9223372036854775807, least(-9223372036854775808, sum(val::numeric*val))) from test;

Existe alguma maneira interna fácil de "converter"/"converter"/"grampear" de numericvolta ao int8intervalo?

link para exemplo de sqlfiddle

postgresql aggregate

1 respostas

  1. Best Answer

    Se você criar uma função de usuário (ou 2), algumas partes do seu 'problema' podem ser resolvidas:

    DROP FUNCTION IF EXISTS clamp(val numeric);
CREATE FUNCTION clamp(val numeric) RETURNS bigint AS $$
BEGIN
RETURN CASE WHEN val>+9223372036854775807 THEN +9223372036854775807 WHEN val<-9223372036854775808 THEN -9223372036854775808 ELSE val::bigint END;
END; $$
LANGUAGE PLPGSQL;

DROP FUNCTION IF EXISTS clamp(val double precision);
CREATE FUNCTION clamp(val double precision) RETURNS bigint AS $$
BEGIN
RETURN CASE WHEN val>+9223372036854775807 THEN +9223372036854775807 WHEN val<-9223372036854775808 THEN -9223372036854775808 ELSE val::bigint END;
END; $$
LANGUAGE PLPGSQL;

    Depois disso, você pode fazer:

    select clamp(9223372036854775807 * 9223372036854775807::float);

    Isso retornará o bigint 9223372036854775807, que é 'Infinity'

    • 0

relate perguntas